字节或损失千万美元实习生恶意破坏模型训练

admin 阅读：65 2024-10-21 09:08:13 评论：0

字节或损失千万美元10月18日，多个微信群流传一则消息，称某头部大厂的大模型训练被实习生入侵，注入了破坏代码，导致其训练成果不可靠，可能需要重新训练。据称遭到入侵的代码影响了8000多张卡，带来的损失可能超过千万美元。知情人士透露，该头部大厂为字节跳动。事件发生在今年6月，起因是某高校的一名博士在字节跳动商业化技术团队实习时，因对团队资源分配不满，使用攻击代码破坏了团队的模型训练任务。传闻显示，这名田姓实习生利用了HF（huggingface）的漏洞，在公司的共享模型里写入破坏代码，导致模型的训练效果忽高忽低，无法产生预期的效果，且AML团队无法核查原因。但传闻曝出后，该实习生在某微信群里辟谣称，自己发完论文后就从字节跳动离职，这个当口有另一个人钻漏洞改模型代码，把责任推到自己头上。字节跳动内部调查明确此事为田姓实习生所为。目前，该实习生已被辞退，公司同时将此事同步给行业联盟和该实习生所在的学校。尽管该实习生被辞退后到处“辟谣”甩锅，称是其他人所为，但事实上他确实攻击了商业化技术团队的模型训练任务，影响了一些业务进展，但整体对公司造成的损失并没有传闻中的超过千万美元那么大。

本文 htmlit 原创，转载保留链接！网址：https://m.0517w.org/news/18440.html

声明

1.本站遵循行业规范，任何转载的稿件都会明确标注作者和来源；2.本站的原创文章，请转载时务必注明文章作者和来源，不尊重原创的行为我们将追究责任；3.作者投稿可能会经我们编辑修改或补充。