篡改代码并攻击大模型,前实习生被字节跳动起诉并索赔 800 万元
创始人
2024-11-28 09:53:46
0

DoNews11月28日消息,据《南方都市报》报道,字节跳动起诉前实习生田某某篡改代码攻击公司内部模型训练一案,已获北京市海淀区人民法院正式受理。字节跳动请求法院判令田某某赔偿公司侵权损失 800 万元及合理支出 2 万元,并公开赔礼道歉。

报道称,田某某本科毕业于北京航空航天大学软件学院,研究生就读于北京大学,研究兴趣为深度学习的优化与算法。字节跳动内部人士表示,之所以此时发起诉讼,是由于田某某为在读博士,公司将其辞退后首先交由校方处理。

但在事件处理期间,田某某多次对外否认,称攻击模型训练任务的不是自己,而是别的实习生。考虑到田某某完全没有意识到错误,且涉事行为已触犯公司安全红线,公司最终决定向法院起诉,以表明公司严肃态度、杜绝类似事件再次发生。

今年 10 月,业界消息称,“某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了 8000 多张卡,带来的损失可能超过千万美元。”知情人士表示该公司为字节跳动。

根据传闻,某高校的博士在字节跳动商业化技术团队实习,因对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。该田姓实习生利用了 HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且 AML 团队无法核查原因。

但传闻曝出之后,该实习生还在某微信群里辟谣称,自己发完论文后就从字节跳动离职,这个当口有另一个人钻漏洞改模型代码,把锅扣到自己头上。

字节跳动后续发布《关于“实习生破坏大模型训练”的事实澄清》:近期有媒体称“字节跳动大模型训练被实习生攻击”,经公司内部核实,确有商业化技术团队实习生发生严重违纪行为,该实习生已被辞退。

涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务,但并不影响商业化的正式项目及线上业务,也不涉及字节跳动大模型等其他业务。网传“涉及 8000 多卡、损失上千万美元”严重夸大。

经核实,涉事人一直在商业化技术团队实习,并没有 AI Lab 实习经历。其社交媒体个人简介及部分媒体报道有误。

相关内容

热门资讯

“中国版英伟达”,中签号公布! 25日晚间,被市场视为“中国版英伟达”的摩尔线程,发布首次公开发行股票并在科创板上市网下初步配售结果...
华与华创始人华杉称西贝“被人算... 红星资本局11月26日消息,日前,“西贝员工回应涨薪500元”的话题在社交平台引发关注,西贝品牌顾问...
原创 日... 近期,国际局势呈现出令人瞩目的动向。美日首脑之间的通话,特别是特朗普对高市早苗的突然联系,无疑投射出...
厦门渊亭信息科技取得恶意诉讼智... 国家知识产权局信息显示,厦门渊亭信息科技有限公司取得一项名为“恶意诉讼智能监督方法、系统、设备及存储...
李在明评高市言论:引起相当大争... 【文/观察者网 齐倩】 近日,东北亚局势骤紧。日本首相高市早苗挑起中日外交争端,中方予以强力反制。...
原创 特... 在当前复杂多变的国际关系中,尤其是亚洲地区的地缘政治局势,日美之间的亲密合作无疑成为了一个引人瞩目的...
今晚很多股民都在晒截图:“很遗... 11月25日晚间,摩尔线程发布首次公开发行股票并在科创板上市网下初步配售结果及网上中签结果公告,本次...
“撤回发言,立即辞职!”日本爆... “我们会持续进行抗议,一场一场地抗争下去。”一名日本民众说道。日本首相高市早苗近日涉台错误言论,已在...
山东推动三项制度改革,经理层薪... 齐鲁晚报·齐鲁壹点记者 张玉岩 11月26日,山东省政府新闻办举行新闻发布会,邀请省国资委负责同志等...
政策托底+执法护航!江苏近20... 10月22日,南京39艘老旧营运船舶拆解全部完成;11月8日,扬州94艘老旧营运船舶中的最后一艘成品...