文丨默 达
图丨张宇晴
近日,湖北一地法院审理案件时,发现原告提交的照片中赫然带有“豆包AI生成”的水印,识破原告利用AI技术伪造证据的行为,依法对其予以训诫。
看似是一则趣闻,却细思恐极:如果诬告者并非“蹩脚的演员”,而是精心伪造呢?如果法官没有多留一个心眼进行核实呢?即便是最先进的AI检测软件,也做不到百分百识别真假。仅靠人眼辨别,更难免有人“处心积虑钻空子,风轻云淡撇责任”。
AI工具越是触手可及,越要当心伪造风险。新出台的《人工智能生成合成内容标识办法》强制AI生成内容带有“显性标签”和“隐性标签”,但在日常生活中,显性标签易除,隐形标签难查,AI谣言跑得比真相更快,容易造成恶劣影响,AI换脸侵权频现就是鲜明例子。
减少AI造假,要让始作俑者付出应有代价。