孙玥

军装照、古风照、恶搞照……随着人工智能技术的迅速发展，各大平台推出多种“一键换脸”黑科技，通过智能算法自动识别面部特征，由AI技术快速生成各类照片或表情包。那么，一旦娱乐工具被滥用，可能会产生哪些法律风险？当我们遭遇“AI换脸”侵权时又该如何维权？

1

生成电子军警照涉嫌违法

有些短视频平台上“AI军警照”制作教程流行，用户自行上传一张照片，即可一键生成身着军装或警服的照片，有些还会配上坦克、战机等背景。还有不少人发视频教学，称“三秒教会如何制作”。在自行生成军警照热潮的背后，乱象正悄然滋生。

有网友在短视频平台发布军警变装照，虚构执法场景或故意摆出手持烟酒等姿势，更有甚者利用AI生成的虚假军警照片进行诈骗，严重损害军人形象。类似事件屡见报端。近日，网友吴某为吸引流量，身着仿制警服在短视频平台发布“查电动车头盔”虚拟执法场景等误导性内容，造成不良影响，被公安机关依法予以行政警告处罚。

《军服管理条例》明确规定，现役军人以及依照法律、法规和军队的有关规定可以穿着军服的人员，应当依照有关规定穿着军服；影视制作和文艺演出单位的演艺人员因扮演军人角色需要穿着军服的，应当遵守军队关于军服穿着的规定，不得损害军队和军人形象，非拍摄、演出时不得穿着军服。警察法也规定，人民警察的警用标志、制式服装、警械、证件为人民警察专用，其他个人和组织不得持有和使用。

军服、警服作为军队装备、警用装备的制式服装，是国家形象的重要体现。通过AI技术生成军警照可以满足自身职业向往，但应当注意不得滥用职业标识，不得损害公职人员形象。同时，若AI照片涉及伪造军队公文、证件或者冒充军人、警察招摇撞骗，或犯诈骗罪、招摇撞骗罪、冒充军人招摇撞骗罪等，将面临法律制裁。

法官提醒

用户在使用AI合成照片时应自觉抵制不当内容，可选择官方发布的体验项目；主动在照片上标识“图片系AI合成”，避免虚构的作战或执法场景。同时，平台作为服务提供者，需要对生成内容进行明确标识，避免公众混淆或误解。对于违法内容，平台应当及时采取停止生成、停止传输、立即消除等处置措施。

2

AI换脸“照骗”侵害著作权

前不久，中国国家话剧院发表声明，称发现近期社会上有公司未经其同意擅自使用话剧《青蛇》作品，违法进行冒演、虚假宣传、滥用AI换脸技术，偷换概念，公开售票，欺骗观众，造成严重负面影响，侵犯中国国家话剧院的合法权益。此外，某平台一部微短剧被爆疑似使用了AI技术，未经授权将某知名演员的面部特征移植到其他演员脸上，后版权方采取了下架处理，删除了争议片段。

在日常生活中，还有网友常把经典影视剧片段里的主角换成自己的面孔，在视频平台收获不少点赞。换脸技术层出不穷，由此产生的侵权风险也日益突出。民法典第一千零一十八条规定，自然人享有肖像权，有权依法制作、使用、公开或者许可他人使用自己的肖像。《互联网信息服务深度合成管理规定》要求，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。

根据著作权法的规定，使用他人作品演出，表演者应当取得著作权人许可，并支付报酬。表演者对其表演享有下列权利：表明表演者身份；保护表演形象不受歪曲；许可他人从现场直播和公开传送其现场表演，并获得报酬；许可他人录音录像，并获得报酬；许可他人复制、发行、出租录有其表演的录音录像制品，并获得报酬；许可他人通过信息网络向公众传播其表演并获得报酬。使用改编、翻译、注释、整理、汇编已有作品而产生的作品进行出版、演出和制作录音录像制品，应当取得该作品的著作权人和原作品的著作权人许可。

AI换脸技术为影视作品带来新的演绎可能性，但也隐藏诸多法律风险。未经授权使用他人肖像进行换脸，侵犯他人的肖像权，将他人面部特征移植至不雅、违法视频中，还会构成对他人名誉权的侵害。音乐、戏剧、曲艺、舞蹈、杂技以及电影、电视剧等视听作品具有独创性，并能以一定形式表现的智力成果都受著作权法保护，未经授权冒演他人作品，则侵犯了著作权，损害原创单位的合法权益。

法官提醒

使用他人肖像、影视作品、摄影作品等作为素材时，必须获得权利人的明确授权。未经授权扒取原影视剧片段进行再“创作”，可能侵犯原作品著作人的修改权、保护作品完整权、表演权等多种权利。即便获取授权，也应避免用于不当场景或对原作品进行歪曲。播出平台应当加强内容审核与监管，建立AI内容标识和审核机制，对疑似侵权的视频及时处理。

3

制作不雅照牟利要担刑责

AI技术的双刃性在于它不仅仅是生活娱乐工具，也会被当作色情网站的流量工具。

虞某通过互联网等渠道收集了百余人的人脸信息，在未取得他人同意的情况下，自行利用AI技术将其与部分淫秽视频中的人脸信息进行替换，伪造生成不雅视频、图片。此外，他还通过创建社交群组、收取入群费用、发布伪造的淫秽视频图片盈利，并且对外销售“AI换脸”软件，传授使用教程，为他人提供换脸视频定制服务，从中牟利。后经法院审理，虞某因犯制作、传播淫秽物品牟利罪，被判有期徒刑七年三个月，并处罚金6万元。

根据我国刑法第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。根据相关司法解释，对于以牟利为目的，利用网络云盘制作、复制、贩卖、传播淫秽电子信息的行为，在追究刑事责任时，鉴于网络云盘的特点，不应单纯考虑制作、复制、贩卖、传播淫秽电子信息的数量，还应充分考虑传播范围、违法所得、行为人一贯表现以及淫秽电子信息、传播对象是否涉及未成年人等情节，综合评估社会危害性，恰当裁量刑罚，确保罪责刑相适应。上述案件中，虞某既是淫秽物品的制作者，也是传播者，其行为侵犯公民个人信息，损害了社会风气及社会公共利益。

需要注意的是，如何确定网络服务提供者的责任，应根据具体的案件情况认定。如果网络服务提供者与淫秽物品的制作者、传播者串通，故意在网络上传播淫秽的书刊、音像制品、音视频软件等，则属于制作、复制、出版、贩卖、传播淫秽物品牟利罪的共犯，应当依照该罪定罪处罚；如果网络服务提供者明知是淫秽色情内容而放任在其服务平台上传播，且经监管部门责令采取改正措施而拒不改正的，如通知其删除、阻断等而未采取措施的，则应当依照刑法第二百八十六条之一拒不履行信息网络安全管理义务罪定罪处罚。

法官提醒

AI换脸技术的滥用，侵害的不仅是个人的人格权、肖像权、名誉权、隐私权，更是对社会公序良俗的践踏。个人应注意隐私保护和风险防护，避免在陌生平台上传清晰证件照，对于要求提供照片、人脸验证的网页程序保持警惕，限制AI工具权限，禁止非必要应用获取个人通讯录、相册、地理位置等信息。一旦发现个人隐私遭泄露、生物信息被冒用，应及时固定证据，确定传播范围，尽快联系平台要求删除、停止侵权，并通过公安机关报案或提起诉讼进行索赔。

4

写真素材库须先授权后使用

赵某是古风妆造博主，经常在某视频网站发布古风照片和视频，宋某是其摄影师。去年，二人发现某科技公司运营的人工智能换脸小程序中有他们发布的两段古风造型视频模板，用户可以通过收看广告或者付费的形式上传自己的照片，将视频模板中赵某的脸替换成自己的。生成的视频除面部五官发生实质性变化外，其余内容与原视频完全一致。用户制作完成视频，还可以保存并分享到其他网络平台。赵某和宋某分别以侵害肖像权、著作权为由将该公司诉至法院，要求赔偿。法院审理后认为，某科技公司擅自在其运营的人工智能换脸小程序中使用宋某创作的古风妆造视频，作为“AI换脸”的素材模板展示，并提供给用户制作“换脸”视频使用，其行为侵犯了宋某对案涉作品享有的著作权。考虑到该科技公司已经在另案中向赵某进行了赔偿，最终判决其赔偿宋某经济损失。

民法典第一千零一十九条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。根据著作权法第十条规定，著作权人享有信息网络传播权及修改权，即以有线或者无线方式向公众提供，使公众可以在其选定的时间和地点获得作品的权利，以及修改或者授权他人修改作品的权利。

古风妆造写真类视频，一般由伴音的连续画面组成，内容编排、人物妆容、景别选取、拍摄角度等方面均体现了作者的独创性。某科技公司擅自在其运营的人工智能换脸小程序中使用他人创作的古风妆造视频，作为“AI换脸”的素材模板展示，并提供给用户使用，从中盈利，侵犯了他人合法权益。自然人对于作品上再现的其肖像享有肖像权，若身体形象、面容装束等要素能使公众识别出特定主体，就构成对该主体肖像权的侵害。利用合成算法制作换脸视频，本身不具有独创性，未经著作权人同意擅自作为商业模板展示供他人使用发布的行为，侵犯了宋某对案涉作品享有的著作权。

法官提醒

未经权利人许可，其他人不得擅自使用他人拍摄作品。如果未经许可使用他人拍摄的视频作品，既侵犯了创作者享有的著作权，又侵犯了出镜模特的肖像权。

从军警照到古风照，各类AI工具层出不穷，有可能涉及侵犯肖像权、名誉权，造成严重后果的还可能构成侮辱罪或者诽谤罪。生成式人工智能技术的提升带来产品数量激增、应用场景迅速扩张，技术的飞速发展伴随着内容合规、秩序底线、知识产权等新的法律挑战。从技术开发者到个人用户及软件平台，都应当审慎利用AI技术，在享受科技便利的同时严守法律底线。

（作者单位：北京市石景山区人民法院）