中新网北京7月10日电(记者刘静宇)7月3日，拥有超670万粉丝的网红主播陈岚发布视频称遭遇恶意PS、AI换脸，照片被被他人操纵。 它变成了色情照片和视频，并在网上公开出售。
陈兰表示，她想收集相关证据，找出根本原因，但又不想闹出太大的动静，但随着评论区“造谣”的人越来越多，她打算报警。
近日，记者调查发现，不少账号在社交平台上出售名人、网红换脸的色情照片和视频，而百余条视频的价格仅几十元。 卖家出售换脸色情物品主要有两种模式，一是利用明星的公开照片“脱衣”；二是利用名人的公开照片进行“脱衣”。 另一种是将名人的面孔改为色情图片和视频。 在多个电商平台上，不少商家在线销售AI绘图软件，并声称该软件可以提供“脱衣服”的功能。 这个软件的价格只要十几块钱。
事实上，“AI换脸”不仅可以制作色情照片和视频，还可能用于诈骗。 6月25日，全国人大常委会法制工作委员会举行新闻发布会。 新闻发言人臧铁伟表示，利用“人工智能换脸”技术实施诈骗是一种新型电信网络诈骗，需要广大群众提高诈骗和防骗意识。 有关部门要依法加强治理和执法，依法追究相关人员责任。
公开出售换脸的色情视频
除了女主播陈岚之外，粉丝数超过400万的网红女主播杜月也遇到了类似的情况。
据杜月介绍，六个月前，不少粉丝在她的短视频评论区留言，表示看到了杜月的“色情视频”。
“我当时并没有多想，以为越清楚越好，毕竟这个‘谣言’总会过去的。” 杜月说，直到有一天，她的一个朋友转发了一段色情视频，里面的女主角一模一样。 我这才意识到，自己遇到了恶意“变脸”。
杜月表示，为了证明自己的清白生活网消息，她开始收集相关证据，想要找到根本原因。 “最后我发现，有人在海外社交平台上用虚假身份注册了一个账号，然后‘搬运’到国内某视频平台发布，该账号有了一定粉丝后，就开始售卖色情内容。”换脸后的视频。”
杜月提供的一份价目表显示，涉及的网红有数百人，而且还按照粉丝数量进行分类。 从粉丝不足50万到粉丝超过1000万，对应的换脸色情视频价格从30元到1000万不等。 50元不等。 此外，表中还有不少女明星。 表格发布者称，“200元即可进团，进团后可定制，永久半价。”
记者调查发现，在一些社交平台上，不少账号声称可以出售网红、名人的换脸色情资料，并以此方式导流至QQ进行交易。
根据杜悦提供的线索，记者添加了卖家的QQ好友，对方直接发来了一张截图，图片上贴有数十张女明星的艳照。
卖家称，他有80多个名人，15000多张照片。 如果全部购买，价格只需60元，还赠送23个视频，之后还可以享受免费更新。 卖家还表示，如果购买单个明星的换脸照，会按照照片数量收费，5元可以购买300张照片。
有卖家称60元可以买到多位明星的换脸色情资料（记者截图）
此外，有卖家表示，根据买家的需求，他可以专门制作指定某位明星、网红的色情材料。
支付60元后，卖家寄来了数十个压缩包，全部以名人命名。 记者发现，卖家出售的换脸色情材料主要分为两种模式，一种是利用明星的公开照片“脱衣”，另一种是将这些明星的脸改成色情图片。和视频。
北京蓝鹏律师事务所主任张起槐代理了多起“人工智能换脸”相关案件。 在他看来，“AI换脸”应该是帮助广告、电影、艺术等方面得到妥善修复。 这是一项非常好的技术，但是现在很多人开始利用这项技术来获取非法利润。
张起槐表示，利用他人肖像换脸的行为涉嫌侵犯当事人的肖像权、名誉权、荣誉权和人格权。 如果将人的脸部制作成色情视频并出售，这种情况可能会构成刑事犯罪。
“AI换脸”背后的商业经验
近日，记者在多个电商平台搜索“AI换脸”关键词，均未显示。 不过，当记者搜索“智能合成、名人”、“真人脸模型训练”、“服装AI”等关键词时，仍然可以找到在售产品。
一款“AI绘图软件”的产品页面明确写着，“该软件可以实现将真人变成卡通、换头像、换衣服等功能”。 这款软件售价仅16.66元，月销量已达200多个。
“你真的可以‘脱衣服’吗？” 有人在店家评论区提问，很多人回复说可以。 另外，也有人问是否可以制作色情图片，也有人回答，“只要买软件，进买家交流群，各种功能都有。”
在一款AI绘图软件的问答区，有人回复称该软件确实有“脱衣服”的功能。 （记者截图）
记者进入“买家交流群”后，短短两天内，群内成员数量从40人迅速增加至150人。 大多数成员在群里交流如何使用软件，并时不时分享他们的“作品”。
有会员在群里询问是否有人愿意接单、制作“定制图”。 “这东西不违法吧？” 有人在群里反问，对方说“财源广进，求保险”。
除了销售绘图软件外，还有商家提供“真人模型培训”，即利用真人的照片或视频制作。 训练完成后，可以直接使用模型生成相应的照片和视频，实现换脸的效果。
一位为记者提供培训服务的商家告诉记者，他们只需要提供20到30张照片，尽量以面部特写为主，两个多小时就可以完成培训。 然后，买家将数据导入到某个软件中，生成他想要的素材。
商家给记者发来了一张效果图，该效果图是用国内模特的真人照片制作的。 换脸后，脸型与国内明星非常相似。
上述商家表示，模型训练完成后，买家可以根据自己的需求生成各种照片，包括“脱衣”素材，但云端禁止“脱衣”操作，需要在自己的电脑上操作。
“AI换脸”骗局
商家销售“犯罪工具”的背后，还有人利用“AI换脸”技术进行诈骗。
张起槐告诉记者，他曾代理过缅北多起跨国敲诈勒索案件。 本案犯罪嫌疑人利用“AI换脸”技术，冒充女性，诱导受害人与其“裸聊”。 随后，双方的视频录制内容被用作勒索受害人的证据。
近日，中国银河证券发布公告称，利用“AI合成技术”的欺诈手段可能会逐渐蔓延到证券行业。 公告称，某知名经济学家声称，自己被利用“AI换脸”等技术，通过视频、语音等方式联系投资者，骗取投资者信任，开展股票推荐活动。
此前，多地警方通报了与“AI换脸”相关的诈骗案件。 5月20日，包头市警方公布了一起利用人工智能换脸的电信诈骗案。 当事人郭先生突然收到朋友发来的微信视频。 朋友告诉郭先生，他的一个朋友去外地竞拍需要430万元保证金，想用郭先生的公司账户付款。 郭先生感觉自己和朋友播放了视频，确认是他，于是也没多想，直接把钱转到了对应的账户上。 十分钟之内，郭先生因视频通话被骗430万元。
2022年2月，陈先生报案称，自己被“朋友”诈骗近5万元。 经警方核实，骗子利用陈先生好友“阿城”在社交平台上发布的视频，截取其脸部视频，然后利用“AI换脸”技术合成，制造出视频假象。陈先生和他的“朋友”聊天来欺骗他。 信任，从而实施欺诈。
6月25日，全国人大常委会法制工作委员会召开新闻发布会，臧铁伟回答了“AI换脸”相关问题。 他表示，通过“AI换脸”进行视频合成诈骗，是利用新技术进行诈骗，与传统诈骗本质上没有什么区别。
臧铁伟还表示，构成诈骗罪的，应当依照我国刑法第266条的规定追究刑事责任。 对利用“人工智能换脸”实施诈骗活动提供技术支持和协助的，依照反电信网络诈骗法的规定给予行政处罚。 网络犯罪和其他犯罪的刑事责任。 对利用“人工智能换脸”实施诈骗活动提供技术支持和协助的，依照反电信网络诈骗法的规定给予行政处罚。 网络犯罪和其他犯罪的刑事责任。
立法机关正在建立健全相关法律制度
随着人工智能的发展，“AI换脸”的技术门槛逐渐降低，应用场景也越来越多。 一些不法分子在满足人们猎奇、美观、社交等需求的同时，却为了牟利而突破道德底线和法治红线。 。
为遏制“AI换脸”乱象，2022年11月25日，国家互联网信息办公室、工业和信息化部、公安部联合发布《深度信息化管理规定》。 《互联网信息综合服务条例》（以下简称《规定》）17号文要求，深度综合服务提供者提供智能对话、合成真人语音、人脸生成等深度综合服务的，人脸替换，可能导致公众混淆或者误认的，应当将信息放置在生成或者编辑的信息内容的合理位置和区域。 实行显着标志，提醒公众深度合成情况：提供前款规定以外的深度合成服务的深度合成服务提供者，应当提供显着标志功能，提醒深度合成服务使用者可以作出显着标志。
规定明确，提供深度综合服务应当遵守法律法规，尊重社会公德伦理，坚持正确政治方向、舆论导向、价值取向，推动深度综合服务向善。
张起淮表示，现在很多犯罪分子都在利用“AI换脸”技术进行犯罪。 由于立法总是滞后于社会现象，大家在此类案件的司法实践中很难掌握法律标准，因此非常有必要尽快完善相关立法。
张起淮表示，对于“AI换脸”技术，要加强技术监督和鉴定，加强相关技术的普及。 如果您遇到类似侵权行为，有条件的应及时举报或起诉，切勿因为怕麻烦而纵容此类现象。
臧铁伟表示，目前，中宣部、公安部正在全国范围内开展“全民反诈骗行动”。 深入贯彻落实《反电信网络诈骗法》，不断提高公众反诈骗意识，切实在全社会营造浓厚的反诈骗意识。 气氛。 立法机关也在加强对人工智能等领域法律问题的研究，不断建立健全相关法律制度。
中国政法大学传播法研究中心副主任朱伟表示，人工智能技术监管的重点首先是内容生产者要对结果负责。 其次，用户在使用人工智能技术的过程中需要被告知。 如果有人遇到别人的恶意换脸行为，即使恶意换脸者还没有被发现，提供换脸技术的平台也需要承担责任，因为平台本身也有责任和义务监督用户使用什么材料。
（文中陈岚、杜悦为化名）
本网站转载其他媒体之作品，意在为公众提供免费服务。如权利所有人拒绝在本网站发布其作品，可与本网站联系，本网站将视情况予以撤除。
Copyright © 2017-2018