作者｜邱玉民、朱晓明
编辑| 魏魏子
“你得罪人了吗？”
你被几十万网友迷住了。
你的脸是人工智能合成在另一个裸体上的，做着奇怪的姿势和动作。
一群人用“贱人”、“贱人”等词语来评价你，然后编造一个虚假身份，你就变成了“邻家少妇”、“清纯女学生”、“好色表弟”，你的地址、电话号码甚至身份证号码也被曝光。 这一切的始作俑者可能是普通的同学、同事，甚至是家人、亲密的恋人。
你对一切一无所知。 直到被陌生人的骚扰信息打破。
今年5月，生活在广东的95后女孩小娜收到了十几条陌生人的好友请求。 加了其中一位后，对方不仅说话轻浮，还发来了她的生活照和被盗的脸的照片。 照片，并问她：“你得罪人了吗？”
淫秽裸照中的人与她同一张脸，而发图的人还加文造谣，一度称她为“前女友”，称她为“劈腿邻居”一会，就把她的名字、微信号码等信息泄露了出来。
“怎么会有这么恶毒的人？” 当小娜看到自己被盗脸的照片和视频时，既震惊又愤怒。
小娜因此睡不着，在床上翻来覆去以为以前的同事甚至家人都怀疑了她，但她始终无法确认偷她照片的人是谁。 “一定要找到这个人，实在是太过分了。” 小娜表示她不想解决这件事。 如果她不教训一下对方，以后就会有更多的人受到伤害。 “他们只是觉得自己很安全，不会被暴露。”
小娜和丈夫利用这些陌生人提供的线索，进入了带有盗脸内容的国外社交软件。 又称“”，平台不需要实名认证，信息点对点加密，最大程度保证隐私和安全。 该软件也因N号房事件而广为人知。在群聊中，她发现自己被盗的脸部照片只是冰山一角。
电报群聊天信息，受访者提供
有二十万人的庞大群体。 群里的新闻都是由各种侮辱女性的言语和裸照组成。 小娜随意翻了翻。 这些女孩都是普通的业余爱好者。 “网红、名人很少。” 。
也就是说，盗脸、侵犯隐私的对象已经转移到了普通人身上。 很多女孩并不知道，自己的生活照片已经悄然被换成了另一个身体，并暴露给更多陌生人进行奸情。 。
里面有很多带有AI换脸、一键脱衣标签的群聊。 一位曾经误进AI换脸群聊天的女性用户告诉“后浪研究院”，有人在群里打广告、兜售AI换脸软件，偶尔还有“技术达人”提供免费换脸活动。 很多人拿着女人的照片“求换脸”，“他们说，这是他们的同事、同学或者青梅竹马。”
这些照片和文字对人们的影响很大。 小娜说，照片看多了，她出现了身体疼痛、失眠、脑鸣等症状。 “梦都是恶心的东西。” 会做这样的事情。”
几天后，小娜到了当地派出所。 事情发生后，她本来打算亲自找出偷拍照片的人，但根据一些线索，她无法准确定位，而给她发照片的账号也被注销了。 无奈之下，她只好报警。
小娜收到的报警收据，受访者提供照片
接待她的民警表示，很多女性都遇到过脸被人工智能偷走的情况，但很多人都不敢报案，因为不想让周围的人知道自己遇到了这样的事情。
AI偷脸已经不再是一个晦涩的话题。
今年4月生活网资讯，抖音女网红赖来曾在微博发文称自己的脸被盗。 赖赖称，有人冒充她在海外社交平台注册账户，并以会员订阅的形式出售视频。 这些视频都是AI偷脸的色情视频。
来来还提到：“我曾经看到过一份网红名单，名单上密密麻麻都是我熟悉的名字，按照博主的粉丝数进行分类，假视频的价格从30不等到50元。但只要花200元，就可以进团，而且进团后不仅可以享受永久半价，还可以得到‘私人定制’。”
赖赖的声明还揭开了AI换脸隐藏的产业链——掌握深度合成技术的犯罪分子将名人、网红博主甚至素人的面孔制作成色情照片和视频，甚至出售AI换脸软件、技术以获取色情信息。利润。
潘多拉魔盒
在手机应用商店搜索，不难发现AI换脸功能在娱乐应用领域并不是小众。
AI换脸滤镜在抖音、美图秀秀等软件中都可以找到，而且市面上也有很多带有AI换脸功能的软件。 我们随机下载了一款评分为4.3分的APP——秀脸。 在AI换脸专区，有美妆换脸、古风换装等视频或图片模板可供选择。
首次上传图片时，APP会向用户介绍AI换脸的工作原理，同时弹出提示框“请确保您使用的照片经过本人授权” ……法律责任由我承担。”
除了娱乐休闲，AI换脸场景也被运用在影视剧的二次创作中。 今年年初上映的电视剧《风雨送春归》因演员换脸引发争议。
2019年，一款名为“ZAO”的AI换脸应用程序火爆，引发了侵犯个人肖像权的担忧。 人脸数据采集和人脸合成技术的简化，使得使用换脸软件的个人面临更大的隐私泄露风险。 此外，还可能引发色情、暴力等问题。
快四年过去了。 现在，AI技术的换脸功能更加成熟和普遍。 有专家在接受媒体采访时表示，主流社交平台上发布的大多数照片都足够清晰，能够产生自然契合。 、真假难辨的换脸照片和视频。 即使清晰度较低，也可以通过AI进行填充，提高换脸图像的贴合度。
较低的技术门槛和更广泛的普及，让这些本应在合理场景下使用的技术成为犯罪分子的灰色武器。 潘多拉魔盒已经打开。
某平台AI换脸产品提问区内容
小娜被盗脸的照片和视频都使用了她的面部特征。 脸型和气质都不一样。 小娜看上去有些尴尬，但她也不得不觉得那些照片很现实。 不真实的感觉。”
2000后大学生林琳也在5月份发现自己的脸被色情照片偷走了。 这位女孩遭受了与“广州地铁女孩”类似的脱衣待遇。 加她微信后，有人给她发了根据生活照用人工智能脱衣的照片，并用猥亵言语骚扰她。 那张照片是她旅行时拍的，她身后有很多游客。
琳琳把照片拿给她最好的朋友看。 照片中她几乎看不到任何处理过的痕迹，身体裸露部位的光影与肤色也十分协调。 引人注目），无法猜测这是由 AI 完成的。”
让女孩们惊讶的是，科技已经如此低落，以至于她们身边的一个普通人都可能掌握深度合成技术，在她们不知情的情况下窃取人脸、生成视频。
据媒体报道，部分商家可以根据用户需求定制明星、素人的换脸模型。 提供的信息包括正常光线下变脸主体的正面、侧面、侧下、侧上等角度，以及喜怒哀乐等表情。 制作一个业余模型的价格在2600元至6000元不等。
“后浪研究院”尝试在网购平台上进行搜索，发现搜索关键词“AI换脸”已经无法搜索到任何产品信息。 但通过一些特殊词汇，还是可以找到一些销售AI换脸产品的店铺。
一款标有“脱衣服、换衣服、换背景”的产品仅售16.6元。 客服表示，店里不提供换脸服务，只卖软件和教程。 他进一步问他这个软件是否可以真人用来脱衣服，他回答说：“只能用文字表达，但如果真人发出来，我的商店就会消失。” 页面显示，该产品每月销量超过100+次。
另一家店的客服直接让我加微信好友，发了几张换脸图，告诉我图片收费30-50元不等，视频收费根据情况从几十到几百元不等。关于时间的长短。 。 此外，他还提出加入，学费5000元，提供计算机程序和远程演示。 学习之后，他可以利用技术改变自己的面貌，甚至利用技术来盈利。
他的收入惊人，“我这个月快20W了”。
店主朋友圈发布的AI换脸作品
但老板却格外谨慎，问他能不能拍色情图片，他回答说：“40张吧，只要不怕被封。”
但要真正追究责任，封号或许是最轻的惩罚。
据《方圆》杂志报道，近日，河北省高阳县网警破获一起制作、销售、传播淫秽物品牟利案件。 犯罪嫌疑人李浩通过QQ群自学AI换脸技术，并利用名人照片制作淫秽视频并以每10分钟300元的价格在网上出售，严重侵犯了当事人的肖像权、名誉权。
李浩还提供“私人定制”服务，将买家提供的素人照片加工成淫秽视频或图片。 目前，李浩因犯制作、复制、出版、贩卖、传播淫秽物品营利罪被检察院提起公诉。
维权问题
但现实并不乐观。 当盗脸事件发生时，普通民众往往难以维权。
小娜报警已经一个月了，进度还停留在备案当天。
盗用海外软件发布照片的人，具体身份无法确认。 这样的平台不会提供用户的私人信息来配合各国警方办案。
韩国N号房事件也于同一年诞生。 其原记者和打电话者在《追踪N号房》一书中也提到，一名受害人报警后收到回复：“因方某不配合调查，所以无法签发逮捕令。”
因此，只有受害人先找出嫌疑人，事情才能有转机。 不过，这群人往往警惕性很高，在网络上几乎不留下任何痕迹，很难查清他们的真实身份。
小娜翻看被盗的照片，发现几乎全部都来自她最近的朋友圈，而她的朋友圈只可见三天，而且每次发都建了一个朋友群。 她分析，这个人可能是她熟悉的人。 恶狠狠的蹲下，一动，立刻就动了，脸色都变了。
但这人是谁？ 她还排除了有性骚扰史的前同事、认识的朋友等，她实在想不起来“谁得罪了”。 她含糊地告诉同事，她的照片已经发到网上了，并请大家帮忙想想可能是谁，但对方却开玩笑说，“因为你长得好看。”
源视觉中国
没有结果，小娜渐渐陷入自责，“是不是不应该发朋友圈照片？” 她担心的是，对方已经暴露了她所在的城市，如果被她的至亲好友、同事看到，该如何面对和解释？
现在，小娜正在努力放下这件事，不再为找对象而紧张。 “愤怒、愤怒、无奈，对我的工作和生活影响太大了，我现在正在调整，但我不会放弃跟踪这件事。”
她更改了可检索的微信帐号名称，并且近期不打算用自己的照片发布任何更新。
另一位脸被盗的女孩林琳也有心理阴影。 她将抖音账号设为私密，朋友圈也从陌生人可见的10张照片变成了三天可见。
她还没查出微信上用AI盗脸照片骚扰她的人是谁，但因为她的室友也被一键脱衣服，她告诉对方：“你针对我也没关系，我的室友是清白的。”
对方应该是认识她的熟人。 也许是出于良心，她在向她道歉后甚至删除了她的好友。
事情就这么乱七八糟地结束了，琳琳本来不打算追究，但闺蜜却逼着她在微信和国家反诈骗中心举报这个男孩。
“他们只是说说而已，但我们似乎都因愚蠢而受苦了。” 林琳最好的朋友表示，发送被盗脸部照片的男孩用言语羞辱林琳，但不涉及金钱纠纷或具体损失，因此无法立案。 而作为在校学生，最近也在为期末和学业而苦苦挣扎，根本没有精力去处理这件事情。 “维权成本太高了。”
赖赖发现的盗脸产业链，图片来源@Caro Lai Lai
此前披露被盗人脸信息的网红赖赖也表示，举报账号后发现这些平台上的色情内容并不违法，海外IP难以追踪，国内视频来源也很难找到。
在赖赖的评论下，不少网友提到了自己和身边的人的经历，“以前的一个好朋友因为脸被盗而辍学了”、“有人在小号给我发了裸照，和我的脸很像”。 一模一样”，但遇到这些事情后，受害者只是独自承受伤害，很少有人真正找到盗图者并将其绳之以法。
毕竟，很多人还蒙在鼓里，不知道自己的照片被盗用在色情图片中。 即使他们知道，凭借个人的力量也很难找到嫌疑人。
“但也不能说以后就不发照片了，这不是女孩的错。” 林琳的闺蜜告诉《后浪研究所》，经过这件事，她对异性有了更深的不信任感。 但她明白真相。 仅仅要求女性提高警惕并不能遏制偷脸行为，必须严惩造谣者。
侵犯边界
那么，如何惩罚利用AI技术作恶的盗脸者呢？
浙江垦丁律师事务所人工智能法律研究部负责人程念律师告诉后浪研究院，擅自使用他人肖像制作“换脸”视频，首先会侵犯肖像权。 同时，通过对获取他人面部信息、制作的视频是否含有违法内容等具体情况的判断，还可以进一步确定其他可能的法律责任。
利用换脸视频发布淫秽信息的，要根据不同的行为承担不同的责任。 “传播淫秽色情录像的行为，涉嫌违反《中华人民共和国刑法》规定的传播淫秽物品罪，处二年以下有期徒刑、根据情节予以刑事拘留或者管制。”
“行为未达到处罚标准的，依照《中华人民共和国治安管理处罚法》有关计算机信息使用的规定，处十日以上十五日以下拘留”网络传播淫秽物品的，可以处3000元以下罚款；情节较轻的，处五日以下拘留或者500元以下罚款。”
此外，在群内言论、侮辱女性、制造色情谣言等行为涉嫌违反刑法规定的侮辱罪，也符合民法典规定的侵犯名誉权的行为。
至于软件技术商利用“一键脱衣，看光明女神”的广告推销换脸的行为，可能构成共同侵权，并承担相应的民事责任。 技术提供者可能构成传播淫秽物品罪的共犯。 如果用户利用制作的视频实施其他犯罪，技术提供者可能构成《中华人民共和国刑法》规定的帮助信息网络犯罪罪。 处三年以下有期徒刑或者拘役，并处罚金或者罚金。”
也就是说，打着“脱衣”旗号销售软件的商家也应该承担法律责任，不能置身事外。
在具体治理方面，国外法律法规可以提供一些参考。
中国政法大学教授罗翔曾在2021年底讨论AI人脸盗取的视频中提到，美国有深度伪造责任法案，要求深度伪造视频主播在其视频上打上水印。作品，告诉大家这是伪造的、拼接的。 它还规定了造假者可能承担的刑事和民事责任。 刑事责任甚至规定最高可达五年监禁。
该法案还提到，发布包含虚假性行为或他人裸体的视频以侮辱或羞辱他人的行为可被判处最高五年有期徒刑。
针对AI盗脸的情况，国内有一些针对性的政策法规。
2022年12月发布的《互联网信息服务深度合成管理规定》明确，提供人脸生成、人脸替换、人脸操控、手势操控等编辑服务时，应当在合理位置、生成或编辑的信息内容区域，提醒公众深度综合。
今年4月11日，为促进生成式人工智能技术健康发展和规范应用，国家网信办起草了《生成式人工智能服务管理办法（征求意见稿）》并向社会公开征求意见。
程念告诉“后浪研究院”，女性如果想避免AI偷脸侵犯自己的权益，可以使用第三方证据存储软件来存储相关视频和图片。 “遇到紧急情况，可以先录屏保存，完整查看视频和图片的路径。”
在信息发布平台看到这些视频、图片的，还应当在存证或者录屏时记录发布者的主页、平台ID、IP地址、发布时间、点击次数等信息，并保存侵权主体的相关信息和信息。传播信息作为判断情节严重程度的依据之一。 如果平台上发布的视频和图片支持评论功能，评论中的相关线索也应及时保存。
源视觉中国
被人工智能偷脸伤害的不仅仅是女性。 除了被用于性剥削之外，人工智能盗脸已经侵入了我们日常生活的方方面面。
近年来，与AI合成相关的诈骗案件频发。 2021年初，公安部网安局发文提醒公众注意防范合成语音、AI换脸等新型人工智能诈骗手段。
今年5月，有媒体报道称，福州某公司老板10分钟内被骗430万元。 诈骗团伙利用AI换脸、拟声词技术，冒充熟人进行视频通话。 警方介绍，AI诈骗还包括语音合成、AI换脸、语音转发等手段，成功率接近100%。
今年6月25日，全国人大法工委新闻发言人回应AI诈骗现象，利用“AI换脸”技术进行诈骗。 有关部门也有必要依法加强治理和执法，追究相关人员的法律责任。
不断的新案件提醒公众，人工智能的进步伴随着危机和犯罪风险。 如何保护生命的边界不被科技侵犯，成为不得不面对的现实问题。
今年6月，美国企业家马斯克在一次活动中提到，人类在人工智能的研究过程中要小心，“人工智能可能是历史上最具破坏性的技术”。
技术没有善恶概念，但人类有。 人工智能的研发虽然复杂晦涩，常人难以触及，但它最终会沉入大众，回归伦理维度，成为每个人类都无法忽视的存在。
（文中人物小娜、林琳均为化名，封面图片来自视觉中国。）
参考：
1、新京报：《AI偷脸“造艳谣”，她说：没想到这种事会发生在我身上》，2023-5-30
2.【韩文】追踪团体火花：《N号房的追踪》，湖南文艺出版社，2022-2-1
3.方圆：“AI可以换脸，你想换就换不了！” ”, 2023-4-1
4、金融E法：《888元《变杨幂》，AI黑灰产品盯上明星》，2023-6-15
5、南方都市报：《新AI骗局来袭！成功率接近100%，10分钟有人被骗430万》，2023-5-28
6、极目新闻：《全国人大法工委：现行法律对“AI换脸”诈骗有规定》，2023-06-26
本网站转载其他媒体之作品，意在为公众提供免费服务。如权利所有人拒绝在本网站发布其作品，可与本网站联系，本网站将视情况予以撤除。
Copyright © 2017-2018