不久前，“AI孙燕姿”、“AI王菲”爆出圈，成为短视频平台新一轮流量密码。 与此同时，以假乱真的人工智能技术也频频触碰法律红线。 近日，北京市通州区人民法院查明，该平台流量背后有人利用人工智能换脸实施伪造不雅视频、换脸诈骗等违法行为。
人工智能违规行为很难预防。 在民事方面，容易引发肖像权等侵权行为，在刑事方面，容易引发诈骗、侵犯公民个人信息等犯罪行为。 据此，通州法院法官通过两个典型案例揭示了人工智能技术乱象背后的法律问题，以积极正义击败“人工智能魔咒”，提醒社会公众提高维权和反欺诈意识。
情况1
利用AI技术使用别人的图像视频
涉案公司构成肖像侵权，获赔
陈在一个网络平台上注册了一个账号，发布了许多精美的造型视频，拥有数万粉丝。 某公司利用AI技术运营一款App，为用户提供拍摄视频时的提词功能以及换脸视频模板。 某公司在未经陈某许可的情况下，将陈某在其账号中发布的多个精美视频作为APP中的视频模板，供软件用户进行换脸。 陈某发现后提起诉讼，一公司删除了相关视频。
法院经审理认为，某公司运营的APP具有明显的商业属性，未经陈某许可，使用陈某的个人形象视频进行运营，不属于法律规定的合理使用。 陈某的行为构成肖像侵权，应当承担相应的侵权责任。 责令被告公司在APP首页顶部发布道歉声明，向原告陈某赔礼道歉，并赔偿陈某1000元。
法院调查发现，人工智能换脸拟声技术用于商业盈利时，极易引发肖像权、姓名权等人格权纠纷。 一些营销短视频、音频的商家经常在未经当事人许可和同意的情况下进行换脸、变声操作以牟利。 这种行为属于侵权行为。
法官介绍，人格权是指民事主体享有的生命权、身体权、健康权、姓名权、姓名权、肖像权、名誉权、荣誉权、隐私权等权利。 自然人享有肖像权，有权依法制作、使用、出版或者许可他人使用自己的肖像。 肖像是通过视频、雕塑、绘画等形式反映在一定载体上的、可识别的特定自然人的外在形象。任何组织和个人不得利用信息技术手段以诽谤、污损、伪造等方式侵犯他人肖像权。 未经肖像权人同意，不得制作、使用、出版肖像权人的肖像，法律另有规定的除外。 未经肖像权人同意，肖像作品权利人不得以出版、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。
判断提示
如果您遇到涉及换脸、变声的民事侵权行为，一定要树立主动维权意识，关注侵权方相关作品的发布时间、数量、范围，积极收集网站/APP截图、音频、视频等证据，向侵权方提出严肃交涉，积极利用法律途径维护自己的合法权益。 例如，在本案中，法院认定某公司的行为构成肖像侵权，不仅责令该公司公开赔礼道歉，还要求该公司赔偿损失。 打败“AI魔法”，交出公正的答卷，人民法院已做好准备。
案例2
利用AI智能软件诈骗近百万 四被告被判刑
2022年2月，被告人郭某在甲省某区设立未经批准注册的“公司”，并聘请被告人黄某、蒋某、田某等人通过AI智能软件筛选对股票交易感兴趣的股东“资源”（受害人），并将其出售给下游企业牟利。 郭某负责将其员工挑选添加的股东微信账号提供给其他同伙“公司”，实施电信网络诈骗活动； 其他同伙则负责用微信小号进行角色扮演，夸赞所谓的资深炒股专家“王”，以取得受害人的信任，并诱导添加微信的受害人投资虚假投资平台，骗取受害人的投资款。 截至2022年7月，郭某等人已骗取投资资金近百万元。 法院经审理认为，被告人郭某构成诈骗罪、侵犯公民个人信息罪； 黄、江、田等人均构成非法利用信息网络罪。
法官指出，人工智能犯罪手段越来越复杂。 犯罪分子通常利用AI技术合成声音和变脸，并利用AI程序筛选受害者，然后利用黑客或角色扮演的方式欺骗信任，甚至制作定制的犯罪脚本。 这种违法犯罪形式往往构成多种犯罪，最终会以数罪并罚。
法官表示，违反国家有关规定，出售、向他人提供公民个人信息，情节严重的，处三年以下有期徒刑或者拘役，并可以并处罚金；构成犯罪的，依法追究刑事责任。 情节特别严重的生活网资讯，处三年以上七年以下有期徒刑，并处罚金。 数额巨大或者有其他严重情节的，处三年以上十年以下有期徒刑，并处罚金； 数额特别巨大或者有其他特别严重情节的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
判断提示
警惕此类人工智能犯罪。 遇到“微信好友视频借钱”的情况，记得多渠道验证“好友”身份，不要轻易转账。 如果您已经转账，请及时报警或致电反诈骗中心； 在“低风险高回报的投资理财”的情况下，不要侥幸和投机。 为了所谓的高回报收入，轻易将钱转移到来历不明的“投资平台”。 财务管理应当通过合法、合法的手段进行； 遇到“XXX邀请您进群聊/视频会议/直播间”的情况时，不要轻易加入陌生人较多的微信群聊或视频会议。 很容易陷入犯罪分子事先准备好的角色扮演和犯罪剧本中，成为待宰的羔羊。
本网站转载其他媒体之作品，意在为公众提供免费服务。如权利所有人拒绝在本网站发布其作品，可与本网站联系，本网站将视情况予以撤除。
Copyright © 2017-2018