◆ 近期，各地曝光多起人工智能“辅助”诈骗案件。一些不法分子利用人工智能“深度造假”冒充领导干部行骗，值得高度警惕
◆ 部分领导干部因工作原因出镜率较高，这为骗子提供了丰富的人脸识别素材； 电视、广播新闻中也能看到大段领导干部的同步发声，这使得“造假成本”更低
◆ 随着人工智能技术的普及应用，犯罪分子诈骗行为的准确性、混乱性、隐蔽性将会增加，公安、检察院等政法机关在查处案件、获取电子证据、以及识别和处理案件。
吴帅帅 刘一德 蓝天明 《瞭望》新闻周刊记者
朱惠清 摄/本刊
近日，北方某地警方公布了一起利用“AI换脸”诈骗当事人的案件。 诈骗分子利用人工智能技术，通过微信视频通话与受害人沟通十几分钟，受害人转账数百万美元。
引人关注的是，此案不仅是一起新型网络诈骗案，而且还是一起政治诈骗案。
犯罪分子模仿、伪造了受害人认识的领导干部。 在微信视频聊天中，“变脸”后的骗子提出，其朋友有项目押金，需要借用受害人公司的企业账户提款。 视频画面中，骗子“变脸”后，面部表情自然，声音逼真。 受害人放松警惕，汇款后打电话确认，才知道自己被骗了。
“AI换脸”、“AI拟声词”、虚拟场景搭建……随着设备性能的提升和技术软件的优化，利用“AI换脸”技术进行诈骗已成为一种新型的网上诈骗手段。欺诈罪。 近期，各地曝光多起人工智能“辅助”诈骗案件。 一些不法分子利用人工智能“深度造假”冒充领导实施诈骗，值得高度警惕。
由于工作原因，一些领导干部的面部、语音等生物特征信息更容易获取，人工智能学习和使用带来的潜在危害也较大。 接受《瞭望新闻周刊》采访的业内人士表示，社会各界应提高防范欺诈意识。 有关部门要加大对人工智能“辅助”诈骗案件的执法力度，严肃追究相关人员的法律责任。
眼见为实
近日，华北某地的一位地方干部担心一件事。 有人冒用自己的名字与自己的亲友大规模添加微信好友。
“和我的亲戚朋友加了好友后，骗子还给他们打了视频电话，通话只持续了几秒钟，朋友们都觉得声音和画面有点相似。” 该干部表示，直到很多朋友打电话询问他才知道具体情况。
“估计下一步就是要开始骗钱了，所以这几天，我发了好几个朋友圈提醒大家。” 这位干部说。
接受采访的业内人士表示，只要有足够的图像和音频材料，犯罪分子就可以利用人工智能“换脸”软件和合成声音软件伪造虚拟图像，进行诈骗。 “它只需要提取至少10个字符，最多32个字符就可以合成它的声音。” 国家电网信息通信产业集团安全研究专家赵明明告诉记者。
部分领导干部因工作原因出镜率较高，这为骗子提供了丰富的人脸识别素材； 电视、广播新闻中也能看到大段领导干部的同步发声，这使得“造假成本”更低。
有些情况下，不法分子利用“人工智能换脸”合成视频等方式伪造与领导干部会面、拍照等内容实施诈骗，加大了政治诈骗的欺骗性和危害性。
人工智能诈骗的四大趋势
中国信息通信研究院相关负责人表示，目前，人工智能“辅助”诈骗有四大趋势。 随着人工智能技术的普及应用，犯罪分子诈骗行为的准确性、混乱性、隐蔽性将会增加，公安、检察院等政法机关将面临侦查破案、电子取证、身份识别等实际困难。和加工。
——技术成本由高转低。 腾讯安全玄武实验室负责人于洋告诉记者，随着技术的发展，人工智能“深度伪造”“深度合成”已经成为一种可以低成本实现的技术。
——技术应用由单一向多元转变。 腾讯互联网安全专家杨健表示，实施人工智能“辅助”诈骗一般需要满足多个要素，包括非法获取信息、建立熟人账号、“换脸变声”、破解手机拍照权限等，涉及多种技术手段。
- 虚假身份从模糊变为具体。 传统的电信诈骗往往只能通过“某派出所工作人员”、“某网站客服”等模糊、虚假的提法进行。 但在人工智能“辅助”欺诈中，诈骗者可以以具体的角色出现。
——犯罪方式由“广撒网”转变为精准诈骗。 社交媒体平台往往设有视频验证环节，客观上增加了冒充熟人、领导干部等诈骗行为的“可信度”。 受访专家分析，随着技术的发展，精准盗号、关系网络分析等有针对性的网络诈骗案件比例可能会增加。
多级约束规范
奇安信安全专家裴志勇表示，目前，专业级人工智能“深度伪造”仍需要通过强大的硬件在实验室环境下实现。 这意味着“AI换脸”诈骗近期引发系统性风险的可能性不大，但仍需未雨绸缪，防范攻击。
从源头上，公民个人信息保护有待进一步加强。 杨健等专家建议，应加强对公民信息特别是生物识别特征等私人信息的技术和司法保护。 对于冒充领导干部等政治诈骗风险，可以通过规范领导干部个人社会账户账户管理、普及提高账户安全意识等方式规避。
在技术层面，数字水印认证等技术需要进一步普及和利用。 赵明明表示，数字水印可以将特定信息嵌入到音频、图片或视频等数字信号中，进行版权保护生活网资讯，防止未经授权的复制和复制。 他建议，应加强数字水印、真伪鉴别等技术治理手段，使其能够为数字内容生产者和用户终端提供广泛的服务，用科技手段限制不法分子利用人工智能技术实施犯罪。 。
瑞莱智能高级产品经理张旭东建议，针对涉及政务、安防、金融、消费等重要应用的人脸识别技术缺陷进行改进升级，防止不法分子通过后台劫持手机拍照权限。
“特别是涉及公共利益、保密、公共利益的相关平台和技术服务商，需要优先完成技术加固，防范手机模拟器。同时，鼓励和引导更多手机厂商支持升级系统时使用 3D。人脸识别技术。” 张旭东说道。
从法律体系来看，反电信网络诈骗法、刑法等法律为打击和管控各类网络诈骗活动提供了法律支撑。 赵明明建议，应进一步完善人工智能领域的相关法律，通过案例等指引确立人工智能侵权纠纷的法律框架、诉讼程序、赔偿标准等。
此外，还需要通过完善相关制度，进一步落实平台责任。 新华三集团安全专家曹亮表示，对于核心领域采用人脸识别技术的产品，监管部门应建立分层、多层次的国家安全标准和行业安全标准； 压实平台和企业主体责任，督促相关应用开发企业履行源码审核责任； 建立健全用户注册、算法机制审核、数据安全和个人信息保护、反电信网络诈骗、应急处置等管理制度。
本网站转载其他媒体之作品，意在为公众提供免费服务。如权利所有人拒绝在本网站发布其作品，可与本网站联系，本网站将视情况予以撤除。
Copyright © 2017-2018