某天，你的一位熟人发来乞贷的哀求，随后对方打来了视频。视频接通后你确认长相和声音就是熟人 " 本人 "，你没有猜疑把钱转了已往。没过多久，你发现本身受骗了，刚才视频里那位 " 熟人 " 并不是真的他。
这可不是鬼故事，而是已经发生在多位受害者身上的真实案例。
只需一张照片、10 分钟声音素材
克日，一则 10 分钟被 AI 骗走 430 万元的消息刷屏。据警方转达，受害人郭老师碰到的就是上述情况，骗子通过智能 AI 换脸技能，佯装成挚友对他实行了诈骗。
尤其值得警觉的是，据公开报道表现，使用 AI 技能实行诈骗，此前已有多起相似案例。而这些案件背后，均涉及了 AI 换脸以及声音合成技能。
现在，AI 换脸到处可见，在短视频平台，不少用户都体验过换脸带来的奇怪感。这项技能也越来越成熟，仅需提供一张照片，就可以让你酿成视频中人，或直接天生会眨眼、张嘴的视频。
七七（化名）专门在网上接单用 AI 帮别人天生视频，" 只需提供一张配景干净的正面照，我就能天生视频，不但眼睛、嘴巴都会动，还能时不时动动头，非常天然。别的假如你提供笔墨，我还可以让视频中的人物口型对上，共同度很高，可以一连播放 1 分钟。" 七七说，他现在做这个工作已经非常纯熟，" 一个晚上就能竣工 "。
除了快速 AI 换脸，用 AI 本领合成或克隆声音也越来越常见。
一位商家向中新经纬先容，只必要提供或人一段 10 分钟至 30 分钟的声音素材，要求没有杂音，就能用 2 天左右时间天生一个专属模子，后续输入任何笔墨，发出的都是这个人的声音。
" 这个办法属于一劳永逸，而且这个模子不但能读文也能唱歌。一样平常来说，提供的素材时间越长，终极相似度越高。" 上述商家先容。
本钱低至数十元
据中新经纬相识，现在制作一套 " 露脸且语言 " 的视频本钱不高。七七表现，用照片天生一段 1 分钟时长的视频仅需 30 元左右，假如视频时间比力短，且画面质量要求不高，这个代价可以再降，几块钱一段都可以。上述商家也表现，天生一个专属模子也只必要几十元。
这意味着，假如有人蓄意天生你的长相搭配你的声音的视频，耗费也仅需数十元。
不外，对于前述警方转达的案例，网友们也有疑问。好比非法分子是怎样得到的郭老师挚友的照片及声音素材？本应是即时的视频谈天，郭老师的手机里为何播放的是合成好的视频？
电信分析师付亮对中新经纬表现，冒充或人声音、图像实行诈骗在十多年前就已经出现，严酷说现在 AI 诈骗并不是新范例。" 转达中没有具体阐明非法分子是怎样获取郭老师挚友个人信息的，但有一点可以肯定，这位挚友的交际媒体账号被盗了。非法分子大概是从交际媒体里直接获取了个人信息，也大概之前以骚扰电话的方式与郭老师的挚友接洽过，获取了其声音信息。" 付亮分析。
而至于为什么接通视频通话，播放的却是已经合成好的视频，付亮分析以为大概是通过插件实现的。
据中新经纬相识，现在假造摄像头就可以做到这一点。使用一个步伐，可以在视频通话中让对方看到任何你想播放的视频，此中也包罗通过 AI 换脸和声音克隆合成的视频。
应对 " 高端 " 诈骗每每还得靠最质朴的本领
蓄意制作别大家脸、声音的视频是否违法？
北京嘉维状师事件所状师赵霸占对中新经纬表现，现在未经他人允许利用其肖像，纵然不以营利为目标，也侵占肖像权。但对于声音来说，现在则不受著作权法掩护。" 但有些具有明显性的声音申请注册了商标，这种环境下是声音是受法律掩护的。" 赵霸占说，假如将合成的视频用于诈骗，且到达肯定的数额尺度，那就涉嫌刑事犯罪。
现在，针对 AI 诈骗，包罗北京反诈在内的各类平台已向公众发出提示，乃至称 " 诈骗乐成率靠近 100%"，并给出了一些提示。值得留意的是，由于对新技能辨别本领不强，这种新型 AI 诈骗给中老年人更是带来挑衅。
在一样平常生存中，公众除了要留意个人信息掩护，不容易提供人脸、指纹等个人生物信息给他人，不外度公开或分享动图、视频外，还要加强意识，尤其是涉及财政往来，务必通过电话、晤面等最质朴的途径核实确认，不要未经核实随意转账汇款，不要容易透露本身的身份证、银行卡、验证码等信息。
别的，也要进一步进步和把握辨别 AI 合成视频的本领、本领，现在 AI 合成的视频虽已比力传神，但在细节处如色彩分布、肌肤纹理、心情天然连贯性仍有较为显着的瑕疵。
