防不胜防，10分钟就被AI骗走430万！这是曾震惊全网的真实诈骗案件。

据警方发布，一公司老板接到朋友的微信视频电话，由于长相和声音确认都是“本人”，他丝毫没有怀疑就把钱打了过去。结果一问朋友，对方根本不知道此事。这人才知道，原来诈骗者DeepFake了他朋友的面部和声音。

虽说这看上去是离谱的小概率事件，但据相关统计，AI技术新骗局来袭后，诈骗成功率竟接近100%。今年多地警方接连破获以“人工智能”为幌子的诈骗案件。这些案件中，犯罪嫌疑人利用“人工智能”技术，非法获取公民个人信息，进而实施诈骗、敲诈勒索等犯罪活动。

一、AI诈骗是什么？

随着人工智能技术的不断发展和普及，越来越多的人开始接触和使用AI技术。然而，随之而来的是一种新型的诈骗方式——“AI诈骗”。

诈骗分子可以使用人工智能技术来模拟人类对话，通过语音合成技术让人们听到类似于人类的声音，通过图像合成技术让人们看到类似于真实场景的图像。这些逼真的诈骗场景可以欺骗人们的感官，让人们产生信任感，从而上当受骗。

“AI诈骗”对人们的财产安全和隐私都会造成很大的危害：

•财产损失：诈骗分子使用人工智能技术制造逼真的诈骗场景，可能会欺骗人们，让人们上当受骗。一旦被骗，人们的财产就可能会受到损失。

•隐私泄露：为了实施诈骗，诈骗分子可能会收集人们的个人信息，包括姓名、身份证号、地址、联系方式等。这些信息一旦被泄露，就可能会被不法分子利用，给人们带来更多的麻烦和损失。

•信任危机：诈骗分子使用人工智能技术制造逼真的诈骗场景，会让人们对人类对话和信息产生信任危机。这会严重损害人们的信任感和安全感，从而影响社会的稳定和和谐。

二、常见的AI诈骗手段？

第一种：声音合成

声音合成技术采用了深度学习和信号处理技术，旨在生成逼真的合成音频。其中的典型代表是WaveNet，它是由DeepMind开发的一种基于深度学习的声音合成技术，使用了卷积神经网络（CNN）和递归神经网络（RNN）等模型，能够生成高质量的合成音频。WaveNet可以模拟人类语音的声音特征和语调，实现更自然、逼真的声音合成效果。

今年AI的声音合成技术被炒得火热，先是“AI孙燕姿”横空出世，再有AI人声克隆进军配音圈。然而，这股热潮背后也带来了一系列恶性事件和无辜受害者。

骗子通过骚扰电话录音等方式来提取某人的声音，成功得到素材后进行声音合成，进而利用伪造的声音骗过对方，所以被骗的人听到声音信以为真。

第二种：AI换脸

AI换脸技术采用了深度学习和计算机视觉技术，以及生成对抗网络（GAN）的方法，旨在将一个人的面部特征和表情应用到另一个人的照片或视频中。

骗子利用正常人的思维，那就是利用人脸实施诈骗。因为人脸效果更容易取得对方的信任，骗子用AI技术进行换脸伪装，再以视频的方式进行信息确认。骗子首先分析公众发布在网上的各类信息，根据所要实施的骗术，通过AI技术筛选目标人群。在视频通话中利用AI换脸，骗取对方的信任。

第三种：伪造照片

AI技术的迅猛发展使得伪造照片的能力越来越强大，能够生成令人真假难辨的“假”照片。“有图有真相”的时代已不复存在。

在3月份，一组特朗普"被捕照"在推特上迅速传播，并引起了广泛关注。这些照片中，特朗普被警察包围，又按倒在地，看上去狼狈又慌乱。虽然特朗普"被捕"照片可能只是AI技术的一个小玩笑，但如果不对其进行监管，AI伪造照片可能会引发更大的问题。

例如，在美东时间的5月22日，社交媒体上开始广泛传播一张描述五角大楼附近发生爆炸的照片。这张虚假照片的快速传播甚至导致标普500指数在短时间内下跌约0.3%，市场从涨转为跌。

现在，AI伪装照片尚有破绽，通过仔细观察还是可以辨认出来，但是随着科技的发展，以后，AI伪装照片的技术只会越来越成熟，越来越难以辨认。

以上内容由【无际Ai】整理发布，转载请注明出处。点关注，不迷路！未来将会持续更新AI人工智能方面的热点资讯和科普教程等