智慧护卫我们的2500万美元-防范人工智能造假危机

近年来，人工智能诈骗已经成为现实，并引起了人们的忧虑。1995年上映的动画电影《攻壳机动队》曾描绘了一种情节：名为傀儡师的人工智能能够冒充其他身份，迷惑和控制人类的思想和行为，这使得它在网络和虚拟空间中变得无迹可寻。虽然这个情节只是出现在电影中，但是受到埃隆·马斯克（Elon Musk）和萨姆·奥尔特曼（Sam Altman）等人的警告的影响，人们担心一旦人工智能失去控制，可能会演变成对人类的威胁。许多人工智能领域的巨头，如图灵奖得主Joseph Sifakis，在采访中表示对这种想法并不认同。目前，人工智能还没有达到可以在马路上安全行驶的程度，更不用说与人类智慧相匹敌了。但是，这并不意味着人工智能是无害的。事实上，人工智能有可能成为迄今为止人类创造出的最具破坏力的工具之一。最近，在香港特别行政区，一名财务高管因遭受了2500万美元的人工智能诈骗而深受打击。这个案件的发生地点离我们很近，让人们开始思考如何应对这种人工智能犯罪。

据报道，这位高管收到了一封来自英国同事的邮件，提出一项秘密交易。尽管这位高管对此表示怀疑，初步认为这是网络钓鱼行为，但发件人坚持安排了一场Zoom视频会议。当这位高管进入会议时，他看到并听到了几位熟悉同事的面孔和声音，从而消除了疑虑。在确认无误之后，他们开始筹备交易，并按照英国同事的指示，将2亿港币（约1.84亿元人民币）分15次转账至5个本地账户。直到另一位员工与总部核实时才发现异常，原来英国办公室未曾发起过这笔交易，也未曾收到任何款项。

调查发现，在这次视频会议中，唯一真实的参与者是那位香港财务高管，其他人都是通过Deepfake人工智能技术模拟出来的英国财务高管和其他同事的形象。仅凭公开可获得的少量数据、一套基础的人工智能程序以及狡猾的诈骗手法，这群骗子成功骗走了一大笔钱。也许有人会对这个故事不屑一顾，认为这位高管太粗心了，因为在平时的抖音和B站上，我们经常看到的Deepfake整活视频很容易辨别真伪，很难以假乱真。事实并不如此简单，最新研究表明，人们无法可靠地识别Deepfake视频，这意味着大多数人只能凭直觉判断他们所看到和听到的东西。更令人不安的是，研究还发现，人们更容易错误地将Deepfake视频视为真实情况而非虚假。换句话说，如今的Deepfake技术已经非常高明，足以轻易地欺骗观众。

Deepfake这个词是深度学习（Deep-learning）和假冒（Fake）两个词的组合。因此，Deepfake技术的核心要素是机器学习，这使得以更低的成本快速制作出逼真的伪造内容成为可能。制作Deepfake视频的创作者首先会利用大量目标人物的真实视频片段对神经网络进行训练，使其能够真实地理解该人物在不同角度和光照条件下的外貌。随后，创作者将训练好的网络与计算机图形技术相结合，将该人物的复制品叠加到另一个人身上。许多人认为，一种被称为生成对抗网络（GANs）的深度学习算法将成为Deepfake技术发展的主要推动力。GAN生成的面部图像几乎无法与真实面孔区分开来。首次针对Deepfake领域的调查报告专门探讨了GANs，预示着它们将使任何人都能制作出精巧的Deepfake内容。

在2017年底，Reddit上的用户deepfakes开始使用许多著名影星甚至政要的面孔创建色情视频，并将其发布到网络上。这类伪造视频迅速传播到社交网络，随后出现了大量新的Deepfake视频，而相应的检测技术直到几年后才得到发展。