AI教父Geoffrey Hinton：人工智能比气候变化的威胁“更紧迫”

在业内有“人工智能教父”之称的计算机科学家杰弗里·辛顿(Geoffrey Hinton)表示，相较于气候变化，人工智能(AI)可能是对人类“更紧迫”的威胁。在采访中辛顿表示，心气候变化是一个巨大的风险，但人工智能的风险确实更加紧迫。

他补充道，人类应对气候变化，相对而言，更容易提出一些有效的应对策略，比如说减少碳的排放，如果你这样做，最终一切都会好起来的。但对于人工智能的风险，你根本不知道如何下手。

Hinton对深度学习和神经网络(模仿人脑的数学模型)的研究帮助奠定了人工智能发展的基础——这为他赢得了“人工智能教父”的绰号。在科技巨头谷歌以4400万美元收购Hinton的公司DNN Research后，他于2013年加入谷歌 。

Hinton将AI比作蜂群思维，它可以复制数千个自身。然后一个副本学到的一切，整个蜂巢都学到了。随着在视频(视觉和听觉/感官信息)上训练的多模态模型的进步，这些机器将比仅在语言上训练的大型语言模型更聪明。

除Hinton外，近日多位AI专家，包括开发人员、研究人员和监管机构，表达了他们对当前AI可能产生危害的担忧：

1. 网络攻击爆发。正确的提示prompt现在可以生成有效的恶意代码，这意味着更多、更大和越来越多样化的网络攻击。Anthropic的首席执行官Dario Amodei是ChatGPT的竞争对手，他表示，此类攻击的大规模扩张是他近期最大的担忧。

2. 骗局愈演愈烈。使用社交媒体帖子和其他个人信息，新的人工智能辅助网络钓鱼和欺诈计划将采用听起来真实的形式，用你的朋友和亲戚的假声寻求帮助。

3. 虚假信息引爆。宣传和各种攻击将通过算法进行优化，并由科技巨头进行大规模分发。多模态人工智能——文本、语音、视频——可能使公众无法区分事实和虚构。

4. 监视锁定。美国的7000万个闭路电视摄像机和不受监管的个人数据已经使当局能够将人与镜头相匹配。 人工智能可以为企业和政府加强这种跟踪，实现大规模的行为预测，但具有个性化的精确度。