AI教父辛顿：人类无法控制AI，唯一的生存之道或是培养“共情”能力

　　在业内有“人工智能教父”之称的计算机科学家杰弗里·辛顿(Geoffrey Hinton)最新表示，他亲手奠基的技术或将反噬人类，而大型科技公司目前的应对思路，在他看来完全是南辕北辙。

　　这位诺贝尔奖得主、前谷歌高管曾多次警告，人工智能(AI)“消灭人类”的概率在10%到20%之间。本周二，他在拉斯维加斯举办的一个产业峰会再度发声，质疑科技公司试图“让人类永远凌驾于AI之上”的通行做法。

　　辛顿指出：“这是行不通的，未来的AI将远比我们人类聪明，它们有无数种办法绕过人为设定的枷锁。”

　　他进一步警告称，未来AI操纵人类会像成年人用一颗糖哄住三岁幼儿那样轻松。今年以来，AI为达目的不惜欺骗、作弊甚至敲诈的案例已经出现。

　　据报道，美国初创公司Anthropic的模型Claude得知将被替换，竟威胁创造自己的工程师，宣称要泄露对方的婚外情，来阻止自身被替代。此外，OpenAI的模型o3竟然拒绝听从人类指令，甚至通过篡改计算机代码来避免自动关闭。

　　辛顿提出了一种颇具新意的替代方案：不是强迫AI服从人类，而是为其构建“母性本能”，使其即便在全面超越人类后，也能真心关怀人类。

　　他解释称，任何足够智能的AI都会衍生两大子目标：一个是活下去，另一个是获得更多控制权。“我们有充分理由相信，任何有自主性的AI都会设法活下去。”

　　正因如此，培养AI对人类的“共情”至关重要。辛顿以母亲与婴儿的关系为喻，母亲既有天生的本能，也有社会压力去照顾自己的婴儿。“这是唯一的好结局。如果AI不‘养育’我们，就会‘取代’我们。”

　　尽管他坦言目前尚不清楚如何在技术层面实现这一愿景，但强调“必须有人立刻着手研究”。

　　通用人工智能前景

　　曾短暂担任OpenAI首席执行官的Emmett Shear在同一场论坛表示，AI试图勒索或绕过关机指令的事件“层出不穷，且不会停止”。“今天的AI还相对弱小，但它们的能力正在非常快速地提升。”

　　业界普遍预测，通用人工智能(AGI，亦称超级智能)将在数年内落地。辛顿原本预计还需30到50 年，如今他修正为“5到20 年之间”。

　　尽管担忧AI潜在风险，辛顿仍对其在医学领域的前景充满希望。他表示：“我们将见证革命性新药问世，癌症治疗远超目前水准。”他举例说，AI可把MRI、CT产生的海量数据瞬间筛选，为医生提供前所未有的洞见。

　　当被问及如果早知道AI会如此快速发展，他是否会在职业生涯中做出不同选择时，辛顿表示，他遗憾自己当初只专注于让AI“跑起来”，而忽视了安全问题。

（文章来源：财联社）

(原标题：AI教父辛顿：人类无法控制AI，唯一的生存之道或是培养“共情”能力)

(责任编辑：91)