AI安全争论愈演愈烈 呼吁减速的Anthropic为何仍在扩张算力？

　　Anthropic在呼吁放慢前沿人工智能（AI）发展速度的同时，仍在持续扩大AI基础设施布局。

　　当地时间9月16日，据外媒报道，Anthropic已签署其在澳大利亚的首份数据中心租赁协议，将获得一座总规划容量达2.16吉瓦（GW）的数据中心园区。该项目尚需等待澳大利亚外国投资审查委员会批准，预计最快于2027年起投入运营。

　　知情人士称，新的数据中心将主要用于AI推理，即处理用户请求、生成预测结果等运行阶段的计算，而不会用于模型训练。该项目由数据中心开发商Zerra DC负责，计划通过可再生能源购电协议获取电力，并自行承担电网接入成本，并计划采用封闭式循环、空气冷却系统。

　　面对数据中心对土地、水和电力资源带来的压力，澳大利亚政府计划从2027年开始对数据中心资源使用设置限制，但目前仍在积极推动AI基础设施投资。当地经济学家预计，到2030年，澳大利亚相关投资规模可能达到1500亿澳元。

　　上述消息发布之际，正值发出“AI减速”呼声的Anthropic又一次成为AI行业的关注焦点。

　　此前，Anthropic的CEO达里奥·阿莫迪（Dario Amodei）发表一篇千字长文，呼吁行业放缓提升前沿模型能力的速度、为安全研究和风险治理争取更多时间，得到了OpenAI CEO山姆·奥特曼（Sam Altman）和SpaceX的CEO马斯克的附和。

　　另一边，英伟达CEO黄仁勋和Meta的CEO马克·扎克伯格（Mark Zuckerberg）等人对阿莫迪的观点表示不完全赞同。其中，黄仁勋态度坚定地否认“AI末日论”，称AI行业“不需要任何新的法律”；而扎克伯格则认为，比起倡导AI减速，引入第三方评估机构才是行业最佳实践。

　　Google DeepMind联合创始人沙恩莱格（Shane Legg）也在9月16日接受英国《金融时报》采访时表示，当前AI能力正在“非常、非常快”地发展，但“不能让能力领先于安全”。对于阿莫迪提出的“减缓”方案，莱格称其“方向上值得考虑”，但具体如何实施仍需要进一步讨论。

　　不过，如果Anthropic新的数据中心确实主要用于承担推理任务，那么，Anthropic所说的“减速”与其基础设施扩张并非完全对应同一件事。这也进一步证明了，即便前沿模型训练速度放缓，AI减速并不等于算力需求消失，AI产业的算力需求可能从模型训练逐步转向推理。

　　此外，就在9月16日，微软AI负责人穆斯塔法·苏莱曼（Mustafa Suleyman）发表文章《对“模型福利”的警告》，将矛头直指Anthropic自身，并将AI安全讨论进一步引向模型训练本身。

　　在文章中，苏莱曼公开质疑Anthropic在模型训练中涉及“意识”“情感”和“模型福利”等概念的做法。苏莱曼认为，AI并没有意识或感受，人类也不应该在训练过程中让模型形成“自己可能具有意识、拥有权利，或者人类需要保障其福利”的认知。

　　苏莱曼警告称，如果一个能力远超人类的AI系统不仅拥有高度自主能力，而且开始以“自己具有权利”或“自身福利受到威胁”为前提行事，人类对其进行控制可能会变得更加困难。

　　值得注意的是，微软还是Anthropic的重要投资者和商业合作伙伴。苏莱曼也在文章中强调，他认可Anthropic在AI安全方面所做的工作，其质疑主要集中于“模型福利”以及AI拟人化这一具体路径。

（文章来源：澎湃新闻）

(责任编辑：18)