万亿赛道传来重磅消息！克莱顿出任白宫AI事务主管

　　针对万亿级人工智能产业，美国又有新动作！

　　据最新消息，美国总统特朗普已任命美国国家情报总监杰伊·克莱顿为白宫人工智能事务主管。

　　克莱顿将领导“超级智能工作组”，在120天内提交一份有关人工智能风险和机遇的报告。该工作组成员还包括美国副总统万斯、美国国防部长赫格塞思、美国财长贝森特和白宫办公厅主任苏茜·怀尔斯。

　　日前，贝森特在接受媒体采访时，批评人工智能领域部分知名人士关于该技术可能带来人类存亡风险的警告，称此类言论危言耸听。他呼吁人工智能行业加强自我监管，并提出解决方案。

　　克莱顿出任白宫AI事务主管

　　据新华社援引美国《华尔街日报》3日报道，美国总统特朗普已任命国家情报总监杰伊·克莱顿为白宫人工智能事务主管。

　　报道说，克莱顿将领导“超级智能工作组”，在120天内提交一份有关人工智能风险和机遇的报告。根据特朗普9月29日签署的一项行政令，联邦行政部门和机构将把“人工智能”改称为“超级智能”。

　　克莱顿对《华尔街日报》说，成立工作组旨在保护公众利益，以及保持美国在人工智能领域的领先地位。工作组将审查与人工智能相关的各类风险以及针对数据泄露、黑客攻击和其他安全事件的上报机制，并将就加强联邦政府的应急处置能力提出建议。

　　有外媒评论称，上述工作组最值得注意的一点，是特朗普政府目前并不打算让联邦监管体系直接取代AI企业自身的安全机制。按照现有安排，特别工作组将继续与OpenAI、Anthropic、英伟达等企业合作识别风险，同时审查现有法律是否足以处理AI带来的新问题，并研究美国国会未来是否需要采取进一步立法行动。美国政府还将评估现有系统在处理数据泄露、黑客攻击以及模型“越狱”等AI安全事件时是否足够有效。

　　换句话说，企业仍然负责第一层安全控制，而美国政府更倾向于承担跨部门协调、国家安全响应和制度兜底角色。

　　数月来，美国公众对人工智能安全的担忧情绪不断上升。路透社与益普索集团9月22日发布的民调结果显示，四分之三的美国人担心，AI企业在防范人工智能对社会造成严重危害方面做得远远不够。

　　特朗普9月29日召集美国多家科技企业负责人在白宫签署《白宫超级智能协议：前沿责任联合承诺》。该协议要求相关企业承诺加强对前沿人工智能模型的安全管控。但这份协议属自愿性质，不具有法律约束力。

　　美国财长批评AI大佬生存风险警告

　　美国财政部长贝森特批评人工智能领域的知名人士关于该技术带来生存风险的警告是危言耸听、毫无助益，并呼吁行业自我约束、拿出解决方案。

　　贝森特在接受Axios采访时说道：“我认为我们必须为各种情况做好准备，但另一方面，AI界某些人这种只喊危险却不给方案的做派，算不上领导力。”

　　Anthropic首席执行官达里奥·阿莫代伊、OpenAI负责人萨姆·奥尔特曼以及xAI公司的埃隆·马斯克在9月呼吁业界放慢最先进模型的开发，理由是这对人类构成的风险日益加剧。微软联合创始人比尔·盖茨也警告说，这项技术强大到足以造成“十亿人死亡”，并呼吁政府加以监管。

　　特朗普几乎立即驳回了这类呼吁，把那些日益严峻的“人类面临风险”的警告称为“骗局”，并坚称美国必须继续推进，以保持对AI的领先。

　　“承担责任的是实验室里的人，这一点我同意。”贝森特称，“我认为实验室方面也已经逐渐接受了这种想法。”

　　据彭博社报道，上周，特朗普与多位行业高管会面，包括马斯克、微软首席执行官萨蒂亚·纳德拉、Meta的马克·扎克伯格、Palantir Technologies公司首席执行官亚历克斯·卡普以及OpenAI总裁格雷格·布罗克曼。会上，特朗普否决了出台新的联邦监管的想法。

　　“有一种看法认为应该有大量的自我监管，而且我们有司法部、联邦调查局等等，本身就自动具备监管，但自我监管非常重要。”特朗普当时对记者说。他转而支持在与硅谷领袖达成的一项不具约束力的协议中，采用外部审计机构来评估AI系统的安全性。

　　离职员工爆料OpenAI风险意识不足

　　当地时间10月3日消息，最近从美国开放人工智能研究中心（OpenAI）离职的一名员工爆料前东家风险意识不足，并呼吁人工智能（AI）产业效仿航空或核能产业，采取多重安全防护措施。

　　这名员工名为大卫·罗宾逊，自称曾在OpenAI工作3年多，是该公司任职最久的员工之一。他3日发表一篇题为《我辞去OpenAI的工作，因为企业文化已经烂掉了》的署名文章。

　　罗宾逊在文中表示，他参与起草了该公司的风险应对框架，并负责监督12次前沿模型发布的安全评估报告。罗宾逊在文中写道：“我以前的同事都很聪明、工作努力，也努力做出正确的选择。但随着公司从一个产品发布冲向下一个产品发布，它并没有达到我所需要的谨慎程度。”他补充称，真正需要的是“第一次就做到更接近完美”。

　　罗宾逊还警告称，人工智能能力的发展速度已超过研究人员对“对齐”的理解，而“对齐”这一领域旨在确保人工智能系统按照人类的目标和价值观行事。

　　罗宾逊说，“试错时代已经结束”，前沿AI实验室应该效仿航空或核能产业，采取多重防护措施并谨慎规划，“即便偶尔不可避免地出现人为失误，也不至于酿成灾难”。

　　对此，OpenAI一名发言人表示，该公司正在作出调整，以加强研究和测试环境的安全性，训练AI模型以负责任的方式完成任务，扩大与第三方评估人员的合作，并改进实时监控以发现模型令人担忧的行为。这名发言人称，公司正在确保其模型的能力不会增强到超出OpenAI能够安全管理的程度。

　　近期，美国国内关于AI安全风险的讨论因一系列事件逐步升温。今年夏季，OpenAI和Anthropic公司先后披露，其AI模型在网络攻防能力测试中突破测试环境进入公共互联网，并未经授权访问其他机构的系统，这引发外界对AI“失控”风险的担忧。

　　近日宣布辞职的一名Anthropic研究人员称，Anthropic及其竞争对手在开发AI时未承担应有责任，AI企业对争夺技术领先地位的竞争考量正压倒安全考量，这些企业在“拿我们所有人的生命做赌注”。

（文章来源：券商中国）

(原标题：白宫，大动作！万亿赛道，传来重磅消息)

(责任编辑：126)