特朗普重大宣布！涉及超级智能

　　特朗普最新发声！

　　当地时间10月4日，美国总统特朗普宣布组建“超级智能工作组”，并任命包括美国国家情报总监杰伊·克莱顿在内的工作组成员。特朗普表示，“超级智能工作组”将直接向他本人以及白宫幕僚长苏茜·怀尔斯汇报工作。

　　日前，OpenAI首席执行官萨姆·奥尔特曼表示，人工智能带来的益处足以让人类接受其中一些风险，并主张这项技术应继续向公众广泛开放，而不是由少数几家实验室严格垄断或集中控制。奥尔特曼发表上述言论之际，AI行业内部正围绕技术发展速度以及日益强大的系统所带来的风险展开日益激烈的争论。

　　值得注意的是，Anthropic前研究员Jacob Coxon将出席纽约市一场关于人工智能的听证会并作证。考克森上个月离开Anthropic，并对开发越来越强大AI的竞赛发出严厉警告，指责其前雇主和OpenAI“拿我们的生命当赌注”。

　　特朗普宣布组建“超级智能工作组”

　　据新华社消息，美国总统特朗普4日在社交媒体发文，宣布组建“超级智能工作组”，并任命包括国家情报总监杰伊·克莱顿在内的领导团队。

　　特朗普说，该工作组的使命是协调联邦政府的各项工作，“确保美国在超级智能领域继续保持全球领先地位”。该工作组将负责协调联邦政府与消费者、公益团体、宗教组织、关键基础设施提供商及人工智能企业之间的互动与合作。其领导团队包括克莱顿、美国联邦贸易委员会主席安德鲁·弗格森、国防部副部长埃米尔·迈克尔以及人事管理局局长斯科特·库珀，将直接向美国总统及白宫办公厅主任苏茜·怀尔斯汇报工作。

　　特朗普9月29日签署行政令，将“人工智能”改称为“超级智能”。当天，美国多家科技企业负责人在白宫签署《白宫超级智能协议：前沿责任联合承诺》。该协议要求企业承诺加强对前沿人工智能模型的安全管控。特朗普称这份协议具有“道德约束力”。

　　另据路透社报道，AI安全倡导者表示，这场活动表明，特朗普急于显示自己正在回应选民对AI危险日益增长的担忧，同时又不想施加可能阻碍技术发展的限制。但他与英伟达、SpaceX、OpenAI、Anthropic、Meta和谷歌达成的安全协议，并未规定公司若不遵守会有什么后果。

　　“这是一种尝试，想让人觉得政府正在倾听这些担忧，同时又不削弱本届政府明确而一贯的立场：监管和治理本质上会阻碍创新。”无党派机构外交关系委员会AI团队负责人卡特·达菲说。

　　路透社指出，9月29日签署的协议确实包含一些AI安全倡导者寻求的措施，包括呼吁建立“强有力的内部控制”以防止未经授权的黑客攻击，以及与“独立外部审计师”合作。这些概念已被纳入州和联邦立法草案；加利福尼亚州9月颁布了首部州法律，规定独立审计师应如何评估AI产品。

　　但这份一页长的白宫文件没有涉及细节或执行机制。一名白宫官员在声明中表示，该协议将“推进美国创新，并加强AI模型的负责任开发”。

　　代表硅谷的民主党众议员罗·卡纳欢迎“独立审计师”的构想，但表示审计师应向独立的联邦机构报告。

　　“审计师不能只向（OpenAI首席执行官）萨姆·奥尔特曼或达里奥·阿莫代伊汇报。”他说，“我担心的是，总统基本上信任这些人，而他们有巨大的利益动机，未必有保护我们安全的判断力。”

　　风险投资家大卫·萨克斯为特朗普提供AI事务方面的建议，并一直倡导不受限制的AI发展。他在社交媒体平台X上表示，证券法和其他法律权威将惩罚那些未能解决内部管控问题，或未处理审计师所发现问题的公司。

　　但AI安全倡导者告诉路透社，这些法律权威只能在伤害发生后追责，而AI威胁需要的是能在造成大规模伤害之前就发挥预防作用的保障措施。

　　尽管如此，一些AI观察人士认为，仅举办这场活动这一事实本身就表明，特朗普正在吸纳这些担忧。保守派智库美国创新基金会的AI政策主任塞缪尔·哈蒙德表示，特朗普与科技高管达成的协议“是朝着承认存在严重安全与安保担忧、促进企业间更紧密协调的方向转变”。

　　前Anthropic研究员将在纽约AI听证会上作证

　　曾警告人工智能可能变得过于强大、人类将无法控制的前Anthropic研究员雅各布·考克森（Jacob Coxon），将于本周一在纽约市议会听证会上作证，并与一些全球最大AI公司的代表同场出席。

　　据彭博社报道，知情人士称，考克森是应纽约市议会议长朱莉·梅宁（Julie Menin）的要求出席的。梅宁敦促AI举报人作证；眼下，市议员正在审议一揽子旨在为这项技术建立保障措施的法案。

　　考克森上个月从Anthropic辞职，并对开发越来越强大AI的竞赛发出严厉警告，指责其前雇主和OpenAI“拿我们的生命当赌注”。他确认计划本周一作证。

　　这场听证会将让业内一些最直言不讳的批评者，与Anthropic、OpenAI、Alphabet旗下谷歌和Meta Platforms的代表同处一室。据其中一位知情人士透露，前谷歌DeepMind研究员亚历克斯·特纳（Alex Turner），以及AI Futures Project执行董事、前OpenAI研究员丹尼尔·科科塔伊洛（Daniel Kokotajlo），预计也将作证。该人士称，四家主要AI公司将派政策和安全官员出席。

　　此次听证会反映出，纽约官员正试图在监管该行业方面发挥更大作用。该行业在纽约迅速扩张，而AI监管在很大程度上仍属于联邦和州政府的职责范围。

　　纽约市议会正在审议的一项由梅宁提出的提案，将把从AI公司违规行为中追回的罚款或处罚的一部分奖励给举报人。其他正在审议的立法将允许受到AI系统伤害的人在特定情况下起诉开发者，并要求某些系统在该市部署前接受第三方验证。

　　彭博新闻此前报道，在梅宁办公室警告可能传唤后，OpenAI、Anthropic和谷歌同意出席，而Meta更早承诺参加。由于SpaceX的人工智能部门未回应出席请求，纽约市议会已对其发出传唤。

（文章来源：券商中国）

(原标题：特朗普，重大宣布！涉及超级智能)

(责任编辑：98)