AI教父呼吁暂停超级智能开发丨南财合规周报（第212期）

　　每周，“合规周报”会盘点最近一周国外人工智能、科技竞争、个人信息保护方面值得关注的动态。

　　本周，我们重点关注：网络安全法修正草案拟完善人工智能伦理规范；61家单位签署公约推动互联网平台互通互操作；超900名公众人物联名呼吁，暂停超级智能AI开发；OpenAI首个AI浏览器发布；夸克“C计划”上线对话助手；微软AI主管：微软不会开发情色类AI，与OpenAI划清界限；Netflix表示不担心AI冲击电影和电视剧业务。

　　平台监管与治理

　　1、网络安全法修正草案拟完善人工智能伦理规范，加强安全监管

　　10月23日，全国人大常委会法制工作委员会举行记者会，发言人王翔介绍立法工作有关情况并回答记者提问。王翔介绍，2025年9月，十四届全国人大常委会第十七次会议对网络安全法修正草案进行了初次审议。根据各方面意见，草案拟作以下主要修改：一是充实网络安全工作指导原则；二是增加促进人工智能安全与发展的内容；三是在个人信息保护方面进一步做好与民法典和个人信息保护法的衔接；四是进一步完善相关处罚规定。

　　王翔进一步介绍，网络安全法修正草案对实践中出现的新情况新问题作出回应，采取“小切口”方式对法律责任制度进行修改。一审后，根据各方面意见，拟对修正草案作进一步完善：一是，拟增加规定：网络安全工作坚持中国共产党的领导，贯彻总体国家安全观，统筹发展和安全，推进网络强国建设。二是，回应人工智能治理和促进发展的需要，拟增加一条关于人工智能安全与发展的框架性规定，主要内容包括：支持人工智能基础理论研究和算法等关键技术研发，推进人工智能基础设施建设，完善人工智能伦理规范，加强安全风险监测评估，创新并加强人工智能安全监管，促进人工智能健康发展。三是，进一步完善法律责任，拟对部分违法行为处罚规定作进一步完善，同时，在个人信息保护方面进一步加强与民法典和个人信息保护法的衔接。

　　2、抖音、腾讯、淘天、蚂蚁、百度、京东、美团、快手等61家单位签署公约，推动互联网平台互通互操作

　　10月24日，中国互联网协会发布《推动互联网平台互通互操作自律公约》。公约提出，互联网平台应遵循自愿、平等、公平、诚信、安全、技术可行的原则，分阶段、逐步开展互通互操作。核心内容聚焦三大场景：一是推进应用及服务互通，支持用户在不同平台间便捷切换服务，无正当理由不得限制用户使用合法合规的第三方服务；二是以安全为底线，推进外链的识别与访问；三是逐步推进数据互通互操作，遵循最小必要原则，在授权或法律法规允许范围收集使用。此外，公约强调保障用户知情权、选择权和隐私权，明确用户有权选择关闭互通功能，并要求平台建立健全数据安全管理体系，设置便捷的投诉反馈渠道，维护公平竞争的市场环境。公约得到业界的广泛支持和积极响应，共征集到61家单位签署，包括抖音、腾讯、淘天、蚂蚁、百度、京东、美团、快手等互联网平台企业，以及全国32个地方互联网协会，覆盖电商、社交、支付、信息服务等多个关键领域，充分体现了行业的共同意愿。

　　AI动态

　　1、OpenAI首个AI浏览器发布

　　10月22日，OpenAI正式发布了首个浏览器ChatGPTAtlas，其直接内置了ChatGPT，还自带记忆和Agent能力。这标志着OpenAI与谷歌展开直接竞争。OpenAI表示，这款浏览器并非简单在传统浏览器上附加AI功能，而是将ChatGPT深度融入浏览全流程。该浏览器保留了标签页、书签等传统设计，拥有“随行聊天”“代理模式”等核心功能。用户无需切换页面，即可通过常驻侧边栏随时调用ChatGPT，在浏览新闻时即时生成摘要，在查看商品页面时自动对比参数。

　　2、夸克“C计划”上线对话助手，打造“搜索+对话”的AI入口

　　10月23日，阿里AI旗舰应用夸克“C计划”首个落地成果终于显露真容——夸克上线AI对话助手，于AI超级框内新设ChatBot对话入口，让夸克用户可一个应用兼得搜索与AI对话双重体验。新加入的AI对话助手内设深度搜索、拍照搜题、AI写作、翻译和打电话等功能，与字节旗下豆包高度相似。夸克并非要打造一款全新的独立AI应用，而是选择把像豆包这样的对话助手“塞进”夸克，巧妙地将“豆包”们所代表的独立聊天功能，整合进了其产品中。

　　3、Netflix表示不担心AI冲击电影和电视剧业务

　　10月22日，Netflix发布季度财报，在致投资者的信中表示，公司非常有优势，能够有效利用AI的持续进步。Netflix并不打算让生成式AI成为内容创作的核心，而是将其视作能提升创作者效率的工具。当投资者问及Sora对Netflix的影响时，Netflix表示：内容创作者可能会受到一定影响，但对电影和电视剧业务并不担心，不担心AI会取代创造力。

　　4、超900名公众人物联名呼吁，暂停超级智能AI开发

　　10月22日，包括哈里王子、音乐人will.i.am在内的超过900名公众人物，共同签署了一份声明，呼吁暂停开发超越人类智能的超级智能AI。该声明由非营利组织“未来生命研究所”发起，要求在就其安全可控达成广泛科学共识，并获得强有力的公众支持之前，禁止开发超级智能AI技术。签署者涵盖AI领域先驱、商业领袖等人物，其中包括两位AI教父——Yoshua Bengio和Geoffrey Hinton。商界领袖如苹果联合创始人史蒂夫·沃兹尼亚克也加入了行列。声明指出，超级智能AI可能带来的风险，包括大规模失业、技术失控，以及甚至导致人类灭绝。

（文章来源：21世纪经济报道）

(原标题：AI教父呼吁暂停超级智能开发丨南财合规周报（第212期）)

(责任编辑：137)