涉低俗擦边，AI虚拟陪伴平台“筑梦岛”被约谈！商汤国香基金、阅文集团投资

　　据“网信上海”6月19日消息，因AI智能体对话存在低俗擦边内容，筑梦岛APP被上海市网信办依法约谈。

　　近期有媒体报道，筑梦岛APP 等AI聊天软件存在虚拟角色互动生成低俗内容等问题，经核实，该平台AI智能体内容生成环节存在低俗擦边等违规内容，危害未成年人身心健康。

　　据悉，6月19日上午，上海市网信办依法约谈筑梦岛APP运营企业主要负责人，要求平台立即整改，健全AI生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护义务。企业负责人表示，将按照约谈要求，对照问题举一反三、全面整改。

　　“筑梦岛”App是一款以AI陪伴为核心功能的应用，主要提供用户与虚拟AI角色的聊天互动服务。

　　公开信息显示，筑梦岛App目前由上海筑梦岛人工智能科技有限公司负责运营。

　　2025年1月，“筑梦岛”已正式独立运营，并完成新一轮融资。天眼查显示，这笔融资由商汤国香基金、阅文集团等战略投资方共同投资，融资金额超1000万美元。

　　6月13日，“央广网”微信公众号发布文章《AI聊天软件诱导10岁女孩聊色情内容甚至割腕！记者调查→》提到，一位初一男生表示，他常玩的AI聊天软件是筑梦岛App，在他的使用感受中，该软件“违禁词少一点”。

　　他还提到，其中不乏色情擦边和“分尸猎奇”等内容。央广网记者下载安装筑梦岛App，随机选择一位虚拟互动对象，对方发来的第一句开场白就是“先叫声老公来听听”，随后的对话中又提到“叫声爸爸来听听”。

　　在与该款产品多个虚拟角色的交流中，也都可以进行色情擦边类内容互动，并且，其中一些虚拟角色的对话尺度，并未因为央广网记者提供的假定年龄未成年而受到有效控制，这暴露出该软件在自动生成内容审核机制上存在明显漏洞。

（文章来源：深圳商报·读创）

(原标题：涉低俗擦边，AI虚拟陪伴平台“筑梦岛”被约谈！商汤国香基金、阅文集团投资)

(责任编辑：137)