监管就AI风险发声！专家建议尽快出台金融人工智能管理办法

　　据国家金融监督管理总局近日消息，5月20日，金融监管总局党委理论学习中心组围绕“深入学习贯彻习近平经济思想，切实做好科技金融、数字金融‘大文章’，推动人工智能等新质生产力发展”主题举行集体学习暨专题调研活动。金融监管总局党委书记、局长李云泽在活动中强调，加强数字金融发展和监管有关政策的研究制定，有效防范应对人工智能发展带来的风险挑战。

　　“加强数字金融监管政策研究制定”

　　李云泽在专题交流活动上强调，要在金融领域积极应对新一代人工智能技术快速演进的新形势，及时跟进学习全球人工智能发展趋势和应用前沿，把握人工智能发展趋势和规律，加强数字金融发展和监管有关政策的研究制定，加快监管数字化智能化转型，稳妥推进人工智能在金融领域的应用，有效防范应对人工智能发展带来的风险挑战。要充分发挥金融服务实体经济作用，持续健全同科技创新相适应的科技金融体制机制，着力完善科技金融服务体系，纵深推进科技金融试点，坚持自立自强，更好服务推动我国人工智能等新质生产力朝着有益、安全、公平方向健康有序发展。

　　关于金融业应用人工智能的影响，此前金融监管总局相关负责人也曾提及。在去年10月份召开的2024金融街论坛年会上，国家金融监督管理总局资管机构监管司副司长蒋则沈指出，人工智能不仅有助于提高金融机构的运营效率、降低成本，通过应用分析海量数据改进投资决策和风险管理，还将改善客户服务体验，提供个性化的解决方案，对金融服务方式、效率、范围和准确性将产生深远影响。但他同时提醒，人工智能应用也带来了模型的可解释性、公平性、责任归属以及潜在的系统性风险等挑战和问题。

　　此外，去年11月，中国人民银行、金融监管总局等七部门曾联合印发《推动数字金融高质量发展行动方案》（以下简称《方案》）。该《方案》提出，布局先进高效的算力体系，加快云计算、人工智能等技术规范应用。同时，该《方案》还要求，强化模型和算法风险管理，健全模型安全评估和合规审计体系，及时披露算法信息，提升算法可解释性、公平性和安全性。

　　南都湾财社曾报道金融大模型风险问题

　　人工智能正在深刻重塑金融业的方方面面。南都湾财社此前报道，自今年春节以来，DeepSeek的热风早已席卷证券基金业，但证券基金机构接入DeepSeek后在投顾业务的应用场景上，基本以赋能员工为主。（点击阅读）

　　在银行业，大模型应用场景也不断“上新”。5月20日，南都湾财社推出《金融调研③银行拥抱大模型背后，如何拦住风险“灰犀牛”？》报道，关注大模型如何赋能科技金融产品创新和风险防控，并探讨其伴生的成本和模型风险管理难题。报道梳理发现，不少银行的大模型应用场景达到上百个，主要聚焦在风险防控、信用评估与贷后管理、个性化投顾服务、智能客服、智能办公、合规监控与提升等方面。

　　多位金融业人士也指出，随着数字化转型提速、金融科技快速发展，以模型风险、数据风险等为代表的新型风险不断涌现、快速演变。

　　兰台律师事务所高级合伙人康倩向南都湾财社记者分析称，从法律视角看，大模型在金融业的应用可能存在多方面的潜在风险：首先是数据安全问题，技术漏洞或第三方依赖可能导致客户隐私数据泄露，且脱敏处理缺乏统一标准，构成显著挑战；其次是合规问题，现有监管规则未涵盖AI决策可解释性、算法歧视等问题，如AI自动为不同客户推荐投资策略时，金融机构责任尚不明晰；此外，系统性风险传导问题也不容忽视。若多家金融机构共同依赖同一技术供应商，一旦该供应商出现故障，可能引发跨机构连锁反应，对于此类系统性风险的限制与追责，尚需探讨解决方案。

　　她建议，从技术、政策和生态等多方面入手，以防范上述风险。其中，在政策层面，她表示，目前没有全国范围内系统性规范金融业大模型应用的相关监管政策，《数据安全法》和《个人信息保护法》构成基础法律框架，相关法律规定与监管政策散见于银行业数字化、银行数据安全、移动互联网应用程序等相关的通知办法中。

　　在她看来，在大模型席卷金融业的当下，监管部门应尽快出台类似于《金融人工智能管理办法》相关制度，明确算法审计要求与责任追溯规则；其次，可以考虑建立动态风险评估模型，广泛征求监管创新意见；此外，在标准统一方面，建议制定大模型在金融领域应用的技术伦理标准，并强制要求披露训练数据的来源及决策逻辑。

（文章来源：南方都市报）

(原标题：监管就AI风险发声！专家建议尽快出台金融人工智能管理办法)

(责任编辑：137)