中国科学院院士张钹：大语言模型“三大能力”与“一大缺陷”不容忽视

　　在当今技术迅速发展的时代，生成式人工智能与大模型正成为推动产业变革的重要力量。随着AI技术的不断成熟与普及，它的应用已从个人领域扩展至企业层面，广泛覆盖各行各业。

　　那么，新技术究竟会给产业带来哪些积极影响？它又将如何平稳落地到场景？近日，在用友主办的“2024全球商业创新大会”上，中国科学院院士、清华大学人工智能研究院名誉院长张钹发表了主题为《生成式人工智能时代的产业》的演讲。

　　会上，张钹院士从能力、应用、架构、趋势等几个维度，详尽阐述了学术界关于大模型的洞察与思考，全面剖析了大模型的演进路径，就该技术的应用前景、挑战及其在不同领域的实际应用展开了深入探讨。

　　大语言模型“三大能力”与“一大缺陷”不容忽视

　　会上，张钹院士探讨了生成式人工智能的核心优势及其可能带来的挑战。目前，在大模型发展的进程中，已呈现出“三大能力”和“一大缺陷”。

　　其中，生成式人工智能具备三大核心能力为：

　　第一、强大的语言生成能力，即在开领域生成多样性的、语义连贯的、类似人类的文本。这是大语言模型区别于其他计算机生成语言的灵魂和优势所在；

　　第二、强大的自然语言对话能力，即在开领域实现人机自然语言对话；

　　第三、强大的迁移能力，即在代理任务上训练一个模型，只需要少量数据和微调，就可以适配到下游任务中，从而凸显出大模型可举一反三的能力。

　　除了上述优势外，大模型也呈现了一大缺陷，那就是大模型的幻觉。换句话说，在多样性输出的过程中，大模型也会犯错，这与它的创造性同时产生。事实上，这种幻觉是外部信息驱动下产生的，因为大模型与人类生成的语言只是行为上相似，而内在机制完全不同。更深一步讲，这也揭示出了基础模型的局限性。一方面，它输出的结果不一定正确，且质量不可控；另一方面，大模型不可信任；还有一方面，大模型对提示词的依赖性强，鲁棒性较差。张钹院士表示，正因具备上述优势与缺陷，产业在落地大模型应用时必须格外重视这些因素。

　　第三代人工智能技术的发展关键点仍在于如何让它落地

　　随着生成式人工智能的快速发展，业界也对其未来前景提出了质疑。针对这一业界普遍关注的问题，张钹院士解释道，生成式AI是人类发展史上的一次重大技术突破。为此，人类花费了几十年时间解决了人工智能领域中的三个关键技术问题——文本的语义向量表示、生成式预训练转换器、自监督学习。

　　其中，最关键的技术创新就在于文本的语义向量表示，它实现了从信息形式的处理到信息内容处理的跨越。张钹院士表示，这项技术真正意义在于它将语言问题转变为一个数学问题。原来，文本仅代表了一个个符号，符号是存在于离散空间的，这些很难用数学工具去解析。而现在，语言被翻译为向量，计算机根据向量就可以解析成语义，对信息的内容加以处理，从而帮助人类真正进入到人工智能时代。

　　基于对大模型原理的深入理解，张钹院士对第三代人工智能技术的发展抱有十足的信心。就目前来看，问题的关键点仍在于如何让它落地。

　　张钹院士认为，第三代人工智能的发展方向重点在于：第一，构建具备可解释与鲁棒（稳健）的AI理论与方法，消除人们心里产生的恐慌。其次，开发安全、可控、可信、可靠且可扩展的技术，从而驱动人工智能产业的繁荣发展。第三，推动AI的创新应用与产业化。这表明，AI技术的研究与开发不仅仅是学术上的突破，还需要与产业需求紧密结合，将技术创新转化为现实应用，从而带来经济效益和社会进步。

　　同时，他还提出了“知识驱动 + 数据驱动”的理念，通过整合知识、数据、算法和算力这四大要素，确保AI技术不仅具备强大的智能能力，还能够在多样化的应用场景中发挥稳定且长效的作用。

　　基础模型的三种落地方向

　　目前，在生成式AI的众多应用场景中，高阶应用如设计、规划，低阶应用如服务、营销是相对容易实现的。例如，券商可依托大模型打造新一代AI中台大脑，帮助企业实现智能化的开户、客服、AI选股等服务场景。

　　与之相反，涉及企业关键业务领域的大模型应用场景则是较难实现的，如自动驾驶或制造行业的定制化生产、质量控制等。因为这些核心业务对于技术的容错率较低，而可靠性、准确性要求更高。

　　那么，大模型的应用场景该如何落地到核心业务领域？技术提供商、产业界的机会在哪里？

　　张钹院士提出了落地通用基础模型的三种方向。

　　第一，面向各个行业的垂类大模型；

　　第二，在大模型的基础上打造产业应用；

　　第三，让大模型与其他技术、工具相结合，创造产业应用。

　　找到了大模型的落地方向，那么让大模型真正落地，同时还能使其用起来安全、可信、可控，这是产业和企业普遍关注的话题。为此，张钹院士提出了基于大模型的六种架构模式，具体为提示工程、检索增强生成（RAG）、微调、知识图谱与向量数据库、内部监测与控制以及安全与治理。

　　在人工智能技术突飞猛进的今天，大模型正在各行各业中展现出巨大的潜力。张钹院士强调，坚持中国自主发展之路，必须认识到知识驱动与数据驱动在第三代人工智能中的核心作用，充分结合和利用知识、数据、算法、算力等要素，从而驱动中国人工智能产业的繁荣发展。

（文章来源：广州日报）

(原标题：中国科学院院士张钹：大语言模型“三大能力”与“一大缺陷”不容忽视)

(责任编辑：73)