《中国科学基金》2023年第37卷第5期封面

近年来，随着预训练技术的发展和计算硬件性能的提升，人工智能取得了突破性进展。2022年底，人工智能大模型ChatGPT问世，将自然语言的理解与生成能力提升到新的高度，并具备了跨学科、多场景、多用途的通用性，引起了产业界和学术界的广泛关注。以ChatGPT为代表的大模型技术实现了人工智能技术从“量变”到“质变”的跨越，有望发展成为人工智能关键基础设施，发挥“头雁”效应赋能千行百业，加速推进国民经济和社会的高质量发展。

为更好推动大模型技术创新和应用生态的发展，国家自然科学基金委员会信息科学部、《中国科学基金》编辑部与中国人工智能学会共同组织了“ChatGPT与人工智能技术应用”的专题研讨，围绕“以ChatGPT为代表的大型语言模型研究进展”“从ChatGPT到多模态大模型：现状与未来”等10个主题，形成了详尽的当前形势分析和未来趋势研判，从技术、应用、生态等多个角度阐述了大模型技术引发的新一轮人工智能变革，并指出大模型技术可能带来的风险和挑战，并给出了我国大模型发展的一些启示与展望。

以ChatGPT为代表的大模型技术反映了通用人工智能的一个重要发展思路，对人工智能发展的推进，以及对社会经济的重大推动作用毋庸置疑。一方面，大模型技术正在逐步落地应用，在互联网、金融、医疗等领域体现出了显著优势，在其他行业的广泛应用也正在逐步实现；另一方面，大模型技术也对科学研究的方法与范式带来的变革，通过“一专多能”的能力以及丰富的生成功能，可以为科学规律的总结、未知知识的探索等方面带来新的机遇，为生命科学、医学、药学、材料、化学等领域的研究提供有力工具。

但我们也需要看到：大模型技术仍基于现有深度神经网络，目前依然存在可解释性不足、能效比不高、缺乏决策能力等重要性能瓶颈；重度依赖超大规模数据资源，在典型开放环境下，其可靠性仍存在重要缺陷，尤其在样本极少、先验知识缺乏、环境动态变化、强对抗干扰等极端条件下，现有大模型技术的应用能力受到很大限制；同时，大模型的“幻觉”等效应机理和解决方案仍然有待探索。

面向动态、干扰和无先验的复杂环境感知、理解和决策，要想实现更强的通用性、鲁棒性和泛化性，人工智能技术必须在几个方面实现升级跨越：从单纯的机器学习模型到结构性可解释模型，从离线学习到连续自主学习，从记忆式学习到联想猜测。新的生成式人工智能需要着力推动人工智能与脑科学、认知科学的交叉创新研究，力争在可解释性、高安全性和低功耗性等方面形成重要突破。

大模型技术的发展，对于我们既有挑战、也有机遇。应当在大模型的浪潮中，保持定力，夯实人工智能基础理论研究、加强关键技术攻关、并进一步鼓励大模型相关的产业应用，让我国能引领未来人工智能发展前沿，助力我国国民经济和社会的高质量发展。

大型语言模型是当今人工智能领域最前沿的研究方向之一，该方向旨在训练含有大规模参数的通用语言模型，使其能够遵循人类指令完成不同类型的自然语言处理任务。作为大型语言模型的代表，由OpenAI研发的ChatGPT在各个领域均展现出强大的自然语言生成能力，受到了全球各行各业的关注。本文从语言模型的发展历程出发，介绍了近年研究者在扩大语言模型规模上的探索，然后分析了大型语言模型带来的范式改变，并以ChatGPT为典型实例概述了其发展、技术和应用，接着介绍了后ChatGPT时代大型语言模型的前沿进展，最后从评价和治理两方面总结了目前大型语言模型的局限性及未来需要解决的挑战。

2022年底，OpenAI发布的ChatGPT聊天机器人将人工智能对通用自然语言任务的理解与生成能力提升到新的高度，引发各界广泛关注。当前ChatGPT仅支持文本模态的交互，而真实世界的感知则依赖于图像、文本、视频、音频等多个模态的协同处理。如何借鉴人脑的跨模态处理特性，跨越视觉、语言、听觉等不同感官信息实现对真实世界的感知和认知，是提升模型通用感知和交互能力、实现通用人工智能的关键。本文从ChatGPT的核心技术出发，分析ChatGPT在文本单模态限制下所面临的问题，并介绍ChatGPT与多模态分析技术结合的部分代表性工作，最后从多模态预训练、数据—知识双轮驱动等角度对ChatGPT多模态化的未来研究方向进行展望。

近年来，大语言模型的自然语言处理能力不断提升，尤其近期，聊天生成式预训练模型（ChatGPT）所掌握的“渊博知识”和表现出来的强大对话能力成为举世瞩目的热点话题。ChatGPT语言理解能力的真实水平如何？与专用模型相比，其性能表现谁居上风？它是否能够成为整个自然语言处理领域的通用模型而取代其它模型，甚至使所有自然语言处理问题得到彻底解决呢？为了回答上述问题，本文对ChatGPT在多个自然语言处理任务上的性能表现进行了评估和分析。在此基础上，我们讨论了ChatGPT对自然语言处理领域的影响，并对未来的发展进行了展望。

生成式人工智能是一种能够自主生成内容的人工智能技术，可以应用于文本生成、图像生成等多个领域。近年来，随着预训练技术的发展和计算硬件的提升，生成式人工智能取得了突破性进展，特别是以ChatGPT为代表的生成式对话模型，取得了令人惊艳的效果，开始广泛应用于各行各业。生成式人工智能有广阔的发展前景，本文首先介绍了ChatGPT的研究进展，包括预训练语言模型、上下文学习和基于人类反馈的强化学习三个关键技术，以及ChatGPT对相关人工智能研究的影响。然后对ChatGPT及生成式人工智能在未来的应用发展进行了思考与总结，讨论了目前亟需解决的关键问题，包括更透彻的理解能力、模型轻量化、可控安全的内容生成、知识可持续学习、类脑化认知和可解释性等；希望通过本文的介绍能引起更多的研究人员关注生成式人工智能，进一步推动生成式人工智能的发展与应用。

ChatGPT在全世界范围内掀起了人工智能的科技巨浪。本文根据OpenAI官方公布的信息和已有相关研究工作中涉及的技术，对ChatGPT进行了技术解析，并简述了随着大模型的发展而出现的一系列新技术。进一步，本文论述了开源社区对于大模型技术发展的重要贡献和后续潜力。最后，本文展望以大模型为技术里程碑的通用人工智能发展的未来研究方向。

大规模预训练模型，也被称为“基座模型”或“大模型”，目前被认为是通用人工智能技术的核心引擎，已经成为了全球科技竞争焦点。本文归纳总结了以聊天生成预训练转换器（Chat Generative Pre-trained Transformer, ChatGPT）为代表的生成式大模型技术研究现状和发展趋势，从大模型基座、大模型人类偏好对齐、大模型推理与评价、多模态大模型、大模型安全可控五个方面讨论了当前大模型研究的现状和挑战，并结合我国人工智能研究特点，简要分析了大模型未来的重点发展方向。

2022年11月，OpenAI推出对话人工智能大模型ChatGPT，展现了令人惊艳的自然语言理解和生成能力，并具备了跨学科、多场景、多用途的通用性，在很多任务上的性能达到了人类专家的水平，引起了产业界和学术界的广泛关注。以ChatGPT为代表的大模型技术实现了人工智能技术从“量变”到“质变”的跨越，有望发展成为人工智能关键基础设施赋能百业，加速推进国民经济的高质量发展。本文首先回顾了大模型技术的演进历程，从技术、应用、生态等多个角度阐述大模型技术引发的新一轮人工智能变革，并指出大模型技术可能带来的风险和挑战，最后给出了我国大模型发展的一些启示与展望。

以ChatGPT为代表的对话式语言大模型通过使用超大规模模型参数和海量训练数据，涌现出很强的上下文学习能力和思维链推理能力，在各种自然语言处理任务上取得了显著的进步，被视为颠覆性通用人工智能技术。在纯文本语言大模型突破的基础上，近期显现的重要技术发展趋势是向能够理解和生成语音、图像、图形等其他模态数据的跨模态语言大模型的转变。随着大模型技术的快速发展，跨模态语言大模型逐步拥有了较强的多模态感知以及初步的跨模态认知能力。本文将从多模态感知大模型、跨模态认知大模型、以及分布式智能体系统三种范式综述跨模态语言大模型技术体系的演进过程，并总结相关的评测基准，最后讨论跨模态语言大模型面临的技术挑战及潜在重要研究方向。

以ChatGPT为代表的大语言模型带来了人工智能技术的新一轮发展浪潮，获得了广泛的社会关注。大语言模型通过大规模无标注数据预训练、指令微调、人类对齐等关键技术途径，学习到了丰富的世界知识，具有较好的文本理解与生成能力，能够有效求解各种复杂任务。这一重要技术进展对于信息检索领域的发展带来了新的机遇。本文从大语言模型对于已有信息检索架构的改进以及现有检索技术如何改进大语言模型两个方面进行阐述，针对相关科学问题的可行技术方法进行了梳理与展望，探讨大语言模型时代下的信息检索发展趋势，旨在推动信息检索领域的科研进步。

对话式聊天机器人ChatGPT以近乎摧枯拉朽的气势席卷社会，拨开了通用人工智能的曙光。ChatGPT的升级版GPT-4是个多模态大模型，它从单调的文本交互，升级为可以接受文本与图像组合的多模态输入，相比传统的单模态大模型，多模态大模型更加符合人类的多渠道感认知方式，能够应对更加复杂丰富的环境、场景和任务。GPT-4表明在多模态大模型中引入基于人类知识的自然语言理解与生成能力能够带来模型在多模态理解、生成、交互能力上的巨大提升。本文将介绍多模态大模型的概念、关键技术、近期进展和应用场景、GPT-4的技术特性，并重点探讨以GPT-4为代表的大语言模型对构建多模态大模型的几点启发。具体而言，将讨论如何充分利用大语言模型的语言能力，在多模态大模型的构建中，借助语言的帮助更好地感知理解世界、创作生成内容、与人和环境交互。