>> 中国人民大学-人工智能行业:生成式人工智能治理研究报告(2026年)-260827
| 上传日期: |
2026/8/27 |
大小: |
3448KB |
| 格式: |
pdf 共77页 |
来源: |
|
| 评级: |
-- |
作者: |
程絮森,杨建梁,阮神裕 |
| 下载权限: |
无限制-登录即可下载 |
|
|
本报告围绕生成式人工智能的发展应用与治理问题展开系统研究,立足大模型、多模态模型、智能体和具身智能加速演进并向经济社会各领域渗透的时代背景,分析生成式人工智能对生产方式、产业组织、法律责任、人机关系、医疗服务、公共治理和新闻传插的影响。当前,生成式人工智能已由内容生成工具发展为连接知识生产、任务执行和组织协同的重要基础能力,治理对象也由模型本体延伸至训练数据、生成内容、应用场景、责任链条和社会影响。系统梳理其发展图景、典型风险与治理路径,有助于推动我国形成促进创新、保障安全、权责清晰、以人为本的治理体系。 本报告从八个方面梳理生成式人工智能发展的主要进展、应用图景、突出问题和治理路径,分别是智能经济发展、中外治理进展比较、侵权责任、人智协作、智慧医疗、社会空间分析与公共治理、双向人机对齐以及新闻传插治理。 在生成式人工智能与智能经济发展方面,生成式人工智能正在将自然语言、多模态理解、代码生成、工具调用和智能体执行能力嵌入研发、生产、流通与消费过程,推动生产流程、创新方式、商业入口和产业组织加快重构。当前,高质量行业数据供给不足、算力成本上升、模型可靠性欠缺以及智能体责任边界模糊,仍然制约高价值场景的深度应用。未来应加强可信基础设施建设,完善数据、版权和责任规则,推动场景牵引式应用,并提升中小企业与劳动者的人工智能应用能力。 在中外生成式人工智能治理进展比较方面,2025—2026年治理重点已由模型准入扩展至模型、数据、内容、场景、评测和责任链条的复合治理。我国政策具有地方扩散速度快、场景牵引特征强、能力供给工具丰富等特点:欧盟、美国、英国、新加坡和日本分别形成法律义务、创新基础设施、公共评测、软法工具以及企业指南与经济安全相结合的治理路径。 我国下一阶段需要补强模型持续评测、事故报告、训练数据与版权合规、内容凭证、重点场景分级治理以及跨区域和国际规则互操作机制。 在生成式人工智能侵权责任方面,信息交互型人工智能可能引发著作权、不正当竞争和人格权侵害,决策交互型人工智能可能在招聘、信贷和消费等场景中形成偏见、歧视和不合理差别待遇。现行法律原则上可以通过过错责任回应相关侵权,但合理注意义务、通知后的必要措施以及多主体责任划分仍需细化。报告提出,应建立覆盖模型训练、系统部署、服务运营和内容传播的分层注意义务,完善“通知一必要措施”机制,并依据风险创设、控制、获益和防范能力识别各类主体责任。 在生成式人工智能人智协作方面,人类的创造力、价值判断和情感感知正与生成式人工智能的计算、数据处理和规则化执行能力加速融合,形成能力协同、价值协同和动态协同相结合的发展形态。人智协作已进入工业、医疗、教育、金融和公共服务等领域,但仍面临模型黑箱与幻觉、意图理解不足、权责体系不完善、复合型人才短缺和数字鸿沟等问题。未来应加强核心技术研发,完善全流程监管和责任追溯机制,强化人才培养,并推动算力、数据和技能资源向基层地区与中小企业下沉。 在生成式人工智能智慧医疗方面,应用场景已经覆盖居民健康助手、临床诊疗辅助、医疗文书、医学影像、药物研发和公共卫生治理。医疗生成式人工智能正由技术展示进入政策牵引、产业落地和治理塑形并行推进的新阶段,评价重点也将转向真实临床环境中的安全性、有效性和可持续性。针对医疗幻觉、临床证据不足、数据安全和算法偏倚等问题,未来应加强本地验证、真实世界监测和不良事件报告,推动全生命周期监管,并促进相关应用向基层医疗、家庭健康管理和连续照护拓展。 在生成式人工智能社会空间分析与公共治理方面,地理大模型、空间语言模型和合成空间数据正在推动空间分析向预测、推演和辅助决策拓展,并在国土空间规划、城市治理、应急管理和公共服务设施布局中展现应用潜力。与此同时,“空间幻觉”、算法黑箱和历史数据偏见可能削弱公共决策的准确性、可解释性与公平性。未来应构建权责边界清晰的空间智能制度体系,发展监管沙盒、第三方审计、空间一致性检查和风险预警工具,保留重大公共决策中的人类审核与干预,并促进空间智能公平普惠应用。 在生成式人工智能时代双向人机对齐方面,报告将对齐理解为人工智能适配人类意图、语境和价值,以及人类认识和调适人工智能能力与局限的动态互动过程。提示词兼具意图表达、语境建构和规范嵌入功能,是推动意图、语境、风格、情感和价值对齐的关键媒介。双向对齐受到文化差异、语言模糊性、模型能力边界以及效率与安全等张力影响。治理应覆盖提示输入、模型响应和多轮互动全过程,完善风险识别与交互审计机制,提升公众提示素养,并防范过度信任、情感依附和思维外包。 在生成式人工智能新闻传播治理方面,大模型、智能体、AI搜索和多模态生成正在重塑新闻采集、生产、分发与消费机制。生成式人工智能能够提高新闻生产效率和跨语种传播能力,也可能带来虚假
|
|