生成式人工智能运行中的风险分析与治理路径

关键词:

摘要

以ChatGPT为代表的生成式人工智能推动AI从辅助分析迈入自主生成，也使得法律风险在运行环节之间扩散、在不同主体之间传导，并跨领域叠加。本文将人工智能的运行界定为一个持续生成、积累并外溢风险的动态过程，沿数据采集、算法训练与内容输出三个阶段展开系统梳理。研究认为，人工智能风险呈现出“来源于数据、加剧于算法、溢出于模型”的链式传导逻辑，具体表现为训练数据来源合法性缺失、数据质量失真、算法黑箱与透明度不足、知识产权侵害、虚假信息传播以及责任主体识别困难等。在输出端，知识产权权属不明与虚假信息责任链条断裂相互交织，集中暴露了传统侵权法与平台责任规则在生成式AI场景下的适用困境。有鉴于此，应构建覆盖事前预防、事中监管与事后救济的全链条治理体系。人工智能治理的关键，不在于以静态规则简单限缩技术空间，而在于在动态调适中寻求创新激励与风险防控的制度平衡，这一平衡点亦须嵌入数据源头、算法过程和输出影响三个环节，方能回应生成式人工智能链式传导的规范挑战。

文献引用

• [1]丁晓东.论算法的法律规制[J].中国社会科学,2020(12):105. [2]王丽熔.生成式AI下的算法备案：功能定位、现实困境与优化路径[EB/OL].[2026-06-03].https://doi.org/10.26914/c.cnkihy.2024.024063 [3]王海洋.生成式AI训练数据的法律风险及其元规制[J].浙江社会科学,2024(9):59. [4]王海洋.生成式AI训练数据的法律风险及其元规制[J].浙江社会科学,2024(9):60. [5]卢安文.生成式人工智能：风险、监管与治理模式探索[J].重庆邮电大学学报(社会科学版),2025(3):115. [6]卢安文.生成式人工智能：风险、监管与治理模式探索[J].重庆邮电大学学报（社会科学版）,2025(3):114-115. [7]卢安文.生成式人工智能：风险、监管与治理模式探索[J].重庆邮电大学学报（社会科学版）,2025(3):115. [8]刘洋,宋振武.人工智能算法立法的理论逻辑及其规范构造[J].天津法学,2024(2):50. [9]刘洋,宋振武.人工智能算法立法的理论逻辑及其规范构造[J].天津法学,2024(2):51. [10]孙逸啸,彭成龙.生成式人工智能算法"失控"：风险景象、治理困境与规制进路[C]//新兴权利集刊.上海：上海人民出版社,2025:35. [11]孙逸啸,彭成龙.生成式人工智能算法"失控"：风险景象、治理困境与规制进路[C]//新兴权利集刊.上海:上海人民出版社.2025:41-42. [12]毕文轩.生成式人工智能的风险规制困境及其化解：以ChatGPT的规制为视角[J].比较法研究,2023(3):158. [13]毕文轩.生成式人工智能的风险规制困境及其化解：以ChatGPT的规制为视角[J].比较法研究,2023(3):158. [14]李西泠.生成式人工智能中的个人信息保护[J].法学论坛,2026(3):33. [15]李智,赵雪蓉.生成式人工智能大模型的数据风险与治理机制[J].上海政法学院学报（法治论丛）,2026(3):146. [16]李智,赵雪蓉.生成式人工智能大模型的数据风险与治理机制[J]. 上海政法学院学报（法治论丛）,2026(3):148. [17]杨成越,罗先觉.算法歧视的综合治理初探[J].科学与社会,2018(4):5. [18]杨建武,罗飞燕.类ChatGPT生成式人工智能的运行机制、法律风险与规制路径[J].行政法学,2024(4):106. [19]杨建武,罗飞燕.类ChatGPT生成式人工智能的运行机制、法律风险与规制路径[J].行政法学,2024(4):108. [20]张凌寒.算法规制的迭代与革新[J].法学论坛,2019(2):26. [21]张梦洁.生成式人工智能训练数据的著作权风险及规制路径[EB/OL].[2026-06-01].https://doi.org/10.26914/c.cnkihy.2025.020512 [22]张凌寒.搜索引擎自动补足算法的损害及规制[J].华东政法大学学报,2019(6):40. [23]张欣.生成式人工智能的数据风险与治理路径[J].法律科学（西北政法大学学报）,2023(5):46. [24]陈敏,孙占利.算法"黑箱"的技术与法治耦合治理[J].法治论坛,2022(4):17. [25]陈宏光,安诗凤.生成式人工智能训练数据的风险与治理研究[J].海南开放大学学报,2024(1):115-116. [26]宋保振,秦瑞标.论生成式人工智能应用风险的法律规制[J].上海政法学院学报（法治论丛）,2023(6):113-114. [27]宋保振,秦瑞标.论生成式人工智能应用风险的法律规制[J].上海政法学院学报（法治论丛）,2023(6):115. [28]岳平,苗越.社会治理：人工智能时代算法偏见的问题与规制[J].上海大学学报（社会科学版）,2021(6):1-11. [29]岳平,苗越.社会治理：人工智能时代算法偏见的问题与规制[J].上海大学学报（社会科学版）,2021(6):1-11. [30]金融界.ChatGPT开发商OpenAI遭集体起诉：不择手段窃取信息，将导致文明崩溃！[EB/OL].[2026-05-30]https://www.sohu.com/a/692637279_114984. [31]罗智敏.算法歧视的司法审查：意大利户户送有限责任公司算法歧视案评析[J].交大法学,2021(2):183-195. [32]胡小伟.人工智能时代大数据算法风险管理的法律监管研究[J].湖北大学学报（哲学社会科学版）,2021(2):129. [33]姚微佳.生成式人工智能风险治理及法律规制研究[J].湖北经济学院学报（人文社会科学版）,2024(12):99. [34]钭晓东.论生成式人工智能的数据安全风险及回应型治理[J].东方法学,2023(5):106-116. [35]徐伟,何野.生成式人工智能算法风险的法律治理[J].新媒体与社会,2024(2):69. [36]徐伟,李文敏.生成式人工智能法律风险的源头治理[J].政府与法治,2025(2):95. [37]袁合川、吴艳弘.生成式人工智能的版权风险及其规制路径[J].传播与版权,2025(13):107. [38]商建刚.生成式人工智能风险治理元规则研究[J].东方法学,2023(3):6. [39]黄锫.生成式AI对个人信息保护的挑战与风险规制[J].现代法学,2024(4):105. [40]程雪军.AIGC浪潮下超级人工智能平台算法黑箱的治理路径[C]//新兴权利集刊.上海:上海人民出版社,2023. [41]童星海.生成式人工智能数据训练中个人信息保护的责任规制[J].中国科技论坛,2026(3):23. [42]熊进光、张峥.从ChatGPT 到DeepSeek：生成式人工智能的法律风险与三维规制[J].重庆大学学报（社会科学版),2025:1. [43]澎湃新闻网.员工20天三起泄密事故，三星考虑重新禁用ChatGPT[EB/OL].[2026-05-30] https://www.thepaper.cn/newsDetail_forward_22568617. [44]戴维,王锡锌.算法透明机制的局限性及其克服[J].华东政法大学学报,2025(1):38-39. [45]戴维,王锡锌.算法透明机制的局限性及其克服[J].华东政法大学学报,2025(1):38-39. [46]Dennis Hillemann, Does ChatGPT Comply with EU-GDPR Regulations? Investigating the Right to be Forgotten[EB/OL].[2026-06-01].https://www.fieldfisher.com/en/insights/does-chatgpt-comply-with-eu-gdpr-regulations-inves. [47]Garante per la protezione dei dati personali. Provvedimento del 30 marzo 2023, No. 9870832. [48]Jie Gui, Zhenan Sun, Yonggang Wen, Dacheng Tao & Jieping Ye, A Review on Generative Adversarial Networks: Algorithms, Theory, and Applications, 35 IEEE Transactions on Knowledge and Data Engineering 3313, 3313-3332 (2023). [49]Mata v. Avianca, Inc., 22-CV-1461 (PKC) (S.D.N.Y. 2023). [50]Regulation (EU) 2024/1689 of the European Parliament and of the Council (AI Act), Art.3-4. [51]Thaler v. Perlmutter, No. 23-5233 (D.C. Cir. 2025). [52]USCO. Re: Zarya of the Dawn (Registration # Vau001480196)[EB/OL].[2026-06-14].