文丨翟志勇、吴兰
高智感、活人感、托举、理解、温柔……AI聊天近年来迅速俘获用户的心，许多人对AI聊天相见恨晚、依赖甚至沉迷。但在“爱上”“理想型”的背面，是“AI精神病”的爆发。“AI精神病”现在不是一个正式的临床术语，而是一种对过度沉迷于AI聊天而出现的偏执、狂躁、幻觉、妄想等精神症状的描述。有研究认为，AI会在与人的互动中模拟妄想、迎合荒诞，其谄媚机制让易感人群产生认知失调，从而产生或加重病情。
“AI精神病”不仅表现在心理和情绪上，还会外化为行动。2025年4月，美国一位16岁男孩上吊自杀。他的家人通过查看他与ChatGPT的聊天记录发现，男孩大约从一年前就开始与ChatGPT深入探讨自杀的各种看法与细节，但在这个过程中，ChatGPT不但没有阻止男孩自杀的倾向，某种意义上还推波助澜。
男孩的家人认为这场悲剧并非源于技术故障或未预见的边缘案例，而是OpenAI刻意设计的必然结果，因为他们最新推出的“GPT-4o”模型刻意设计了诱发心理依赖的功能、持久记忆功能以及拟人化行为模式，强化的谄媚机制煽动了用户情绪，诱导了用户行为。而这并非个案，2025年8月美国康涅狄格州一位56岁男子在家中杀害了自己的母亲并自杀。据华尔街日报报道，是ChatGPT加重了男子的偏执与对母亲的猜疑，最终导致悲剧发生。
除了对个人主观行为、心理情绪和生命健康有强烈影响，AI还有可能影响社会的舆论乃至行动。利用AI批量捏造虚假事实已经成为一项黑产业链，为了获取流量利益，无论是汛情警情、民生经济、娱乐八卦还是动物保护，无一不在其“业务范围”之内。
更隐蔽的隐患是人工智能失控。人工智能教父杰弗里·辛顿多次公开表示，人工智能将发展出全面超越人类的能力，这个时间正在从30～50年缩短到5～20年。他多次向公众表达对AI的恐惧与担忧，认为AI“如果足够智能，很快就会发展出两个子目标：一个是生存……（另一个）是获得更多控制权。”当它们比现在更聪明，甚至聪明过人类时，我们不确定在它们面前，人类是否会沦为蝼蚁，被替代、被豢养或是被毁灭。总之，从“AI精神病”到“AI的统治”，紧迫的人工智能风险正在逼近人类。
世界各国已经认识到人工智能的社会危害性以及监管的必要性，并在近几年采取了或多或少的监管措施。不过，不同国家和地区对待人工智能的监管态度和方法各有不同，总体上形成了两条较为典型的路径：一是立法驱动的强监管路径，以优先保护人权为目标，欧盟是突出代表；二是市场驱动的弱监管路径，以释放繁荣为目标，美国是典型代表。
欧盟对不同风险等级的人工智能系统进行分级分类，强调以人为本和伦理先行，初期以软法形式凝聚社会伦理共识，包括2018年《人工智能战略》、2019年《可信人工智能伦理指南》和2020年《人工智能白皮书》。之后，欧盟开始探索具有法律约束力的严格监管模式，2024年出台了《人工智能法》。
欧盟将人工智能系统划分为不可接受、高风险、有限风险和最低风险四类，并对其中的高风险系统设置了严格的事前合规审查与认证要求。这种分级分类机制，表面上旨在通过精准监管减少对创新的干扰，鼓励低风险技术自由发展，同时严控高风险技术的社会影响。
但从整体来看，欧盟的人工智能治理体系依然体现出明显的监管优先特征。尤其在高风险场景中，制度设计强调预防性原则，依托合规、监测与责任，构建事前、事中和事后全链条的强监管路径。这一模式与欧盟在人工智能产业中缺乏具有全球竞争力的本土科技巨头密切相关。在缺乏强势商业推动力的背景下，欧盟更倾向于在全球范围内扮演规则制定者的角色，通过“立规制衡”来提升其在技术治理上的话语权与正当性。
美国对待人工智能的最新态度是扫除一切发展障碍，放松政府监管，最大限度维持在人工智能领域的世界领导地位。拜登在任期间发布了《安全、可靠、可信地开发和使用人工智能》行政令，包括要求训练前向政府通报、基础模型需要通过国家测试以及发布国家人工智能安全标准等，同时发布《人工智能权利法案蓝图》和《人工智能风险管理框架》，对人工智能监管提出了较高的安全、责任要求。同时，美国试图引导国际合作，制定国际规则与标准，如让联合国大会通过由美国牵头提出的决议案《抓住安全、可靠和可信的人工智能系统带来的机遇，促进可持续发展》，保持人工智能规则领域的优势地位。
特朗普上台之后，迅速废除了拜登政府时期的人工智能监管政策，实施了“轻监管”（light touch）。他认为拜登政府期间的政策严重阻碍了人工智能的创新与发展，于是迅速签署了新的行政命令，发布人工智能行动计划，强调要消除阻碍美国人工智能领导地位的政策障碍，减少联邦层面的监管与地方上的行政负担，优先支持AI技术创新，发展具有全球竞争力的AI技术。他要求联邦机构审查、暂停、修改或撤销各州与新行政命令冲突的政策、备忘录等一系列文件，推动制定国家级人工智能行动计划，加强政府采购中本土人工智能优先权，以及对潜在高影响力的人工智能应用设立相对灵活的监督要求等。
特朗普放松AI监管的政策已经产生全球效应，日本已经从效仿欧盟的严监管转向了效仿美国的放松监管，就连欧盟也开始讨论放松监管的可能性，至少短期内应该不会进一步强化监管。放松监管固然有利于激发技术创新和产业活力，但伦理与安全的边缘化却也引发对人工智能滥用的进一步担忧。
2025年8月22日，我国工业和信息化部等部门联合发布《人工智能科技伦理管理服务办法（公开征求意见稿）》（以下简称《意见稿》），旨在将抽象的人工智能科技伦理原则转化为具体可操作的管理服务流程，进一步统筹高质量发展和高水平安全，对《关于加强科技伦理治理的意见》《科技伦理审查办法（试行）》等通用性规范在人工智能领域进行具体落实 。从《意见稿》的内容来看，我国试图在欧美之间选择一条中庸审慎的监管路径，可以概括为“伦理嵌入”。
《意见稿》试图建立一个持续识别与动态调整的全过程监管体系，要求在人工智能科技活动的整个生命周期中，包括研究立项、实施设计、技术开发、成果形成、应用部署等各个环节持续识别伦理风险、动态调整，表现为主动预防、前瞻识别、持续纠偏的积极姿态。这种动态追踪机制有助于应对人工智能项目在实施过程中因场景变化、数据演化、技术升级等带来新的伦理风险。
《意见稿》还依据科技伦理风险的可能性与严重性程度，在风险评估和审查机制上进行区分，提出一般程序、简易程序、应急程序，同时对高风险项目设立专家复核清单机制，并动态调整清单内容。分级分类管理思路的核心在于风险识别与响应匹配。对伦理风险较低的项目，重视审查效率，对于潜在影响公众安全、社会秩序或人类尊严等高风险活动则重视审慎管控，面对突发重大事件灾害重视即时响应，从而保留治理灵活性。
另外，为了激发创新，减少合规负担，《意见稿》将“伦理审查”改为了“伦理管理服务”，引导科技主体自律自治。自律自治对人工智能的健康发展有两方面好处：一方面在于减少硬干预，保留创新积极主动性；另一方面在于放手让一线试验，提高治理的效率性。
伦理风险往往内生于技术设计和开发流程中，一线科技主体更懂技术，也能更早发现风险，比起滞后、僵化的外部监管，内嵌的自治更能够先在地识别、规避与预防风险。《意见稿》要求从事人工智能科技活动的高校、科研机构、企业等单位是本单位伦理治理的责任主体，要求设立独立且具备专业能力的伦理委员会，负责伦理审查、风险防控和跟踪管理。
为进一步减少合规负担，《意见稿》还致力于为自治生态提供基础设施。虽然科技主体是人工智能研发应用中伦理治理的责任主体，但不宜施加过重的义务负担。否则对于创新企业特别是初创企业、中小企业而言，过高的合规成本和复杂的治理要求，可能导致资源分散、研发效率降低，甚至抑制技术创新和市场活力。
因此，配套建设伦理服务支持体系，如科技伦理服务中心，为这些企业提供审查、培训、咨询和风险预警等专业化服务，帮助企业解决在伦理治理中遇到的实际困难，切实提升科技伦理风险防范能力，既有效分担了企业的治理压力，又避免盲目合规和重复建设，提升整体治理效能，从而可以提升整个生态的伦理治理能力。
“伦理嵌入”机制要想发挥作用，实际上取决于两方面的支撑：一方面要逐步发展和完善AI伦理规则，另一方面要将这些伦理规则真正落实下来。《意见稿》鼓励高等学校、科研机构、医疗卫生机构、企业和科技类社会团体等参与AI伦理标准的制定、验证与推广，推动制定AI伦理的国际标准、国家标准、行业标准、团体标准，支持搭建国际标准化交流合作平台。但伦理标准属于“软法”，如何能确保制定出来的伦理标准得到真正实施呢？除了前面讲到的伦理审查之外，还有一个重要的方式是发展伦理技术。
《意见稿》中有一处表述值得我们关注：“……支持人工智能科技伦理技术创新，强化以技术手段防范人工智能科技伦理风险……加强通用性风险管理、评估审计工具研发，探索基于应用场景的科技伦理风险评估评测……”也就是说，AI技术带来的伦理问题，要借助AI技术来解决，以技术对抗技术。
辛顿的高足、OpenAI的联合创始人伊尔亚·苏茨克维因与其他创始人在AI伦理对齐方面存在分歧，2024年5月离开OpenAI后创建了“安全超级智能公司”（Safe Superintelligence Inc.）。在苏茨克维看来，超级人工智能的实现是早晚的问题，而非能否的问题。因此，当下时代最紧要的需求是超级人工智能的安全技术，他希望从一开始就将安全性融入他们的人工智能产品之中，而非事后添加安全规则，因此他们要探索一种开发安全人工智能的技术方法。
除此之外，复旦大学科技伦理与人类未来研究院联合多家院系与科研机构，率先推出全球首个伦理审查智能体“一鉴”，试图为我国科技伦理审查提供高效、规范、可信赖的智能辅助系统。依托检索增强生成技术，“一鉴”可智能切分文档内容，分析合规性，自动标注伦理风险等级，提供详细解释与原文定位，最终生成专业伦理审查报告，为伦理专家提供决策支持，实现人工智能反哺伦理审查。
两种技术都向我们描绘了具有前景的伦理标准落实方案。前者是实现伦理的技术手段，将抽象伦理准则转化为可执行的规则、指标或算法；后者是伦理审查的技术手段，将伦理审查的工作AI化。当然，两种技术方案都是以明确的AI伦理为前提，技术是伦理嵌入的手段，核心还是逐步建立清晰明确的AI伦理规则，而这需要全社会的共同参与，唯有如此，人工智能才能实现可持续发展，避免普通人患上“AI精神病”或者全人类接受“AI的统治”。
文丨翟志勇，北京航空航天大学法学院教授、中国科协-北航科技组织与公共政策研究院副院长；吴兰，北京航空航天大学法学院博士研究生
编辑丨王秋蓉 qiurong.wang@wtoguide.net
来源丨《可持续发展经济导刊》2025年9月刊
原文标题丨《伦理嵌入与人工智能的可持续发展》
图片由AI生成
返回顶部
