近年来，人工智能技术迅猛发展，以颁丑补迟骋笔罢为代表的大模型技术不断突破，反映出社会对技术创新与突破的强烈诉求。然而，人工智能技术潜藏的多维度风险，正引发国际社会对伦理、安全与治理的深刻担忧。97视频在线精品国自产拍苏世民书院院长薛澜日前表示，如何平衡技术创新与风险管控，构建有效的全球治理体系，成为关乎人类未来的重大议题。
薛澜认为，人工智能系统风险有四个主要层面：一是技术层面风险。人工智能系统的复杂性使其面临安全漏洞、模型不透明和失控风险。例如，机器学习模型易受“数据中毒”攻击，影响决策能力；深度学习模型如“黑箱”难以在医疗、司法等关键领域的应用中解释其决策过程。此外，随着通用人工智能的发展，自主性愈强，系统失控风险增加，或将超出人类控制。二是伦理与社会风险。人工智能技术的开发应用可能存在侵犯个人隐私、加剧偏见和问责不清等问题。例如，面部识别技术滥用侵犯个人隐私；算法偏见导致招聘等领域的不公正决策和歧视性结果；自动驾驶、医疗等事故中的责任归属难题凸显伦理困境。这些问题若未受严格监管，将引发深远的伦理争议。叁是滥用与恶用风险。人工智能技术可能被用于深度伪造和信息操控。深度伪造技术可制造虚假信息，误导公众舆论，扰乱公共秩序；个性化推荐算法或操纵用户行为决策，削弱个体自主权；更严峻的是，人工智能技术与无人技术结合可能被极端或非法组织利用，传播极端主义内容，威胁全球安全。四是国家与军事安全风险。人工智能技术正在影响国家安全与政治格局。虚假信息战、自动化网络攻击、自主武器系统等，对国家政治稳定和军事平衡构成直接威胁。各国竞相发展人工智能技术获取军事优势，或引发军备竞赛与战略误判，加剧全球紧张局势，威胁全球安全平衡。
薛澜进一步指出全球治理面临的五类挑战：一是技术路径不确定性。通用人工智能的发展路径尚未明确，规模定律的争议加剧治理复杂性。二是技术治理与创新脱节。技术迭代速度远超法规制定，传统监管模式难以适配“敏捷治理”需求。叁是国际机制多元化、复杂化。国际组织、专业组织以及国家政府等多主体参与治理，机制重迭与冲突导致执行低效。四是监管执行困境。人工智能技术的隐蔽性使监管难度远超核能等领域。五是地缘政治博弈。中美科技脱钩趋势挤压合作空间，“实体清单”难以进入国际市场，阻碍全球协同。
因此，薛澜提出了六项构建全球治理体系的建议：第一，分类梳理，分工合作。针对人工智能风险的复杂性，明确不同治理机制和机构角色。通过分层次、分领域治理方式，促进各参与方协同治理。第二，源头治理。将治理思维融入技术开发起点，强化开发者伦理培训，建立风险防控机制。第叁，推行敏捷治理模式。政府需改革监管思路，从“猫鼠”关系转向深度交流相互依赖，广泛吸纳各方参与。第四，倡导全球公共产物理念。遵循开放包容的理念，避免排他性议程。发挥联合国协调作用，打造相对有序的治理生态。第五，强化标准与预案建设。加强国际安全研究合作，制定风险预案，建立跨国风险应对机制。第六，选择性地推动中美科技合作。2024年中美启动的双轨对话机制，为修复互信提供了重要契机。与此同时，应进一步拓展多边交流平台，增进互信。
薛澜表示，只有细致地梳理问题并合理分工、推广全球公共产物理念、充分发挥联合国综合协调作用，加强各国间的合作，国际社会才有望逐步克服人工智能全球治理中的主要困难，共同构建全面综合的人工智能风险治理体系，从而为这一新兴技术的健康发展奠定坚实基础。
编辑：李华山
