A | 来源：人民日报海外版 本版图片均由AI辅助生成 确保人工智能始终服务于人，而不是替代人的最终判断 记者：当前算法参与社会决策的广度和深度，已经发展到了一个什么样的阶段？它带来的安全风险，是不是已经到了必须系统性应对的临界点？ 肖茜（清华大学人工智能国际治理研究院副院长）：随着大模型能力的快速提升，人工智能确实正在逐步从传统意义上的“辅助工具”走向“参与决策”。今天，无论是在医疗诊断、金融风控、交通调度，还是公共治理、司法辅助等领域，算法都越来越多地参与到决策过程中。
B | 更准确的表述应该是人工智能正在成为越来越重要的“决策参与者”和“决策影响者”。据了解，如果因凡蒂诺拒绝下台，欧足联55个成员协会将一致投票支持将其罢免。事实上，欧足联只需获得43个成员协会支持，就可以发起不信任投票。 从人工智能安全治理的角度来看，确保“人在环上”（Human-in-the-Loop）仍然是一项不可突破的基本原则。人工智能虽然在数据处理和模式识别方面具有明显优势，但当前技术仍然存在诸多局限，例如“黑箱效应”导致决策过程缺乏透明性和可解释性，训练数据可能存在偏差，模型可能产生“幻觉”，在复杂环境下也缺乏人类所具备的价值判断、伦理考量和情境理解能力。
C | 在因凡蒂诺被迫放弃其价值150亿英镑的世界杯股权出售计划后，欧足联于周六上午公开宣布，对其已失去信任，并要求国际足联进行领导层更替。因此，如果将涉及生命安全、公共利益或重大社会影响的决策完全交由人工智能作出，不仅可能导致错误决策，也可能出现责任主体不清、问责机制缺失等治理难题。 更重要的是，我们需要关注算法决策不断扩张所带来的系统性风险。此前有消息披露，因凡蒂诺计划将世界杯商业权益的30%出售给私人投资者，因此遭到了整个足球界的猛烈批评。当越来越多的社会运行依赖算法时，一旦算法出现系统性偏差或遭受攻击，其影响可能迅速扩散至金融、医疗、交通、能源等多个关键领域，甚至影响社会公平和公共信任。因此，我认为，我们已经到了必须系统性应对人工智能决策风险的重要阶段。
D | 如果该计划实施，一批私人投资者将掌握国际足联男女世界杯等核心赛事的商业权益。欧足联指责国际足联是在“出卖足球的灵魂”。未来的治理重点，不应是简单限制人工智能的应用，而是在推动技术创新的同时，建立更加完善的风险评估、算法审计和责任追溯机制，确保人工智能始终服务于人，而不是替代人的最终判断。
E | 魏凯（中国信息通信研究院人工智能研究所所长）：算法伴随着计算机软件的普及，早已经深度嵌入社会运行的各个环节，一切计算机程序都建立在算法之上。早期程序依托的算法，完全由人工预设的明确规则驱动。随着神经网络等人工智能技术成熟，算法的形成逻辑发生重要转变：它不再单纯依靠人工设定规则，模型训练数据同样深刻影响最终输出。
F | 十余年间，消费互联网率先完成迭代，信息搜索、商品推荐、广告分发等场景全面运用 AI 算法。 当下新趋势显现：大众信息查询行为逐步转向智能体，依靠大模型整合素材、直接生成应答。需要警惕的是，大模型“幻觉”问题难以彻底消除，使用者应当对智能体输出内容做好真伪辨别。当然，家里的扫地机器人，自动驾驶汽车，也都是AI算法驱动的。总体而言，算法参与社会决策呈现不均衡发展态势：面向普通公众的消费场景渗透更广，面向经营主体的产业场景仍处在深化探索阶段。
G | 确保AI进入决策过程之后，不会削弱决策的可靠性、公正性、可控性和可问责性 记者：在“算法参与决策”这个特定语境下，您认为“安全”的核心要义是什么？它和我们传统说的网络安全、数据安全、信息安全，最本质的区别在哪里？是不是可以理解为，这是一种更深层的“决策安全”或者“规则安全”？ 魏凯：安全本身具有相对性，AI算法安全同样不存在绝对安全。周四，包括英格兰足球总会在内的欧足联55个成员协会以55票全票通过决议，决定抵制世界杯。
H | 随后，中北美及加勒比海足联成员协会也追随欧足联的立场。但国际足联周五早些时候仍发表措辞强硬的声明，坚持计划将继续推进，并否认这是“出售足球”。然而，当亚足联随后确认也将反对这一计划，并表示“与欧足联和中北美及加勒比海足联站在一起，共同捍卫国际足联世界杯”后，因凡蒂诺已无法在国际足联211个会员协会中获得超过半数的支持。周五，这场反对浪潮进一步扩大。因凡蒂诺的高级顾问卡洛斯-科代罗因抗议该计划宣布辞职，国际足联首席运营官凯文-拉穆尔则表示，国际足联员工“被他欺骗了”。放到“算法参与决策”这一特定语境下，我认为安全的核心要义，就是保障AI算法具备充足的透明性与运行可靠性，规避由算法自主推演、模型决策带来的重大风险。随后，政治层面的压力也接踵而至。英国首相安迪-伯纳姆公开要求因凡蒂诺辞职，而与因凡蒂诺关系密切的美国总统特朗普则表示，自己事先并未获悉这一计划。 讨论AI算法安全不能一概而论，需要结合应用场景、面向的不同主体分类考量。拥有广泛足球界联系的政治策略顾问阿希什-普拉沙尔也支持欧足联推动罢免国际足联主席。他表示：“因凡蒂诺策划了一场试图掏空并窃取足球、为自己牟利的行动。
I | 我们不仅必须阻止这一切，还必须确保这种事情永远不会再次发生——而这一切，应当从让因凡蒂诺下台开始。
J | ”
K | 所谓决策安全，是要防止算法误判、自动化偏见和人类过度依赖机器，确保重大决策仍然处于有效的人类监督和控制之下。所谓规则安全，是要审视被写入算法的目标、指标和价值排序是否合理。因为算法并不是完全中立的，它会把开发者设定的规则转化为大规模、持续性的社会决策。
L | 记者：生成式 AI 爆发之后，大模型参与决策的场景变多了。和传统的、针对特定任务设计的算法相比，大模型的“通用决策能力”更强，但不确定性也更大，这是不是给算法安全保障带来了全新的、更大的挑战？ 肖茜：大模型时代的算法安全已经进入了一个新的阶段，它面临的挑战与传统算法有着本质区别。传统算法通常针对某一特定任务设计，功能相对单一，应用边界比较明确，因此风险也相对可预测。
M | 而大模型则具有通用能力，可以理解、推理、规划、生成内容，并在逐步向智能体演进，开始参与越来越复杂的决策过程。
N | 与此同时，大模型还具有持续学习、不断迭代、多场景应用等特点，能力边界始终处于变化之中。这意味着，技术的发展速度远快于治理规则的更新速度，也使算法安全治理面临前所未有的挑战。 大模型时代与传统算法时代最大的不同，至少体现在三个方面。
o | 一是风险更加难以预测。大模型具有一定的涌现能力，一些能力并非开发者预先设计，我们很难像传统软件那样准确预测系统在所有场景下的行为。二是算法开始影响决策，而不仅仅是执行任务。三是风险的外溢性更强。一个通用大模型往往服务数亿用户，可以同时应用于多个领域，一旦出现系统性缺陷、偏见或被恶意利用，其影响可能迅速跨行业、跨地区甚至跨国界传播，很可能造成系统性风险。
p | 敏捷治理更强调边发展、边治理、边完善规则，提高治理的适应性和前瞻性 记者：全球范围内，算法治理有不同的思路，中国的算法安全治理路径，有哪些自己的特点和制度优势？我们在平衡“发展”和“安全”这对关系上，有没有走出一条自己的路？ 肖茜：我认为，中国人工智能治理的一大特点，就是始终坚持发展与安全并重，努力在促进创新和防范风险之间寻找平衡，而不是把二者对立起来。人工智能是推动经济社会发展的重要引擎。如果因为担心风险而过度监管，可能会抑制创新；但如果只强调发展而忽视安全，又可能带来新的社会风险。因此，中国提出统筹发展和安全，把安全作为发展的保障，把发展作为安全的基础，在鼓励技术创新的同时，加强风险治理，努力实现二者的动态平衡。 在治理方式上，中国近年来提出了风险导向、敏捷治理的理念。今年发布的《2026世界人工智能大会暨人工智能全球治理高级别会议主席声明》再次强调，坚持“风险导向、敏捷治理”。
q | 这意味着，面对快速演进的人工智能技术，治理模式不能一成不变，而应根据技术发展和风险变化不断调整，实现监管与创新同步演进。相比于“先发展、后治理”或“先立法、后创新”的传统路径，敏捷治理更强调边发展、边治理、边完善规则，提高治理的适应性和前瞻性。 此外，中国还高度重视人工智能治理的国际合作。人工智能的发展和应用具有跨境性，其风险也具有全球外溢性，任何国家都无法单独应对。因此，中国不仅积极完善国内治理体系，也积极参与联合国框架下的全球人工智能治理，倡导开放合作、能力建设和风险共治，推动人工智能真正成为促进人类共同发展的公共产品。 技术治理必须与制度治理相结合 记者：这些年学界和产业界都在探索技术解决方案，从实际进展看，这些技术能在多大程度上解决算法决策的安全问题？技术路径有没有它的局限性？会不会出现“道高一尺、魔高一丈”的情况？ 肖茜：用技术来解决技术带来的问题，确实是一条非常重要的路径。近年来，无论是算法可解释性、红队测试（模拟真实攻击者对系统进行对抗性测试的方法，旨在发现漏洞并提升安全性）、还是安全评估、模型对齐，都在不断提升人工智能系统的安全性和可靠性。
r | 但是，技术路径始终存在其局限性。我认为，这种局限主要体现在两个方面。一方面，人工智能的发展速度远快于治理规则的演进。
s | 今天解决的问题，可能很快就会被下一代模型所突破。随着模型能力不断增强，特别是智能体、自主决策、多智能体协同等技术快速发展，未来人工智能甚至可能具备一定程度的自主学习、自主优化和自我迭代能力。在这种背景下，安全治理确实可能面临“道高一尺、魔高一丈”的挑战，单纯依靠技术手段很难做到一劳永逸。另一方面，许多算法决策安全问题本身就不是技术能够独立解决的。例如，算法是否公平、是否符合伦理、是否侵犯个人权利，这些都属于价值判断和制度选择，而不是工程问题。
t | 因此，技术治理必须与制度治理相结合。未来算法决策治理至少应坚持几项基本原则：第一，对于涉及生命安全、基本权利和重大公共利益的决策，必须保留实质性的人类判断，并留出充足的判断时间；第二，建立算法影响评估、模型测试审计和持续监测机制，确保人工智能在部署前、部署中和部署后都处于可测试、可监督的状态；第三，保障必要的透明度、解释权和救济权，使受到算法影响的个人拥有知情和申诉的机会；第四，明确开发者、部署者、使用者和监管者之间的责任边界，形成完整的责任链条。 除此之外，随着人工智能越来越广泛地应用于跨境场景，很多风险已经超越了一国的治理能力。例如，前沿模型可能被全球用户使用，算法漏洞可能迅速扩散，军事、网络、生物等领域的风险更具有全球外溢性。因此，还需要加强国际合作，推动风险评估、安全测试、技术标准和治理规则方面的协调，共同应对人工智能带来的全球性挑战。 只有形成完整的责任链条，才能避免出现“人人参与、人人免责”的治理困境 记者：算法参与决策最棘手的问题之一，是“出了事谁担责”，真出了安全问题，责任该怎么界定？ 肖茜：这是目前全球人工智能治理面临的一个核心难题。过去，责任往往比较容易界定，谁作出决定，谁承担责任。
u | 但在人工智能时代，一项算法决策往往涉及多个主体，包括模型开发者、数据提供者、系统部署者、平台运营者以及最终使用算法作出决策的机构。任何一个环节出现问题，都可能影响最终结果。因此，很难简单地把责任归咎于某一个主体。
v | 国际社会目前越来越倾向于建立“责任链条”的理念，也就是说，根据各主体在人工智能全生命周期中的职责划分责任，而不是由某一个主体承担全部责任。只有形成完整的责任链条，才能避免出现“人人参与、人人免责”的治理困境。 我国近年来出台《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》等法规，对平台责任、算法备案、安全评估等方面已经进行了积极探索，为人工智能治理提供了重要制度基础。
w | 但总体来看，目前我国乃至国际社会，都还没有形成一套十分成熟、可操作的算法决策问责机制。特别是在大模型和智能体快速发展的背景下，责任如何划分、举证责任如何分配、算法“黑箱”如何解释、跨境应用如何监管等问题，仍然需要进一步探索。 记者：对于政府、企业和公众这三方来说，各自应该扮演什么样的角色，才能共同织密算法安全这张网？ 肖茜：算法安全不是哪一方能够独立完成的，而是一项系统工程，需要多方共同参与，形成协同治理的格局。对于政府而言，需要不断完善算法治理体系。面对快速发展的人工智能技术，监管不能停留在事后处置，而要坚持风险导向、敏捷治理，建立覆盖人工智能研发、部署和应用全过程的治理机制，完善法律法规、技术标准、风险评估和责任追究制度，为人工智能健康发展提供制度保障。 对于企业来说，应当切实履行安全治理的主体责任。
x | 安全不应该只是产品上线后的“补丁”，而应贯穿产品生命周期全过程，加强安全评估、红队测试、风险监测和持续优化，真正把“安全设计”融入技术创新之中。 对于公众来说，要不断提升人工智能素养。
y | 我们既要善于利用人工智能提升工作和生活效率，也要保持独立判断，不能盲目迷信算法，更不能把所有决策都交给机器。公众还应积极行使知情权、解释权和申诉权，共同推动人工智能更加透明、可信和负责任地发展。 算法安全不是限制人工智能的发展，而是为了让人工智能更好地服务于人。只有政府加强治理，企业守住责任，公众积极参与，形成共建共治共享的治理格局，才能共同织密算法安全这张网，让人工智能真正做到安全、可信、可控、向善。
Current article:http://u1hd.maqiwenghepinyonghunpeng.cyou/olg/20260826/1864207.html
Published on:02:28:26
微信
移动端
