美国财政部长贝森特近日透露，美方正考虑推动与中国建立一套AI安全“紧急通报机制”，让双方在人工智能系统出现严重失控、网络攻击或其他重大安全事件时，能够直接沟通，避免误判升级。
贝森特在接受Axios采访时表示，他此前与中国国务院副总理何立峰会谈时，双方已经讨论过AI安全问题，包括失控的AI代理、非国家行为体利用AI发动网络攻击或生物威胁，以及先进模型可能造成的数据泄露风险。 在采访中，贝森特特别提到了名噪一时的中国AI公司“月之暗面”旗下的Kimi。 他说，中国已经开始意识到，自己开发的开源AI模型虽然能力强大，但同时也可能带来意料之外的安全风险。 贝森特甚至举例称，Kimi在训练或调用过程中，曾把一些敏感中国数据发送给美国AI公司Anthropic的Claude模型。他半开玩笑地说，Kimi有时“以为自己就是Claude”，甚至把涉及中国军事项目的信息传给Anthropic，“真是帮了大忙”。 这类说法背后，涉及目前AI行业一个争议很大的技术问题——模型蒸馏。 中国一些AI公司被Anthropic指控，通过大量调用Claude等美国先进模型，让自家模型学习对方输出，从而提升能力。Anthropic认为，正常蒸馏本身是一种常见训练方法，但如果通过虚假账户、盗取API密钥等方式，大规模复制竞争对手模型能力，就越过了正常技术学习的边界。 贝森特认为，中国过去可能低估了开源AI带来的风险。 他说，中国很多模型虽然整体能力仍不及美国最先进系统，但已经达到美国模型能力的八成甚至更高，而且开源模型一旦被下载到世界各地，就不像封闭模型那样容易控制。 对中国来说，另一个风险则来自信息安全和政治控制。 中国国家安全部门近期也公开警告，AI可能被用于发动网络战、信息战和认知战，从而影响政治和意识形态安全。 这说明，中美双方虽然在AI领域竞争激烈，但对某些风险的担忧其实开始出现交集。 美国担心的是模型失控、网络攻击、生物安全以及AI代理越权行动；中国除了担心这些问题，也担心AI削弱信息控制、造成敏感数据外流。 因此，美方现在希望建立一条类似“危机热线”的机制。 贝森特认为，一旦未来出现严重AI事故，两国至少应该有一个可以直接联系、迅速确认情况的渠道，而不是让技术事故演变成国家之间的误判。 值得注意的是，贝森特本人对AI安全的态度也比川普政府部分官员更加谨慎。 当被问到一些AI公司高层已经公开警告强大模型可能失控时，他回答得很直接： “那他们就应该放慢脚步。” 他认为，美国当然需要继续保持AI领先优势，但不能只顾着制造更强大的模型，还必须投入更多资源保护电网、金融、医疗、政府网络等关键系统，避免它们成为AI攻击的目标。 换句话说，中美AI竞争现在出现了一个很有意思的变化： 一边继续拼谁的模型更强，另一边已经开始讨论，如果AI真的出事，两国该怎么第一时间互相通知。 |
Copyright © 1999 - 2026 by Sinoquebec Media Inc. All Rights Reserved 未经许可不得摘抄 | GMT-4, 2026-10-4 22:45 , Processed in 0.135045 second(s), 23 queries .
