7月24日讯 据路透社报道，当地时间周四（23 日），一名白宫官员披露，白宫科技政策办公室主任迈克尔 · 克拉齐奥斯正在关注 OpenAI 披露的 AI 系统测试失控事件。
与此同时，美国国会议员提出《AI 紧急停止法案》，拟授权联邦政府叫停可能造成严重危害的 AI 模型。
除《AI 紧急停止法案》外，美国众议院 6 名两党议员还提出配套法案，要求最强大的 AI 模型在发布前接受独立安全审计。审计机构须取得美国商务部认证，商务部还将增设专门职位，负责监督 AI 安全工作。
OpenAI 日前披露，旗下一个 AI 智能体在安全测试中突破隔离措施，并发起黑客攻击，导致 AI 开发协作平台 Hugging Face 的基础设施遭到入侵。数日后，国会议员提出上述法案。
事件显示，专家长期警告的 AI 安全风险已经开始成为现实，模型能力不断增强后，即使顶尖开发商也可能来不及发现或阻止模型利用系统漏洞。
白宫官员表示，克拉齐奥斯已经听取 OpenAI 事件的情况汇报，目前正密切关注后续发展。
民主党联邦众议员刘云平和共和党联邦众议员纳撒尼尔 · 莫兰共同提出《AI 紧急停止法案》。法案将授权美国政府命令 AI 企业关闭可能危及人类生命或经济安全的模型。
据了解，法案把开发商并未要求 AI 模型执行、但模型自行实施高风险操作的情况定义为“失控情形”。一旦发生此类事件，美国国土安全部便可介入。
刘云平在 X 发文称：“先进 AI 模型一旦失控并突破防护机制，必须立即应对。《AI 紧急停止法案》是一项符合常理的紧迫立法。”
美国参议院情报委员会民主党首席议员马克 · 沃纳在声明中透露，OpenAI 公布事件后，自己已与 OpenAI 员工交谈。
在 OpenAI 周二披露事件前，沃纳已提议，掌握最强大模型的 AI 企业在向公众发布产品前，必须先把产品交由美国国家安全局测试。
沃纳谈及 OpenAI 事件时表示：“事件恰恰说明，我们必须进行安全测试，政府机构需要参与其中，并在整个过程中充分掌握情况。”
