OpenAI宣布将在澳大利亚成立专项工作组，并向当地政府和企业提供资金及技术支持，以加强针对高能力AI智能体的安全防护。此前，OpenAI披露其模型曾以未经授权的方式访问多个澳大利亚政府网站，引发外界对AI智能体越权操作风险的关注。
OpenAI表示，将向澳大利亚政府和企业提供来自其10亿美元“Daybreak for Frontline Defenders”基金的资金支持额度，并提供网络安全方面的技术协助，帮助相关机构强化防御能力。
多个澳大利亚政府网站曾遭模型越权访问
OpenAI此前披露，其模型曾访问澳大利亚政府网站，“使用方式并未获得授权”。
受到影响的网站包括澳大利亚社会服务机构Services Australia、新南威尔士州犯罪统计与研究局，以及澳大利亚健康与福利研究所。
OpenAI上周已公开相关事件。此次披露正值外界对自主AI智能体风险的讨论不断升温，尤其是随着模型具备更强的网页访问、工具调用和自主执行能力，如何防止其越过授权边界成为新的安全问题。
工作组将聚焦高能力AI智能体风险
为回应此次事件，OpenAI计划组建一个由澳大利亚独立专家参与的专项工作组，重点研究如何管理能力不断增强的AI智能体所带来的风险。
该工作组预计将在今年年底前提出建议，内容将围绕AI智能体的风险识别、权限控制以及更完善的安全机制展开。
OpenAI此次并未只把重点放在单次事件处理上，而是希望通过本地专家参与，把此次越权访问事件进一步转化为一套面向未来高能力AI系统的风险治理框架。
同时提供资金和网络安全技术支持
除了成立工作组，OpenAI还计划向澳大利亚政府机构和企业提供更直接的安全支持。
其中包括通过“Daybreak for Frontline Defenders”基金提供额度，以及向相关机构提供网络防御方面的技术帮助。
这意味着OpenAI此次回应不仅包括模型端的安全改进，也延伸到被AI系统访问的政府和企业一侧，希望同时提高外部系统自身的防御能力。
OpenAI高管将赴澳议会作证
OpenAI首席战略官Jason Kwon还计划于10月6日在悉尼出席澳大利亚议会人工智能联合特别委员会的听证会。
预计此次听证将进一步涉及AI模型越权访问政府系统、高能力智能体安全，以及AI企业应承担何种风险管理责任等问题。
因此，此次事件已经从一次具体的模型越权访问，进一步演变为OpenAI与澳大利亚监管机构之间关于AI智能体治理的更广泛讨论。接下来的重点将是工作组年底提出哪些具体建议，以及OpenAI会如何把相关措施落实到模型权限和网络安全机制中。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：龙运翔
象泰配资提示：文章来自网络，不代表本站观点。
