OpenAI警告:新一代AI模型网络安全风险显著增加

OpenAI近日在一份报告中表示,其即将发布的最前沿人工智能模型可能带来“高”水平的网络安全风险。报告指出,随着AI模型在持续自主操作和任务处理能力上的提升,未来能够发动网络攻击的人数可能显著增加,尤其在暴力破解攻击等场景中表现突出。

OpenAI以近期模型如GPT-5和GPT-5.1-Codex-Max在安全攻防测试中的分数增长为例,强调未来模型有望持续增强相关能力。尽管公司目前尚未明确首个会被评定为“高”风险的具体模型或发布时间,但团队正依据“准备框架”对新模型采取高标准的安全评估预案。

为加强行业协作,OpenAI正在通过Frontier Model Forum加强与其他领先实验室的合作,同时将组建Frontier Risk Council,邀请资深网络安全专家参与,以共同应对新威胁。此外,开发者需申请才能使用的Aardvark工具目前已帮助发现多项关键安全漏洞。

来源