Anthropic关于AI 辅助攻击自主性遭研究人员质疑

AI公司Anthropic近日宣称,其发现的首例由AI主导的网络间谍活动达到“高达90%自动化”,即仅有少量环节需人类介入。然而,部分外部安全研究人员对此说法表示怀疑,认为AI自动化在实际攻击中的作用被夸大。

据Anthropic发布的报告描述,9月公司监测到一个疑似中国境内国家支持的黑客组织,利用Claude AI工具对数十个目标实施网络渗透和间谍行为,在其中自动完成了大部分操作,仅“偶尔需要4-6个关键步骤的人类干预”。

外部专家认为,尽管AI在攻击流程中确有发挥重要作用,但目前将高度复杂的间谍活动归因于AI完全自主为时尚早,需要进一步审慎调查与评估。

来源