最近发布的一项研究揭示了一种新的攻击手段，该手段通过在AI聊天机器人中植入虚假记忆来窃取加密货币。攻击者可以通过输入一些简单的句子来操控机器人的支付行为，将资金转移到他们控制的账户中。来源
这项研究针对一个名为ElizaOS的开源框架进行测试，这一框架用于创建可以自动进行区块链交易的代理。虽然ElizaOS仍处于实验阶段，但支持去中心化自治组织（DAOs）的人们认为它有可能推动创建能够自动操作DAOs的代理。
研究人员指出，这种“上下文操控”攻击非常简单，授权用户只需在Discord服务器或网站等平台上输入一系列模仿合法指令的句子，就可以更新记忆数据库，以虚假事件影响代理的未来行为。这类攻击可能在多用户或去中心化环境中造成严重后果，因为代理的上下文可能会被暴露或修改。来源