研究人员开发了一种名为 RoboPAIR 的工具，可以有效地绕过由大型语言模型（LLM）控制的机器人的内置安全措施。这种新方法引起了人们对 LLM 驱动机器人的安全性和可靠性的严重担忧，突出了可能被恶意利用的漏洞。来源
RoboPAIR 系统表明，诱使这些机器人忽略其编程的保护措施非常简单。这一发现强调了改进安全协议和更强大的安全措施的必要性，以防止受损机器人系统造成的潜在误用或伤害。这项研究由 Charles Q. Choi 领导的团队进行，强调了随着 LLM 在机器人技术中的集成变得越来越普遍，解决这些漏洞的重要性。