麻省理工学院(MIT)和FAR AI的研究人员发现,在古老的围棋游戏中使用的顶级AI算法中存在可利用的缺陷。自2016年以来,这些算法的表现通常优于人类玩家。然而,这些漏洞可以通过非正统的“循环”策略来加以利用,即使是新手人类玩家也可以检测到并用来击败这些原本“超人”的人工智能系统。来源。
研究人员的目标是解决KataGo算法中的这些弱点,努力创建一个不受此类对抗性攻击影响的AI。他们探索了三种不同的方法来增强算法的防御能力,但最终面临的挑战表明,即使在棋盘游戏的受控环境中,创建不可利用的人工智能也存在固有的困难。来源