据OpenAI最新博文披露，公司目前正在主动扫描用户在ChatGPT上的对话内容，一旦检测到涉及计划危害他人的言论，会将这些交流提交给由使用政策培训的专门团队进行人工审核，并在必要时通报执法部门。报道显示，OpenAI方面表示，如人类审核员确认信息涉及对他人的严重、迫切威胁，将有可能直接向警方报告，并采取封禁账户等措施。但涉及自我伤害的案例，OpenAI则称出于尊重用户隐私，目前不会上报警方。
虽然OpenAI强调此举旨在防止因AI诱发的极端事件，比如此前媒体关注的AI引发心理危机甚至致命事件，但业界对相关标准的不透明性和对用户隐私的担忧持续存在。与此同时，OpenAI在与《纽约时报》及多家出版商关于ChatGPT日志访问的诉讼中，以保护用户隐私为由反对交出用户对话数据。然而，该公司也承认，一些用户数据可能会因法律程序被迫提交。
此举引发外界对AI企业监控范围、透明度及其处理用户敏感信息政策的广泛关注。