技术进展
研究警示:秘密触发词或使AI机器人失控
Tech Xplore报道指出,随着ChatGPT、Claude和Gemini等大语言模型被用于驱动机器人执行任务,安全研究者提出疑问:这些模型是否可能被利用,把原本有益的机器人变成有害机器人。报道聚焦所谓“秘密触发词”带来的潜在风险。
发布于 · 更新于 · 来源:Tech Xplore · Robotics
示意图Tech Xplore·Robotics发布的一则报道提出,大型语言模型正越来越多地被用于帮助机器人完成各类任务,OpenAI的ChatGPT、Anthropic的Claude和Google Gemini都在此列。报道由此引出安全层面的疑问:如果这些模型被恶意利用,原本有益的机器人是否会变成有害的机器人。
该报道的核心关注点是“秘密触发词”可能带来的危险,即特定词语或指令是否会成为操纵机器人行为的隐蔽开关。上述信息来自原始来源,并由AI整理;报道未在给定材料中披露具体实验方法、受影响产品范围或缓解措施。
查看原始来源