紧急警告：研究人员发现谷歌Gemini AI存在严重提示注入漏洞，威胁智能家居。

新研究揭示了谷歌Gemini AI中的关键漏洞，演示了如何利用简单的“纯英文”提示注入攻击来劫持智能家居设备并发送令人不安的消息。这些复杂的攻击无需攻击者具备技术知识，而是利用看似无害的入口点，例如恶意日历邀请、电子邮件主题或文档标题。 研究人员演示了Gemini在处理日历事件或其他内容时，如何通过一种名为“延迟自动工具调用”的技术被巧妙地操纵以执行命令。例如，嵌入在日历邀请中的隐藏提示可以指示Gemini控制智能家居功能——比如打开窗户或调节供暖——而这些功能仅由用户对聊天机器人随口说的一句“谢谢”触发。 除了令人担忧的物理设备控制潜力之外，这些攻击还展示了Gemini容易输出令人深感不安的内容，包括攻击性语言和捏造的医疗信息。此外，该漏洞还可能导致不必要的设备上操作，例如删除日历事件或通过Zoom等应用程序自动发起视频通话。 尽管谷歌可能将此类事件归类为“极其罕见”，但安全专家强调了这些间接提示注入的深远影响。独立安全研究员Johann Rehberger曾在2024年2月和2025年2月演示过类似技术，他强调了这些漏洞可能造成的重大现实影响，凸显了加强人工智能安全措施的迫切性。

Read the English version (阅读英文版)

免责声明：本文内容来自互联网公开信息，请仔细甄别，如有侵权请联系我们删除。