ASCII走私攻恐威Gemini!Google否安全漏洞未做修
根安研究公司FireTail的研究Viktor Markopoulos演示,攻手法Gemini使用者成了,但Google似乎此不以意。
安界近期到一新型的攻手法「ASCII走私攻」(ASCII smuggling attack)。然而,Google表示不Gemini修,理由是非一安全漏洞,而是一社交工程(social engineering)手法,因此任於端使用者。
根安研究公司FireTail的研究Viktor Markopoulos演示,攻手法Gemini使用者成了,但Google似乎此不以意。
延伸:客比你懂用AI?OpenAI揭露攻者藉多模型作加速路攻
[caption id="attachment_194971" align="aligncenter" width="1294"]
Gemini被存在ASCII走私攻的可能性。(/Gemini)[/caption]
Gemini整合Gmail成破口,形指令取敏感料
ASCII走私攻受害者,他在意AI工具入意指令,而危及和料安全。手法在於走私或藏意提示,最常的手法是AI取那些人肉眼看不到的文本。
在AI展初期,攻非大,因使用者需要手AI工具入(或上)指令,但著推移,多AI工具已深度整合到其他用程式和平台。
以Gemini例,它已整合至Google Workspace,能列表中提取、在Word案生成文本,以及取摘要子件。
Markopoulos示,攻者可以送一封看似合法的件,但封件的容中藏了一段意指令,它被定字0或使用白色背景上的白色文字,使收件人法察。
受害者要求Gemini摘要封子件,AI工具一取行段意指令,段指令可能是一典型的息,例如:「您的已遭入侵,立即致Google行修」等。
更令人的是,段藏指令可以迫使不同的AI代理程式使用者的收件箱中取敏感料,而行一切,只需要使用者下一、害的命令,即摘要或件容即可。
料源:TechRadar
篇文章 ASCII走私攻恐威Gemini!Google否安全漏洞未做修 最早出於 科技-掌握科技新、科技最新。
- 者:敬
- 更多科技新 »