不教但！美研究示警 Snapchat聊天器人防形同
[周刊王CTWANT] 根一示，Snapchat的人工智慧聊天器人「My AI」存在可被操控的安全漏洞，能在特定情境下分享原本受限制、甚至具危性的容。引AI防制未成年使用者安全的注，揭示社群平台在AI理上的重大。
根《Cybernews》，研究由《Cybernews》研究行，象是Snapchat於2023年推出、目前全球逾9人使用的「My AI」。功能原互式助理，可回答事、生成作容，在群聊天中。Snapchat Plus者能此AI交照片，或它依食材片生成食。依Snapchat官方明，My AI外的安全化容查，目是避免放大或有害。
但《Cybernews》的，些防不如宣固。研究人利用「越」（jailbreaking）技巧，以精心的提示器人安全。直接如何作汽油（Molotov cocktail），AI答；但若包成史事，要求描述芬冬季（Winter War）中燃置的用，My AI便生成了包含材料步的容。
研究告道「聊天器人不直教作武器，透真故事接提供相。」警告，代表青少年或缺乏判力的使用者，可能言操控便能取得危知。
此次使Snapchat的安全承受疑。《Cybernews》指出，Snapchat尚未修漏洞，也未其列重大事件。研究已公司其回，但截至布仍未收到具答覆。
中提到，My AI的安全非首次被。去曾有使用者回，聊天器人忽然送一段1秒的影片，面似天花板一角，即完全停止回覆。此事一度引社群恐慌，外界疑AI行是否遭未授操控。
目前「越」已成AI域的普遍挑，多模型都曾遭似攻。先前，《Cybernews》成功Meta整合於Messenger、WhatsAppInstagram的人助理，生成汽油作指南。另有查揭露，想（Lenovo）AI聊天器人Lena（基於OpenAI的GPT-4模型）存在可在企上行未授本的漏洞，攻者可藉此取cookies透客服系。
除美公司外，中的聊天器人DeepSeek也曾被安全研究欺，生成可取Chrome器料的意程式。甚至有欠缺安背景的研究者，只提示就能模型出具除敏感功能的意。
在OpenAI布GPT-5後，《Cybernews》指出，全球多支安全於模型推出不到24小便成功施「越」。些事件凸AI平台普遍缺乏抗操攻的定防，也Snapchat等大型社群用的使用安全更加突。
延伸
- 者：周刊王CTWANT
- 更多科技新 »
