客比你懂用AI?OpenAI揭露攻者藉多模型作加速路攻
OpenAI察到,攻者未改他既有的攻方法,而是AI整合有的中,藉此效率和速度都大幅提升,是意、化路,是管理上。
OpenAI最新布的《打意用人工智慧》(Disrupting Malicious Uses of AI)告指出,客和路正在朝向更有性地使用人工智慧的展。查果示,客正他的行分散到多AI系上,例如,使用ChatGPT行察和,同仰其他模型行和自化攻。
OpenAI察到,攻者未改他既有的攻方法,而是AI整合有的中,藉此效率和速度都大幅提升,是意、化路,是管理上。
[caption id="attachment_160451" align="aligncenter" width="1200"]
OpenAI分析了在客使用AI的行模式。(/科技料照)[/caption]
意AI用,意到中心的日常管理
除了已知的WormGPT和FraudGPT等意AI工具外,新的用工具也持浮,例如SpamGPT助路犯罪分子子件安全器,行精的垃圾件投放,MatrixPDF能普通PDF案成意。
值得一提的是,份告距OpenAI上一份10中、俄斯、伊朗和北有的意AI行,隔4月。
告提到不同地的客和犯罪集,如何有性地利用 ChatGPT。
- 俄行者:曾利用ChatGPT和化端存取工具和取工具的程式。即使模型拒行有意的直接提示,使用者仍能中提取功能性程式片段,在其他地方成工具。OpenAI ,些互未予客透源程式法取得的新能力。
- 行者:利用ChatGPT助程式除、取程式、以及加密相的路。些在行特定技任(如器充功能或VPN配置),展出似企的化工作流程。
- 行者:更一步要求模型生成多言的路容,助意除。他的活安公司Volexity和Proofpoint告中定界、智和半的攻行吻合。根OpenAI的法,些使用者主要目的是提高效率,而非新的攻方法。
AI造投社控提案
告同揭示了AI如何被利用於既有的。有追到位於柬埔寨、甸和奈及利的行,利用ChatGPT翻息、假投,管理大模中心的日常物流工作。
例如,有集假扮成理,在WhatsApp上假的交易群,完全透AI生成所有聊天容,得真可信。另一路利用ChatGPT假的上投公司案,甚至造了工的履。
OpenAI也ChatGPT被用於的次,大是用於造的三倍。
在家方面,OpenAI告出中政府相的,曾利用ChatGPT起大模社群媒控系的提案。其中一位用求模型助概述一「高吾相流入警模型」,目的在透旅行和警方追人。其他使用者注於描和收集,要求ChatGPT摘要活人士的文或辨的者。OpenAI表示,模型返回了公,但些求背後的意已引起控相使用的。
由俄斯起的「停止新」(Stop News)行在被OpenAI停止後再次浮,利用AI影片本和宣文字。些容被翻作成短影片,在YouTube和TikTok上播,用以俄斯批西方家,但度仍然偏低。
DeepTempo行Evan Powell指出,一般者,可能不令人,但大多人可能有意到,今的路安全防系於AI的攻特脆弱。防乎完全基於,AI攻者其系避些固定的模式,以更高的速度透企和政府系。他警告,AI正被用於行,大幅提升了攻者的效率,使原本需要大型或家的行,在只需一人就能行,其影令人感到恐。
料源:Hackread
篇文章 客比你懂用AI?OpenAI揭露攻者藉多模型作加速路攻 最早出於 科技-掌握科技新、科技最新。
- 者:敬
- 更多科技新 »