Ak ChatGPT dokáže vypilovať váš motivačný list, čo dokáže s falošnou faktúrou?
Ľudia doma čelia zneužitiu LLM cez:
📧 Dokonale prepracované phishingové e-maily a správy teraz obchádzajú inštinkt na odhaľovanie preklepov, na ktorý sa spoliehame.
💬 „Miláčikovia“ poháňaní AI živia romantické podvody celý deň.
🛒 Falošné recenzie ovplyvňujúce nákupné rozhodnutia uveriteľnými päťhviezdičkovými klamstvami.
🎙️ Hlasové alebo video deepfake prosia príbuzných o „urgentné“ prevody.
🔐 Osobné údaje sa používajú na napájanie a vylepšovanie všetkých vyššie uvedených techník útoku.
Ľudia v práci si musia dávať pozor na:
🗄️ Zdrojový kód, zmluvy alebo personálne súbory vložené do verejných LLM ostanú na cudzom cloude.
🕶️ Nepreverené pluginy a API kľúče, ktoré môžu vytvoriť neviditeľné vstupné body „tieňovej AI“.
🛑 Halucinované alebo nepresné texty, ktoré sa vkrádajú do správ a repozitárov.
Firmy si musia byť vedomé, že:
📈 Približne 40 % e-mailov typu BEC je dnes generovaných AI, čo urýchľuje schémy podvodov s bankovými prevodmi[ref].
🎛️ Prompt injection preberá kontrolu nad AI agentmi a spustí škodlivé akcie alebo odpovede.
⚖️ Porušenia súkromia, autorských práv a kontroly vývozu priťahujú pozornosť regulátorov.
⭐ Koordinované záplavy falošných recenzií môžu potopiť - alebo vystreliť - reputáciu značky.
🧪 Otrávenie dát navádza doladené modely k škodlivým alebo nežiaducim odpovediam a rozhodnutiam.
Podvodníci si osvojili LLM rovnako rýchlo ako všetci ostatní. Verzia 1.0 generuje dokonalé e-maily a prevádzkuje jednoduché chatboty; nenápadnejšie, kombinované útoky sa už pripravujú.
💡 Doma - Akúkoľvek urgentnú žiadosť o peniaze si dodatočne overte cez samostatný, dôveryhodný kanál; obmedzte, čo zdieľate s chatbotmi; zapnite MFA.
💡 V práci - Používajte schválené AI nástroje, pred zadaním promptu odstráňte akýkoľvek citlivý obsah a výstup AI kontrolujte tak dôsledne ako koncept juniorného analytika.
💡 Firmy - Uplatňujte prístup k AI s najmenšími oprávneniami, vysoko rizikové akcie potvrdzujte cez samostatný komunikačný kanál, monitorujte nepriateľské prompty a robte svojim modelom red-teaming. (Nie je to úplný zoznam, ale to základné.)