Izvješće o sigurnosti umjetne inteligencije za 2026. godinu godišnja je analiza Check Point Researcha o tome kako je umjetna inteligencija preoblikovala krajolik prijetnji tijekom protekle godine. Prati evoluciju umjetne inteligencije od razvojne pomoći do aktivnog izvođača napada u svakoj glavnoj fazi lanca kibernetičkih napada.
Ovogodišnje izvješće usredotočuje se na:
- Kako akteri prijetnji koriste umjetnu inteligenciju za pisanje zlonamjernog softvera i izvođenje upada uživo
- Kako se ciljaju i iskorištavaju sustavi i modeli pokretani umjetnom inteligencijom
- Kako su sintetičke osobe učinile identitet nepouzdanim sidrom povjerenja
- Kako neupravljana genuinalna umjetna inteligencija stvara ozbiljan rizik za poslovne podatke
Utemeljeno na incidentima iz stvarnog svijeta i obavještajnim podacima o prijetnjama Check Point Researcha, izvješće pokazuje kako branitelji koriste isti napredak umjetne inteligencije za izoštravanje otkrivanja, ubrzavanje odgovora i izgradnju otpornosti.
Ključni uočeni nalazi
Umjetna inteligencija prešla je put od razvojne pomoći do operatera napada uživo. Sada obavlja praktičan posao unutar upada uživo, od špijunskih kampanja China-Nexus do kriminalnog prodora u više meksičkih vladinih agencija, te se proširila od nacionalnih država do običnih kibernetičkih kriminalaca.
Umjetna inteligencija sada gradi pakete zlonamjernog softvera i napada spremne za implementaciju. Njena uključenost često je nevidljiva u gotovom artefaktu: jedan je programer koristio AI okruženje za izradu VoidLinka, ofenzivnog okvira za naredbe i kontrolu od 88 000 redaka, za manje od tjedan dana. Napadači preferiraju komercijalne modele i sada ih zloupotrebljavaju iskorištavajući agentsku arhitekturu, a ne samo pojedinačne upute. Većina aktera preferira jailbreakovane mainstream modele u odnosu na samostalno hostane, a izdržljivi bypass sada je umetnuta konfiguracijska datoteka koju agent učitava i kojoj vjeruje u različitim sesijama. Tržište kriminalnih alata omogućenih umjetnom inteligencijom sazrelo je. Kompleti za krađu identiteta kao usluga sada ugrađuju jezični model s ugrađenim jailbreakom, a razgovorne usluge glasovnih agenata umjetne inteligencije pokreću vishing i krađu jednokratnih lozinki u velikim razmjerima.
Virtualni identitet više nije pouzdano sidro povjerenja. Glas, lice, dokumenti i videozapisi uživo sada se lako mogu uvjerljivo krivotvoriti i široko se koriste u napadima koji višekanalni društveni inženjering podižu na novu razinu integracije. Sama umjetna inteligencija je rastuća površina napada. Modeli ne mogu uvijek odvojiti podatke od uputa, a sadržaj koji obrađuju može utjecati na ponašanje modela; okolni stog dodaje uobičajene softverske ranjivosti i rizik za lanac opskrbe, sve u brzo razvijajućem ekosustavu gdje sigurnosne prakse nisu uvijek zrele. Neizravno ubrizgavanje prompta je u porastu. Detekcija duljih zlonamjernih korisnih podataka naglo se povećala, otprilike pet puta između ožujka i svibnja 2026. i približila se 1% uočenih prompta u svibnju. Dulji korisni podaci tipičniji su za puteve napada koji se prenose sadržajem i agentima, a ovaj obrazac sugerira da neizravno ubrizgavanje prompta postaje sve operativno relevantnije.
Curenje podataka poduzeća putem GenAI-a predstavlja stalan i rastući rizik. Prompti visokog rizika udvostručili su se s 2% na 4% tijekom prošle godine, dok su organizacije koristile prosječno 10 AI aplikacija svaki mjesec, mnoge bez službenog odobrenja. Rizici izloženosti podataka nisu ravnomjerno raspoređeni po vertikalama. Analiza na razini sektora otkriva da rizici izloženosti podataka povezani s umjetnom inteligencijom nisu ravnomjerno raspoređeni po vertikalama i koreliraju s obrascima korištenja umjetne inteligencije i sigurnosnom zrelošću.
Poslovne usluge zabilježile su najvišu stopu visokorizičnih GenAI upita s 5,91%, što znači da gotovo jedna od svakih 17 interakcija umjetne inteligencije nosi značajan rizik od izloženosti osjetljivih podataka.
Za čitanje cjelovitih nalaza pristupite Izvješću o sigurnosti umjetne inteligencije za 2026. godinu tvrtke Check Point Research ovdje.