Umelá inteligencia sa čoraz viac stáva bežnou súčasťou pracovného prostredia, no mnohé organizácie podľa odborníkov zaostávajú v kontrole jej používania. Zamestnanci často využívajú AI nástroje prostredníctvom vlastných účtov a bez vedomia IT oddelení, čo môže viesť k úniku citlivých firemných údajov.
Podľa správy spoločnosti LayerX prebieha takmer polovica podnikových konverzácií s generatívnou AI cez osobné namiesto firemných účtov. Viac ako šesť percent interakcií obsahuje citlivé firemné informácie a približne 22 percent dát vkladaných do AI nástrojov zahŕňa údaje o platobných kartách alebo osobné údaje.
Na rastúce riziká upozorňuje aj spoločnosť Remediata. Jej riaditeľ Matúš Mihok označuje umelú inteligenciu za nový potenciálny vektor kybernetických útokov a tvrdí, že organizácie by mali bezpečnosti AI venovať rovnakú pozornosť ako ochrane aplikácií, cloudových služieb či firemnej infraštruktúry.
Podľa odborníkov sa preto mení aj práca penetračných testerov. Okrem tradičného testovania serverov, sietí a webových aplikácií sa čoraz častejšie zameriavajú na používanie neschválených AI nástrojov, podnikových chatbotov či rôznych AI integrácií. Súčasťou bezpečnostných auditov býva aj preverovanie ochrany dát pri práci s AI, analýza rizík AI generovaného kódu alebo testovanie odolnosti voči útokom typu prompt injection.
Bezpečnostní experti zároveň upozorňujú, že od 2. augusta 2026 začnú pre vysokorizikové AI systémy v Európskej únii platiť ďalšie požiadavky vyplývajúce z AI Act. Organizácie budú musieť preukázať súlad s legislatívou vrátane dostatočnej kybernetickej odolnosti, pričom jedným zo spôsobov overenia budú špecializované bezpečnostné testy AI systémov.
