Představte si, že váš kolega potřebuje rychle shrnout dlouhý a citlivý interní dokument. Místo toho, aby ho četl, zkopíruje celý text do veřejně dostupného online nástroje umělé inteligence a během několika vteřin získá shrnutí. Ušetřil sice hodinu práce, ale nevědomky mohl právě vytvořit vážný bezpečnostní problém. Tomuto jevu se říká Shadow AI.

Nejde o nic nového. Podobný koncept, „Shadow IT“, existuje už léta – zaměstnanci používají neschválené aplikace jako Dropbox nebo Google Docs, aby si usnadnili práci. S nástupem snadno dostupných a výkonných AI nástrojů, jako jsou chatboti nebo generátory obrázků, se však rizika výrazně zvyšují.

Zaměstnanci se neuchylují k Shadow AI se zlým úmyslem. Jejich motivace je obvykle zcela pragmatická. Chtějí být efektivnější a produktivnější.

Oficiální firemní nástroje mohou být pomalé, zastaralé nebo pro daný úkol nevhodné. Veřejně dostupné AI nástroje jsou naproti tomu často bezplatné, intuitivní a nabízejí okamžité řešení konkrétního problému. Ať už jde o psaní e-mailů, analýzu dat nebo vytváření prezentací, slibují zrychlení rutinních úkolů. Lidé jsou také přirozeně zvědaví a chtějí experimentovat s novými technologiemi, které vidí všude kolem sebe.

Pohodlí, které Shadow AI nabízí, je vykoupeno značnými riziky pro celou organizaci. Tyto hrozby lze rozdělit do tří hlavních kategorií.

Když zaměstnanec vloží do veřejného AI nástroje interní data – ať už jde o finanční zprávy, osobní údaje zákazníků nebo strategické plány – ztrácí nad nimi firma kontrolu. Tato data mohou být použita k trénování modelu, uložena na nezabezpečených serverech nebo se dokonce stát součástí odpovědí pro jiné uživatele. Tím se otevírají dveře pro úniky citlivých informací a průmyslovou špionáž.

Nástroje umělé inteligence, zejména jazykové modely, jsou náchylné k tzv. halucinacím. To znamená, že si mohou vymýšlet fakta, čísla nebo zdroje, které znějí věrohodně, ale jsou zcela smyšlené. Pokud zaměstnanec použije takovouto chybnou informaci při důležitém rozhodování, může to mít pro firmu vážné následky, od chybných finančních prognóz až po poškození pověsti.

Mnoho odvětví podléhá přísným regulacím ohledně ochrany dat, jako je například GDPR v Evropě. Používání neschválených AI nástrojů pro zpracování osobních údajů může vést k porušení těchto předpisů. Odpovědnost přitom nese organizace, nikoli jednotlivý zaměstnanec. Důsledkem mohou být vysoké pokuty a právní postihy.

Pochopení těchto rizik je prvním krokem k jejich řízení. I když Shadow AI pramení z dobré snahy zaměstnanců o efektivitu, jeho nekontrolované používání představuje vážnou hrozbu, kterou žádná organizace nemůže ignorovat.