Zaměstnanci, aplikace i agenti zavádějí AI rychleji, než vzniká přehled o jejím používání. Jak souvisejí viditelnost, oprávnění a pravidla bezpečného provozu?
Zavádění umělé inteligence nečeká na bezpečnostní týmy.
Zaměstnanci zkoušejí nové nástroje. Vedení tlačí na využívání AI ke zrychlení práce. Aplikace dostávají funkce umělé inteligence. AI agenti přistupují k souborům, propojují se s nástroji a provádějí úkony podobně jako zaměstnanci.
To všechno má obrovský potenciál.
Současně ale vzniká zásadní bezpečnostní otázka: víte, co AI ve vaší organizaci dělá, nebo představuje stále větší slepé místo?
Právě tomu se věnuje nový díl podcastu Cybercrime: From the Frontline s názvem Who’s Watching AI? Managing Innovation Without Losing Control — tedy Kdo dohlíží na AI? Jak inovovat a neztratit kontrolu.
V celé diskusi, kterou si můžete pustit jako video nebo podcast, odborníci Bitdefenderu vysvětlují, jak využívat inovace v oblasti AI a zároveň řídit jejich rizika.
Kolika organizacím chybí úplný přehled o AI?
Průzkum 2026 Bitdefender Cybersecurity Assessment ukazuje, že 44,8 % odborníků na IT a kyberbezpečnost má pouze částečný přehled o tom, jak zaměstnanci AI používají. Přibližně další 3 % nemají přehled vůbec.
Nezávislý průzkum mezi 1 200 odborníky na IT a kyberbezpečnost ze šesti zemí ukazuje, jak rozšířený je nedostatek přehledu a kontroly nad AI. Problém navíc narůstá, protože zaměstnanci mají silnou motivaci experimentovat. AI může urychlit vývoj, automatizovat opakovanou práci, analyzovat informace a pomoci plnit stále náročnější požadavky na produktivitu.
Změnilo se stínové IT ve stínovou AI?
Stínová AI přináší podobné problémy jako stínové IT, její důsledky však mohou být závažnější.
U stínového IT si zaměstnanec nainstaluje neschválenou aplikaci. Oddělení začne používat cloudovou službu bez konzultace s IT. Někdo ukládá firemní informace na svůj osobní účet pro sdílení souborů.
U stínové AI může zaměstnanec použít osobní účet u AI služby místo schválené podnikové platformy. Někdo vloží důvěrné informace do bezplatné AI služby. Schválená aplikace může po aktualizaci získat nové schopnosti umělé inteligence.
Ve všech těchto případech mohou citlivé informace skončit tam, kde to bezpečnostní tým nepředpokládal. To je zvlášť znepokojivé, protože únik dat do velkých jazykových modelů patří podle průzkumu Cybersecurity Assessment 2026 mezi hlavní obavy související s AI.
Podle odborníků v podcastu se AI často zavádí bez dohledu IT nebo bezpečnostního oddělení. Odpovědnost za přehled o jejím používání proto nese celá organizace.
Proč se AI stává otázkou správy identit?
Tradiční generativní AI odpovídá na požadavky. Agentní AI může používat nástroje, přistupovat k souborům, připojovat se ke službám, psát kód a provádět úkony. Odborníci v podcastu doporučují uvažovat o agentech jako o nelidských identitách působících uvnitř organizace.
To vyvolává důležité otázky:
- Kteří agenti ve vašem prostředí působí?
- K jakým datům mohou přistupovat?
- Které nástroje mohou používat?
- Jaké úkony smějí provádět?
- Co se stane, pokud někdo agenta zmanipuluje?
Podcast se věnuje také útokům typu prompt injection: škodlivé instrukce vložené do obsahu mohou přimět AI systém k nežádoucím činnostem. Pokud má agent přístup k firemním systémům, nejde pouze o to, zda samotné AI důvěřujete.
Co dnes znamená přehled o AI?
Pouhý seznam nestačí. Organizace potřebují rozpoznat AI služby a agenty působící napříč jejich prostředím. Bezpečnostní týmy musí znát také souvislosti: schopnosti nástrojů, jejich oprávnění, propojení, možná rizika i koncová zařízení, kterých se týkají.
Zároveň potřebují odlišit schválené používání AI od neznámé nebo potenciálně nebezpečné aktivity. Bez tohoto porozumění hrozí buď plošná omezení, která zaměstnance frustrují, nebo přehlédnutí skutečných rizik pro firmu.
Přehled tvoří základ pro stanovení priorit a zavedení odpovídajících opatření.
Jaké nástroje umožňují získat přehled a kontrolu?
Organizace stále více potřebují specializované funkce, které zjistí využívání AI, vyhodnotí vystavení rizikům a převedou bezpečnostní pravidla do praxe. Příkladem je Bitdefender GravityZone AI Visibility and Control. Bezpečnostním týmům pomáhá identifikovat více než 700 AI nástrojů včetně chatbotů, programátorských asistentů, lokálních jazykových modelů, agentů, MCP serverů a aplikací s AI. Vytváří centrální přehled a pomáhá řadit zjištění podle rizika a jejich významu pro firmu.
GravityZone přitom nekončí u samotného zjišťování. Týmy mohou nálezy prověřit a prošetřit a poté pomocí integrovaných nástrojů AI aktivitu povolit, omezit nebo zablokovat. Stávající zákazníci GravityZone využívají stejného agenta a stejnou konzoli. Nemusí tak kvůli řízení rizik AI přidávat další oddělený bezpečnostní nástroj.
Jak mohou pravidla pro AI držet krok s jejím zaváděním?
Technologie představuje jen část odpovědi. Řízení AI se musí promítnout také do pravidel přijatelného používání, vzdělávání zaměstnanců, posuzování nákupů, hodnocení rizik dodavatelů a diskusí mezi bezpečnostním a obchodním vedením.
Některé organizace zakládají samostatné řídicí výbory pro AI. Jiné zahrnují AI do stávajícího řízení bezpečnosti a rizik. Konkrétní struktura je méně důležitá než výsledek: bezpečnost se musí účastnit rozhodování ještě před nasazením nových nástrojů.
Lze inovovat a současně neztratit kontrolu?
Podle odborníků v podcastu ano, ovšem pouze s promyšlenou strategií. Organizace by měly usnadnit bezpečné používání schválené AI, vzdělávat zaměstnance o rizicích neschválených nástrojů, pomocí technologií sledovat pohyb citlivých informací a nastavovat opatření podle skutečného využití.
S rostoucími schopnostmi agentů musí organizace rozumět také jejich oprávněním a omezovat je stejně jako u lidských identit.
Tato opatření společně pomáhají vytvořit podmínky pro dlouhodobě udržitelné inovace s AI.
Celou diskusi najdete v původním článku:
Poslechněte si Cybercrime: From the Frontline, Who’s Watching AI? Managing Innovation Without Losing Control.
Na stránce originálu si můžete pustit také celý videodíl.
