Řešení
Anonymizace a maskování dat před vstupem do AI nástroje
Využívejte AI bez zbytečného předávání citlivých informací
Probrat ochranu dat při používání AIFirmy často chtějí využívat AI pro práci s dokumenty, komunikací, tabulkami nebo dalšími podklady, které obsahují osobní či obchodně citlivé informace. Samotný obsah může být pro danou úlohu užitečný, ale konkrétní jména, kontaktní údaje, identifikátory zákazníků, čísla smluv nebo jiné citlivé informace AI ve skutečnosti vůbec nepotřebuje.
V takových případech není vždy nutné používání externího AI nástroje úplně zakázat. Jedním z možných řešení je vytvořit mezivrstvu, která citlivé údaje před odesláním do AI systému rozpozná a odstraní nebo nahradí neutrálními hodnotami.
AI tak může pracovat s významem dokumentu, aniž by měla přístup ke všem původním informacím.
Například místo:
„Jan Novák ze společnosti ABC s.r.o., číslo zákazníka 48321, reklamuje objednávku 2026-18493.“může model zpracovat:
„ZÁKAZNÍK_01 ze společnosti FIRMA_01 reklamuje objednávku OBJEDNÁVKA_01.“Pro shrnutí případu, klasifikaci požadavku nebo přípravu návrhu odpovědi může být taková informace zcela dostačující.
Ne každá AI úloha potřebuje znát identitu člověka
Při návrhu AI řešení je důležité oddělit informace, které model skutečně potřebuje, od těch, které jsou pouze součástí původního dokumentu.
Pokud má systém například určit kategorii zákaznického požadavku, nepotřebuje znát celé jméno zákazníka ani jeho telefonní číslo.
Pokud má shrnout smlouvu, nemusí vždy potřebovat konkrétní názvy smluvních stran.
Pokud má analyzovat text personálního průzkumu, identita zaměstnanců může být pro samotnou analýzu zbytečná.
Čím méně citlivých údajů AI systému předáváme, tím menší je prostor pro jejich nežádoucí zpřístupnění nebo nesprávné použití.
Co lze před vstupem do AI odstranit nebo nahradit
Osobní údaje
Identifikátory
Firemní informace
Finanční údaje
Technické informace
Ne vždy je potřeba odstranit všechno. Rozsah maskování by měl odpovídat konkrétnímu účelu.
Anonymizace a maskování nejsou totéž
Tyto pojmy se často používají společně, ale v praxi může jít o rozdílné přístupy.
Maskování
Konkrétní údaj se nahradí jinou hodnotou.
Například:
Petr Dvořák → OSOBA_01Firma Novatech → FIRMA_02Systém může mít možnost původní hodnotu později znovu doplnit.
To je užitečné například tehdy, když AI připraví návrh dokumentu nebo odpovědi a interní systém následně vrátí původní údaje na správná místa.
Anonymizace
Cílem je upravit data tak, aby nebylo možné konkrétní osobu nebo subjekt z výsledných údajů určit.
Takový přístup je vhodnější tam, kde původní identita pro další zpracování vůbec není potřeba.
Jak může systém fungovat
Firma může mezi své interní prostředí a externí AI nástroj vložit bezpečnostní vrstvu.
Zaměstnanec nebo firemní aplikace odešle dokument nejprve do této vrstvy.
Ta automaticky vyhledá definované typy citlivých údajů, například jména, e-mailové adresy, telefonní čísla, čísla smluv nebo názvy klientů.
Citlivé hodnoty odstraní nebo nahradí zástupnými značkami.
Teprve takto upravený obsah se odešle AI modelu.
Výstup lze následně podle potřeby znovu propojit s původními daty uvnitř firemního prostředí.
Kde to dává smysl
Zákaznická podpora
AI může klasifikovat nebo shrnout požadavek bez potřeby znát všechny osobní údaje zákazníka.
Práce se smlouvami
Model může analyzovat strukturu nebo obsah dokumentu, zatímco názvy stran a další citlivé informace zůstanou skryté.
Personální agenda
AI může pomoci analyzovat anonymizované odpovědi nebo textové podklady bez identifikace konkrétních zaměstnanců.
Analýza komunikace
Firma může vyhodnocovat témata a opakující se problémy v e-mailech nebo konverzacích bez odesílání kompletních identifikačních údajů.
Vývoj a testování
Vývojář může pracovat s reprezentativními daty bez použití skutečných klientských nebo provozních údajů.
Automatická detekce není stoprocentní
Citlivé informace nemusí mít vždy předvídatelnou podobu.
E-mailovou adresu nebo telefonní číslo lze rozpoznat poměrně snadno. Mnohem složitější může být například interní přezdívka projektu, specifický technický údaj nebo obchodní informace, jejíž citlivost vyplývá až z kontextu.
Proto není vhodné stavět celou ochranu pouze na jednom automatickém filtru.
Dobré řešení kombinuje více vrstev:
- 01pravidla pro zaměstnance
- 02technickou detekci
- 03kontrolu typů dokumentů
- 04omezení přístupu
- 05vhodný výběr AI služby
- 06monitoring
- 07lidskou kontrolu u citlivějších scénářů
Co je důležité vyřešit před nasazením
Co chceme chránit
Firma musí nejprve vědět, které typy informací považuje za citlivé.
Co AI skutečně potřebuje
Pokud model určité údaje nepotřebuje, je nejlepší mu je vůbec neposílat.
Zda potřebujeme údaje vracet
U některých procesů stačí anonymní výstup. U jiných potřebujeme po zpracování původní hodnoty bezpečně doplnit zpět.
Kde anonymizace probíhá
Citlivý obsah by měl být zpracován ještě před tím, než opustí kontrolované prostředí firmy.
Jak budeme řešení testovat
Je potřeba ověřovat nejen běžné dokumenty, ale také nestandardní případy a situace, kdy systém některou citlivou informaci nerozpozná.
Anonymizace nenahrazuje bezpečné AI prostředí
Maskování dat může výrazně snížit riziko, ale není univerzálním řešením pro každou situaci.
Pokud AI potřebuje pracovat s kompletním obsahem citlivého dokumentu nebo jsou samotné informace citlivé bez ohledu na identifikaci konkrétních osob, může být vhodnější použít privátní AI prostředí nebo vlastní infrastrukturu.
Anonymizace je proto jedním z nástrojů ochrany, nikoli náhradou za celkovou bezpečnostní architekturu.
Jak s tím pomáhá Vairo
Pomáháme firmám určit, která data AI skutečně potřebuje a která je možné před zpracováním odstranit nebo nahradit.
Navrhujeme způsob detekce citlivých informací, pravidla pro jejich maskování a technickou vrstvu, která může celý proces provádět automaticky.
Řešení lze následně propojit s konkrétními AI nástroji, interními aplikacemi nebo automatizovanými procesy.
Součástí návrhu je také testování, aby bylo možné ověřit, jak spolehlivě systém citlivá data zachytává a jak reaguje na nestandardní vstupy.
Do AI posílejte pouze to, co skutečně potřebuje
Bezpečné využití AI nemusí vždy znamenat úplné uzavření dat uvnitř firmy. Často stačí navrhnout proces tak, aby AI nikdy nedostala informace, které pro svou práci nepotřebuje.
Probrat ochranu dat při používání AI