Řešení
Chceme AI, ale data nesmí opustit firmu
Využívejte možnosti AI a zachovejte citlivá data ve vlastním prostředí
Probrat bezpečné nasazení AIFirmy chtějí využívat umělou inteligenci pro práci s dokumenty, interními znalostmi, technickou dokumentací nebo provozními daty. U některých organizací ale existuje zásadní podmínka: citlivé informace nesmí opustit firemní prostředí.
Důvodem může být ochrana vlastního know-how, požadavky zákazníků, interní bezpečnostní pravidla nebo charakter dat, se kterými firma pracuje. To ale neznamená, že se organizace musí využití moderní AI vzdát.
Jazykové modely lze dnes provozovat také na vlastní infrastruktuře nebo ve vyhrazeném prostředí, nad kterým má firma výrazně větší kontrolu. AI tak může pomáhat s interními dokumenty a procesy, aniž by bylo nutné jejich obsah při každém dotazu předávat veřejné AI službě.
Vlastní provoz ale není jen otázkou instalace modelu na server. Aby řešení fungovalo bezpečně a dlouhodobě, je potřeba promyslet celou architekturu, přístup k datům, oprávnění jednotlivých uživatelů, výkon, monitoring i způsob aktualizací.
Kdy požadavek na vlastní prostředí dává smysl
Ne každá firma musí provozovat vlastní AI infrastrukturu. Existují ale situace, kdy je vyšší míra kontroly nad daty důležitá.
Firemní know-how
Může jít o výrobní postupy, technickou dokumentaci, vývoj, interní metodiky nebo další neveřejné znalosti.
Citlivá zákaznická data
Například se smluvními dokumenty, zákaznickými záznamy nebo dalšími důvěrnými podklady.
Interní bezpečnostní pravidla
V takovém případě musí způsob provozu AI respektovat již existující bezpečnostní architekturu.
Propojení s interními systémy
Například s výrobními systémy, interní databází, dokumentovým úložištěm nebo dalšími aplikacemi, které nejsou dostupné z internetu.
Data mohou zůstat uvnitř. Model také.
Jednou z možností je provozovat otevřený jazykový model přímo na serverech společnosti.
Firma tak může kontrolovat, kde model běží, odkud čerpá informace a kam jsou ukládány dotazy a odpovědi.
Neznamená to, že je potřeba vytvářet vlastní jazykový model. V praxi lze využít již existující model a provozovat jej ve vlastním prostředí.
Takové řešení může být základem například pro:
- 01interního AI asistenta
- 02vyhledávání v technické dokumentaci
- 03analýzu interních dokumentů
- 04podporu servisních a výrobních pracovníků
- 05práci s interními směrnicemi
- 06automatizaci nad citlivými daty
- 07interní nástroje pro vývojáře
- 08zpracování dokumentace zákazníků
Vlastní AI neznamená pouze vlastní server
Existuje několik způsobů, jak požadavek na kontrolu nad daty řešit.
Vlastní infrastruktura
Model, databáze i ostatní části systému běží přímo v prostředí společnosti.
Firma má nejvyšší míru kontroly, ale zároveň odpovídá za provoz, výkon, aktualizace a zabezpečení.
Privátní cloudové prostředí
Řešení běží ve vyhrazeném prostředí poskytovatele cloudové infrastruktury s přesně nastavenými podmínkami zpracování dat.
Pro řadu firem může představovat vhodný kompromis mezi kontrolou a náročností vlastního provozu.
Kombinované řešení
Citlivé úlohy probíhají ve vlastním prostředí, zatímco pro obecné činnosti se používají externí AI služby.
Firma tak nemusí provozovat vše stejným způsobem.
Bezpečnost nezačíná a nekončí umístěním serveru
To, že model běží uvnitř firmy, samo o sobě nezaručuje bezpečnost.
Stejně důležité je vyřešit, ke kterým informacím se systém může dostat a kdo může jednotlivé informace prostřednictvím AI získat.
Pokud například interní asistent pracuje s dokumenty personálního, obchodního a technického oddělení, neměl by každý zaměstnanec automaticky získat přístup ke všem třem oblastem.
AI musí respektovat stejná nebo přísnější pravidla přístupu jako ostatní firemní systémy.
Co je potřeba vyřešit
Přístup k datům
Které dokumenty, databáze a systémy může AI používat?
Oprávnění
Který zaměstnanec má prostřednictvím systému přístup ke kterým informacím?
Ukládání
Budou se dotazy a odpovědi ukládat? Pokud ano, kde a jak dlouho?
Výkon
Kolik lidí bude systém používat a jak rychlé odpovědi potřebují?
Aktualizace
Jak budou probíhat změny modelů a dalších částí systému?
Monitoring
Jak zjistíme, zda systém funguje správně a zda se nepoužívá nežádoucím způsobem?
Větší model nemusí být lepší
Při vlastním provozu je výběr správného modelu důležitý také z ekonomického hlediska.
Největší dostupné modely mohou vyžadovat výrazně dražší infrastrukturu. Pro konkrétní interní úlohu přitom může menší model poskytovat srovnatelně použitelný výsledek.
Pokud má AI například odpovídat zaměstnancům na otázky z firemní dokumentace, nemusí potřebovat stejný výkon jako univerzální veřejný asistent.
Model proto vybíráme podle konkrétního využití, požadované kvality, rychlosti a dostupné infrastruktury.
Firemní dokumentace nemusí být součástí samotného modelu
Častou představou je, že je potřeba jazykový model „naučit“ všechny interní dokumenty.
Ve většině případů je vhodnější oddělit samotný jazykový model od aktuálních firemních znalostí.
Při dotazu systém nejprve vyhledá relevantní informace ve schválených interních zdrojích. Ty následně poskytne jazykovému modelu jako podklad pro vytvoření odpovědi.
Díky tomu lze dokumentaci měnit a aktualizovat bez nutnosti znovu upravovat samotný model.
Kdy vlastní provoz naopak nedává smysl
Požadavek na maximální kontrolu může být oprávněný, ale vlastní provoz není vždy nejlepší řešení.
Pokud firma používá AI pouze příležitostně, pracuje převážně s necitlivými daty nebo nemá potřebné technické zázemí, může být vlastní infrastruktura nepřiměřeně nákladná a složitá.
Někdy je vhodnější dobře zabezpečené firemní cloudové prostředí, anonymizace dat nebo kombinace více přístupů.
Nejdříve je proto potřeba určit, která data skutečně musí zůstat uvnitř firmy a které úlohy tak přísný režim nepotřebují.
Jak s tím pomáhá Vairo
Pomáháme firmám navrhnout způsob využití AI, který respektuje jejich požadavky na ochranu dat a zároveň dává technologický i ekonomický smysl.
Posoudíme charakter dat, současnou infrastrukturu, způsob využití AI a očekávaný počet uživatelů. Na základě toho navrhneme vhodnou architekturu a rozhodneme, které části řešení mají běžet uvnitř firmy a kde případně dává smysl využít jiné prostředí.
Můžeme zajistit výběr modelu, návrh infrastruktury, napojení interních dat, vytvoření uživatelského prostředí, nastavení oprávnění i následné testování a provozní monitoring.
AI může pracovat s vašimi daty, aniž byste nad nimi ztratili kontrolu
Nemusíte volit mezi využíváním AI a ochranou citlivých informací. Důležité je správně zvolit způsob provozu a navrhnout celý systém s ohledem na charakter vašich dat.
Probrat bezpečné nasazení AI