Řešení

Chceme AI, ale data nesmí opustit firmu

Využívejte možnosti AI a zachovejte citlivá data ve vlastním prostředí

Probrat bezpečné nasazení AI

Firmy chtějí využívat umělou inteligenci pro práci s dokumenty, interními znalostmi, technickou dokumentací nebo provozními daty. U některých organizací ale existuje zásadní podmínka: citlivé informace nesmí opustit firemní prostředí.

Důvodem může být ochrana vlastního know-how, požadavky zákazníků, interní bezpečnostní pravidla nebo charakter dat, se kterými firma pracuje. To ale neznamená, že se organizace musí využití moderní AI vzdát.

Jazykové modely lze dnes provozovat také na vlastní infrastruktuře nebo ve vyhrazeném prostředí, nad kterým má firma výrazně větší kontrolu. AI tak může pomáhat s interními dokumenty a procesy, aniž by bylo nutné jejich obsah při každém dotazu předávat veřejné AI službě.

Vlastní provoz ale není jen otázkou instalace modelu na server. Aby řešení fungovalo bezpečně a dlouhodobě, je potřeba promyslet celou architekturu, přístup k datům, oprávnění jednotlivých uživatelů, výkon, monitoring i způsob aktualizací.

01

Kdy požadavek na vlastní prostředí dává smysl

Ne každá firma musí provozovat vlastní AI infrastrukturu. Existují ale situace, kdy je vyšší míra kontroly nad daty důležitá.

01

Firemní know-how

AI má pracovat s informacemi, které tvoří významnou část hodnoty společnosti.

Může jít o výrobní postupy, technickou dokumentaci, vývoj, interní metodiky nebo další neveřejné znalosti.

02

Citlivá zákaznická data

Systém pracuje s informacemi, které nemají být předávány mimo stanovené prostředí.

Například se smluvními dokumenty, zákaznickými záznamy nebo dalšími důvěrnými podklady.

03

Interní bezpečnostní pravidla

Organizace má jasně definováno, kde mohou být konkrétní typy dat zpracovávány.

V takovém případě musí způsob provozu AI respektovat již existující bezpečnostní architekturu.

04

Propojení s interními systémy

AI má pracovat hluboko uvnitř firemního prostředí.

Například s výrobními systémy, interní databází, dokumentovým úložištěm nebo dalšími aplikacemi, které nejsou dostupné z internetu.

02

Data mohou zůstat uvnitř. Model také.

Jednou z možností je provozovat otevřený jazykový model přímo na serverech společnosti.

Firma tak může kontrolovat, kde model běží, odkud čerpá informace a kam jsou ukládány dotazy a odpovědi.

Neznamená to, že je potřeba vytvářet vlastní jazykový model. V praxi lze využít již existující model a provozovat jej ve vlastním prostředí.

Takové řešení může být základem například pro:

  • 01
    interního AI asistenta
  • 02
    vyhledávání v technické dokumentaci
  • 03
    analýzu interních dokumentů
  • 04
    podporu servisních a výrobních pracovníků
  • 05
    práci s interními směrnicemi
  • 06
    automatizaci nad citlivými daty
  • 07
    interní nástroje pro vývojáře
  • 08
    zpracování dokumentace zákazníků
03

Vlastní AI neznamená pouze vlastní server

Existuje několik způsobů, jak požadavek na kontrolu nad daty řešit.

01

Vlastní infrastruktura

Model, databáze i ostatní části systému běží přímo v prostředí společnosti.

Firma má nejvyšší míru kontroly, ale zároveň odpovídá za provoz, výkon, aktualizace a zabezpečení.

02

Privátní cloudové prostředí

Řešení běží ve vyhrazeném prostředí poskytovatele cloudové infrastruktury s přesně nastavenými podmínkami zpracování dat.

Pro řadu firem může představovat vhodný kompromis mezi kontrolou a náročností vlastního provozu.

03

Kombinované řešení

Citlivé úlohy probíhají ve vlastním prostředí, zatímco pro obecné činnosti se používají externí AI služby.

Firma tak nemusí provozovat vše stejným způsobem.

04

Bezpečnost nezačíná a nekončí umístěním serveru

To, že model běží uvnitř firmy, samo o sobě nezaručuje bezpečnost.

Stejně důležité je vyřešit, ke kterým informacím se systém může dostat a kdo může jednotlivé informace prostřednictvím AI získat.

Pokud například interní asistent pracuje s dokumenty personálního, obchodního a technického oddělení, neměl by každý zaměstnanec automaticky získat přístup ke všem třem oblastem.

AI musí respektovat stejná nebo přísnější pravidla přístupu jako ostatní firemní systémy.

05

Co je potřeba vyřešit

01

Přístup k datům

Které dokumenty, databáze a systémy může AI používat?

02

Oprávnění

Který zaměstnanec má prostřednictvím systému přístup ke kterým informacím?

03

Ukládání

Budou se dotazy a odpovědi ukládat? Pokud ano, kde a jak dlouho?

04

Výkon

Kolik lidí bude systém používat a jak rychlé odpovědi potřebují?

05

Aktualizace

Jak budou probíhat změny modelů a dalších částí systému?

06

Monitoring

Jak zjistíme, zda systém funguje správně a zda se nepoužívá nežádoucím způsobem?

06

Větší model nemusí být lepší

Při vlastním provozu je výběr správného modelu důležitý také z ekonomického hlediska.

Největší dostupné modely mohou vyžadovat výrazně dražší infrastrukturu. Pro konkrétní interní úlohu přitom může menší model poskytovat srovnatelně použitelný výsledek.

Pokud má AI například odpovídat zaměstnancům na otázky z firemní dokumentace, nemusí potřebovat stejný výkon jako univerzální veřejný asistent.

Model proto vybíráme podle konkrétního využití, požadované kvality, rychlosti a dostupné infrastruktury.

07

Firemní dokumentace nemusí být součástí samotného modelu

Častou představou je, že je potřeba jazykový model „naučit“ všechny interní dokumenty.

Ve většině případů je vhodnější oddělit samotný jazykový model od aktuálních firemních znalostí.

Při dotazu systém nejprve vyhledá relevantní informace ve schválených interních zdrojích. Ty následně poskytne jazykovému modelu jako podklad pro vytvoření odpovědi.

Díky tomu lze dokumentaci měnit a aktualizovat bez nutnosti znovu upravovat samotný model.

08

Kdy vlastní provoz naopak nedává smysl

Požadavek na maximální kontrolu může být oprávněný, ale vlastní provoz není vždy nejlepší řešení.

Pokud firma používá AI pouze příležitostně, pracuje převážně s necitlivými daty nebo nemá potřebné technické zázemí, může být vlastní infrastruktura nepřiměřeně nákladná a složitá.

Někdy je vhodnější dobře zabezpečené firemní cloudové prostředí, anonymizace dat nebo kombinace více přístupů.

Nejdříve je proto potřeba určit, která data skutečně musí zůstat uvnitř firmy a které úlohy tak přísný režim nepotřebují.

09

Jak s tím pomáhá Vairo

Pomáháme firmám navrhnout způsob využití AI, který respektuje jejich požadavky na ochranu dat a zároveň dává technologický i ekonomický smysl.

Posoudíme charakter dat, současnou infrastrukturu, způsob využití AI a očekávaný počet uživatelů. Na základě toho navrhneme vhodnou architekturu a rozhodneme, které části řešení mají běžet uvnitř firmy a kde případně dává smysl využít jiné prostředí.

Můžeme zajistit výběr modelu, návrh infrastruktury, napojení interních dat, vytvoření uživatelského prostředí, nastavení oprávnění i následné testování a provozní monitoring.

AI může pracovat s vašimi daty, aniž byste nad nimi ztratili kontrolu

Nemusíte volit mezi využíváním AI a ochranou citlivých informací. Důležité je správně zvolit způsob provozu a navrhnout celý systém s ohledem na charakter vašich dat.

Probrat bezpečné nasazení AI