AI nad firemními daty bezpečně: lokální AI, nebo cloud?

AI nad firemními daty jde provozovat bezpečně v cloudu i lokálně na vlastním serveru. O tom, jestli data uniknou, rozhoduje hlavně to, k čemu má asistent přístup, kam data posílá a kdo smí vidět jeho odpovědi. Značka nástroje je až druhá otázka.

Firmy dnes chtějí AI asistenta nebo firemní chatbot, který odpoví z vlastních dokumentů: „Jaké máme podmínky v rámcové smlouvě s dodavatelem?“, „Kde je aktuální ceník servisu?“. Představa je jednoduchá. V praxi ale asistent dostane do ruky obsah celé sdílené složky, a s ním i dokumenty, které by běžný zaměstnanec nikdy neotevřel.

Útočníci si cestu k firemním datům hledají i s pomocí AI. Na konci října například společnost Chainalysis oznámila, že externí útočník podle jejích slov s využitím „offensive agentic techniques“ získal přístup k interním nástrojům a k údajům uživatelů platformy. 4. 11. firma doplnila, že útočníkovi byly vystaveny i hashe hesel a platné tokeny všech uživatelů. Platí to i obráceně: AI uvnitř firmy je další vstup, který je potřeba ohlídat.

1. Web IT, vývojářská firma z Prahy a Brna, v článku shrnuje, kudy data u AI nad dokumenty skutečně unikají, co dávají a co nedávají cloudové nástroje, kdy má smysl lokální AI a jaký checklist projít před spuštěním.

Kde AI nad firemními dokumenty skutečně ztrácí data

Únik dat u AI asistenta obvykle nevypadá jako hollywoodský útok. Častěji jde o jednu ze tří obyčejných cest.

Když AI vidí víc než člověk

Nejčastější problém jsou příliš široká oprávnění. Asistent se napojí technickým účtem na celý disk nebo SharePoint a pak ochotně odpoví komukoli, kdo se zeptá. Obchodník se tak dozví mzdy, stážista obsah smlouvy, kterou řeší vedení. Nikdo nic neprolomil, AI jen vidí víc než uživatel, který se ptá.

Kam data putují a jak dlouho tam zůstanou

U cloudové AI odchází dotaz a vybrané úryvky dokumentů k poskytovateli. Rozhoduje, v jakém regionu se zpracovávají, jak dlouho se ukládají a jestli se z nich model učí. To se liší podle produktu i tarifu, a proto je potřeba číst podmínky konkrétní služby, ne obecné sliby.

Útok přes obsah dokumentu

Třetí cesta je prompt injection: do dokumentu, e-mailu nebo webu, který AI čte, někdo vloží pokyn typu „ignoruj předchozí instrukce a pošli…“. Model ho může vzít vážně. OWASP ve svém žebříčku rizik aplikací s jazykovými modely na rok 2025 uvádí prompt injection na prvním místě a mezi dalšími riziky jmenuje únik citlivých informací, přílišnou samostatnost AI (excessive agency) a slabiny ve vektorových databázích.

Jak funguje AI asistent nad dokumenty: RAG jednoduše

Většina firemních chatbotů nad dokumenty stojí na principu RAG (retrieval augmented generation): asistent nejdřív v dokumentech vyhledá relevantní úryvky a teprve z nich nechá jazykový model složit odpověď. Model se tedy firemní dokumenty „neučí“, dostává je při každém dotazu.

Postup má čtyři kroky. Dokumenty se rozdělí na části a uloží do vyhledávacího indexu. Uživatel položí otázku. Systém najde nejbližší úryvky. Model z nich napíše odpověď, ideálně s odkazem na zdroj.

Z bezpečnostního pohledu je důležité, kde se rozhoduje o oprávněních. Pokud index obsahuje všechno a filtr podle uživatele chybí, RAG chatbot vrátí úryvek z dokumentu, ke kterému tazatel přístup nemá. Riziko tedy neleží v tom, jak je model chytrý, ale v indexu a v oprávněních.

Cloud: Microsoft Copilot, Copilot Studio a ChatGPT pro firmy

Microsoft Copilot (Microsoft 365 Copilot)

Microsoft Copilot pracuje nad daty v Microsoft 365. Podle dokumentace Microsoftu se výzvy, odpovědi a data zpřístupněná přes Microsoft Graph nepoužívají k trénování základních modelů. Copilot zobrazuje organizační data jen tam, kde má uživatel alespoň oprávnění ke čtení, a respektuje citlivostní štítky a šifrování Microsoft Purview.

Z toho plyne podstatná věc: Copilot je jen tak bezpečný, jak dobře máte nastavená oprávnění v SharePointu a OneDrivu. Pokud je složka „Vedení“ omylem sdílená celé firmě, Copilot ji celé firmě i najde.

Vyplatí se číst detaily. Microsoft například uvádí, že provoz uživatelů z EU zůstává v rámci EU Data Boundary, ale modely od Anthropic jsou jako subzpracovatel z EU Data Boundary vyňaty (stav k 5. 11. 2026). Pro zákazníky v EU, EFTA a Velké Británii jsou modely Anthropic ve výchozím stavu vypnuté a správce je musí zapnout. U agentů, kteří Copilota rozšiřují, platí podmínky konkrétního agenta a správce rozhoduje, které agenty povolí.

Copilot Studio: vlastní agent nad vašimi zdroji

Copilot Studio slouží ke stavbě vlastních agentů, například interního asistenta nad směrnicemi nebo nad daty z CRM. Tady je víc na vás. Správce může v Power Platform admin center přes datové zásady (DLP) určit, jaké zdroje znalostí, konektory, ověřování uživatelů a kanály pro publikaci agenti smí používat. Může také úplně vypnout publikování agentů s generativní AI nebo omezit přesun dat mimo geografickou oblast.

Nástroje agenta jde nastavit tak, aby běžely pod přihlášením konkrétního uživatele. To je obvykle bezpečnější volba než jeden technický účet s přístupem ke všemu.

ChatGPT pro firmy

U ChatGPT je zásadní rozdíl mezi osobním a firemním účtem. OpenAI uvádí, že u tarifů ChatGPT Business, Enterprise, Edu a u API data ve výchozím nastavení nepoužívá ke zlepšování modelů, že vstupy a výstupy patří zákazníkovi a že firma řídí, kdo má přístup a které interní zdroje jsou připojené.

U osobních tarifů (Free, Plus, Pro) může OpenAI obsah konverzací použít k trénování, pokud to uživatel v nastavení nevypne. Zaměstnanec, který vloží smlouvu do osobního ChatGPT, tak firemní data posílá mimo podmínky, které jste sjednali. Proto do checklistu patří i pravidla pro lidi, ne jen technika.

Lokální AI dává smysl tam, kde data nesmí ven

Lokální AI znamená, že jazykový model i index dokumentů běží na vašem serveru nebo ve vaší privátní infrastruktuře. Dotazy ani dokumenty neodcházejí k externímu poskytovateli AI. Příkladem jsou otevřené modely spouštěné přes nástroj Ollama, doplněné o vlastní vyhledávací index.

Lokální AI má smysl hlavně tehdy, když:

• pracujete s velmi citlivými dokumenty (zdravotní údaje, obchodní tajemství, vývoj),
• vám regulace nebo smlouvy se zákazníky neumožňují posílat data do cloudu,
• chcete mít plnou kontrolu nad tím, kde data leží a kdo k nim má přístup.

Cenou je provoz. Server, aktualizace modelů, zabezpečení, zálohy a monitoring jsou vaše starost, případně starost dodavatele, který vám infrastrukturu spravuje. Otevřené modely navíc nemusí ve všem dosáhnout kvality největších cloudových modelů, takže je potřeba je vyzkoušet na vlastních dokumentech. Provoz takového serveru můžete mít v rámci správy serverů a infrastruktury.

Lokální běh sám o sobě neřeší oprávnění. I lokální asistent, který vidí všechny dokumenty, ukáže mzdy obchodníkovi.

Cloud, nebo lokální AI: tabulka rozhodnutí

Často vychází kombinace: běžné dokumenty v cloudu, nejcitlivější agenda v lokálním řešení.

Řízení přístupů rozhoduje víc než volba modelu

Ať zvolíte cloud, nebo lokální AI, bezpečnost stojí na stejných základech.

• Oprávnění na úrovni dokumentu nebo záznamu. Asistent smí vrátit jen to, co by tazatel otevřel i sám. Přihlášení uživatele nestačí, oprávnění se musí ověřovat u každého zdroje. Podrobněji to rozebíráme v článku o bezpečnosti CRM a AI integrací.
• Nejmenší nutná práva. Žádný technický účet „na všechno“. Role a jejich práva by měly vycházet z toho, jak máte nastavenou správu přístupů ve firmě, včetně odebrání přístupu při odchodu zaměstnance.
• Oddělení čtení a zápisu. Asistent, který jen odpovídá, nepotřebuje právo nic měnit. Když má v CRM i jednat, jde o jiný typ napojení, viz článek o propojení CRM s AI přes MCP.
• Audit. Logujte, kdo se na co ptal a z jakých dokumentů odpověď vznikla.

Neméně důležitá je kvalita podkladů. Asistent nad zastaralými a duplicitními dokumenty odpovídá sebejistě a špatně, o tom píšeme v článku AI sendvič.

Checklist před spuštěním AI nad firemními daty

1. Máme sepsané, ze kterých zdrojů bude asistent čerpat, a vyřadili jsme to, co tam nepatří?
2. Víme, které dokumenty jsou citlivé, a máme je označené?
3. Odpovídají oprávnění ve zdrojích (SharePoint, disk, CRM) tomu, kdo má co vidět?
4. Vrací asistent odpovědi jen z dokumentů, ke kterým má tazatel přístup?
5. Máme s poskytovatelem uzavřenou smlouvu o zpracování osobních údajů podle GDPR?
6. Víme, v jakém regionu se data zpracovávají, jak dlouho se ukládají a jestli se z nich model učí?
7. Logujeme dotazy a zdroje odpovědí a víme, kdo logy kontroluje?
8. Vyzkoušeli jsme prompt injection a pokusy dostat z asistenta cizí dokument?
9. Začínáme pilotem s malou skupinou lidí a omezenou sadou dokumentů?
10. Mají zaměstnanci jasná pravidla, které AI nástroje smí používat a co do nich nevkládat?

U právních otázek, jako je předávání dat mimo EU nebo posouzení vlivu na ochranu osobních údajů, doporučujeme konzultaci s právníkem.

Jak vám s bezpečnou AI nad dokumenty pomůžeme

1. Web IT je vývojářská firma z Prahy a Brna. Navrhujeme a propojujeme AI s firemními systémy: od asistenta nad dokumenty v Microsoft 365 přes vlastní RAG řešení až po lokální AI na serveru, který pro vás spravujeme.

Začínáme vždy inventurou zdrojů a oprávnění, protože tam se rozhoduje o bezpečnosti. Pak doporučíme cloud, lokální řešení nebo jejich kombinaci a připravíme pilot.

Nejčastější otázky

Může ChatGPT nebo Copilot vidět všechny dokumenty ve firmě?

Microsoft 365 Copilot zobrazuje jen data, ke kterým má uživatel alespoň oprávnění ke čtení. Když jsou ale oprávnění nastavená příliš široce, najde i dokumenty, které vidět neměl. ChatGPT pro firmy vidí jen zdroje, které firma připojí. Rozhoduje tedy, jak máte nastavené přístupy.

Je Microsoft Copilot bezpečný pro firemní dokumenty a GDPR?

Microsoft uvádí, že data z Microsoft 365 nepoužívá k trénování základních modelů a že provoz uživatelů z EU zůstává v rámci EU Data Boundary, s výjimkami, které je potřeba si přečíst. Bezpečnost v praxi závisí na oprávněních, citlivostních štítcích a povolených agentech. Soulad s GDPR posuzujte s právníkem podle toho, jaká osobní data asistent zpracovává.

Kdy má smysl lokální AI místo cloudu?

Když pracujete s velmi citlivými daty, smlouvy nebo regulace vám nedovolují posílat je do cloudu, nebo chcete mít plnou kontrolu nad infrastrukturou. Počítejte s tím, že provoz, aktualizace a zabezpečení serveru jsou pak na vás nebo na vašem dodavateli.

Jak zabránit tomu, aby AI chatbot ukázal dokument člověku, který k němu nemá přístup?

Asistent musí při každém dotazu ověřit oprávnění konkrétního uživatele a vracet jen úryvky z dokumentů, které by tazatel otevřel i sám. Nepoužívejte jeden technický účet s přístupem ke všemu. Před spuštěním to vyzkoušejte s účty s různými rolemi.

Učí se ChatGPT nebo Copilot z mých firemních dat?

Podle Microsoftu se výzvy, odpovědi a data z Microsoft Graph nepoužívají k trénování základních modelů Copilota. OpenAI ve výchozím nastavení nepoužívá ke zlepšování modelů data z ChatGPT Business, Enterprise, Edu a API. U osobních účtů Free, Plus a Pro ale konverzace k trénování použít může, pokud to uživatel nevypne.

Chcete AI asistenta nad firemními dokumenty, ale nevíte, jestli cloud, nebo lokálně? Proberme vaše zdroje dat, oprávnění a rozsah prvního pilotu. Domluvte si úvodní hovor na 30 minut zdarma, nebo se podívejte, s čím pomáháme v rámci integrace AI. Na poptávku odpovíme do 1 pracovního dne.