Geopolitikai AI

Régóta tudatában voltunk a kockázatnak, ami most bekövetkezett: az USA kormánya gyakorlatilag levágta a nem amerikai állampolgárokat – így az EU-s felhasználókat és cégeket is – a legmodernebb, kiberbiztonságilag kritikus AI technológiák egy részéről.

Az Anthropic legújabb, Claude Mythos modelljének nem-amerikai hozzáférés-korlátozása egyértelmű jelzés. Bár ez még csak az első lépés, de hivatalosan is elkezdődött a geopolitikai AI hidegháború. A felek az első, light-os kis maflások után most kimennek majd a kocsma elé, egy ideig szúrósan méregetik egymást, aztán eldöntik, lesz-e folytatása a pofonosztásnak. Szerintem lesz.
‍

Mit jelent ez nekünk, cégeknek, magánszemélyeknek, szervezeteknek itt, az Európai Unióban és Magyarországon? Az amerikai BigTech-függőség mostantól nem csupán kényelmi vagy etikai kérdés lesz, hanem közvetlen üzleti és működési kockázatot jelent. Ha holnap lekapcsolják az API-t, nálatok megállnak (vagy minimum a 20. századi szintre lassulnak) a vállalati folyamatok?

‍

Az EU és az európai piac (értsd: AI fejlesztő, szolgáltató és használó cégek) válasza nem nagyon lehet más, mint a Sovereign, vagy on-prem AI megoldások bevezetésének a felgyorsítása.

‍

Egy kis kitekintés, hogyan építhetik ki a cégek a függetlenségüket, milyen valós alternatívák állnak rendelkezésre cégmérettől függően.

Azonnali túlélő megoldások (Workarounds)

Mielőtt teljesen új alapokra helyeznénk mindent, a meglévő rendszereket rugalmasabbá tehetjük az alábbi taktikai lépésekkel:

‍

API absztrakciós rétegek (Model Routers): ne drótozzuk be egyetlen gyártó (pl. Anthropic) API-ját közvetlenül a szoftverünkbe, rendszereinkbe. Olyan köztes rétegek használatával, mint a LiteLLM, LangChain vagy a Portkey, a modellek közötti váltás sokkal kisebb fejfájást okoz majd. Ha az egyik modell kiesik, a rendszer – akár automatikusan, szinte észrevétlenül tereli át a forgalmat a másikra. Arra kicsi az esély, hogy az AI-al támogatott rendszerek output-ja változatlan maradjon egy új modell használata esetén, de sok esetben ez elég lehet a céges folyamatok életben tartására.
Többmodelles (Multi-model) megközelítés: a kritikus funkciókhoz tartsunk készenlétben az amerikai mellett egy alternatív európai/nyílt modellt, amelyeket folyamatosan, intenzíven, párhuzamosan tesztelünk. Ez tipikusan a lassabb fejlesztés és magasabb költségszint választása az alacsonyabb kockázatokért cserébe.

Európai és Permisszív Licenszű Nyílt Alternatívák

A leválás fő pillérei: A földrajzi/szabályozási alapú európai ökoszisztéma, és a nyílt forráskódú, saját kézben tartható technológiák.

‍

Kiemelt Európai Szolgáltatók (GDPR és EU AI Act kompatibilis felhők)

‍

Mistral AI (Franciaország): Az európai AI zászlóshajója. A Mistral Large és a kifejezetten kódolásra optimalizált Codestral teljesítményben felveszik a versenyt (na jó, megközelítik…) a zárt amerikai modellekkel. Elérhetőek felhős API-ként, de akár le is tölthetőek és bizonyos esetekben ingyenesen is használhatóak.
Aleph Alpha (Németország): Kifejezetten a szigorúan szabályozott vállalati, ipari és kormányzati szektor számára fejlesztett modellek, ahol a magyarázhatóság (explainability) és az adatbiztonság az első.
Szuverén Cloud Infrastruktúra: Olyan szolgáltatók, akik dedikált, EU-s lokációhoz kötött GPU-alapú környezetet biztosítanak, így az adatok garantáltan az EU-n belül maradnak, és védettek az amerikai rendeletek, jogszabályok hatásaitól. A legjobbak persze az EU-s kézben lévő, innen kontrollált cégek.

‍

Kiemelt Permisszív Licenszű Nyílt Forráskódú (Open-Weight) Modellek

‍

Bár ezeket a modelleket gyakran amerikai (vagy hasonlóan kockázatos kínai) óriások fejlesztik, a permisszív licenszük (pl. Apache 2.0 vagy engedékeny egyedi kereskedelmi licenszek) lehetővé teszi, hogy letöltsük és teljesen zárt, saját szerverre telepítsük őket. Ez kulcsfontosságú különbség: a felhős API-hozzáféréssel ellentétben az egyszer letöltött modellsúlyok felett senki nem tarthat fenn távolról visszavonható kontrollt – a modell a mi tulajdonunk marad.

‍

Meta Llama 3 / 3.1 széria: A nyílt forráskód királya. A kisebb (8B) modelltől a gigantikus (70B és 405B) változatokig kiválóan alkalmasak egyedi vállalati feladatokra, rendkívül megengedő kereskedelmi licensszel.
Google Gemma 2 & Microsoft Phi-3: Kiváló minőségű, kisméretű (Small Language Model - SLM) modellek, amelyek döbbenetesen hatékonyak specifikus feladatokra, és minimális hardveren is elfutnak.

Stratégiai akcióterv cégméret szerint

KKV

Kisvállalkozások és KKV-k

A cél: Gyors és olcsó helyettesítés fejlesztői kapacitás nélkül.

Megoldás: Átállás európai API-kra (pl. Mistral AI API) vagy olyan kulcsrakész európai platformok használata, amelyek kész, GDPR-kompatibilis asszisztenseket adnak.

Időigény

Technikai átállás: 1–2 nap. Teljes élesítés (tesztelés, prompt adaptáció, belső jóváhagyás): 2–4 hét.

Szaktudás

Alapszintű IT ismeret az API kulcsok cseréjéhez, jó prompt engineering.

Hardver / Szoftver

Nem igényel új hardvert, a meglévő felhős infrastruktúrában történik a váltás.

Közép

Középvállalatok

A cél: Adatbiztonság és testreszabhatóság, mérsékelt infrastruktúra-kitettséggel.

Megoldás: Hibrid vagy Privát Felhő. Nyílt modellek (pl. Llama) futtatása európai felhőszolgáltatók (OVH, Scaleway) által biztosított dedikált felhős GPU-kon.

Időigény

1–3 hónap a tervezéstől a tesztüzemig.

Szaktudás

Cloud DevOps mérnök és AI/ML mérnök (aki jártas a RAG – adatbázis-összekapcsolási – rendszerekben és a modellek finomhangolásában).

Hardver / Szoftver

Felhőből bérelt vállalati GPU-k (pl. NVIDIA A100/H100 példányok), nyílt forráskódú futtató keretrendszerek (vLLM, Ollama).

Nagy

Nagyvállalatok (Bankok, Telco, Energetika, Állami szektor)

A cél: Teljes digitális szuverenitás. A külső kockázatok nullázása, teljes elszigeteltség (air-gapped működés).

Megoldás: On-Premise (Saját Szerveres) AI Infrastruktúra. Saját hardverpark vásárlása, a nyílt forráskódú modellek saját adatközpontban történő futtatása és saját adatokkal való betanítása.

Időigény

6–12 hónap a beszerzési folyamatok, a fizikai kiépítés és a biztonsági auditok miatt.

Szaktudás

Dedikált belső AI divízió: Data Scientistek, ML-platform mérnökök, adatközponti infrastruktúra-szakértők és AI-biztonsági (Cybersecurity) auditorok.

Hardver / Szoftver

Saját GPU szerverarchitektúra (pl. NVIDIA H100 szuperszámítógép-fürtök), komoly hűtési és áramellátási infrastruktúra egy Tier III+ adatközpontban.

A lényeg

Az AI-függőség kezelése ma már nem az IT-osztály döntése, hanem felsővezetői szintű kockázatkezelés. Az a cég van (viszonylagos) biztonságban, amelyik rendelkezik egy átgondolt kilépési, de minimum függőség csökkentési stratégiával az amerikai BigTech szolgáltatókkal kapcsolatban, és rendelkezik a stratégia végrehajtásához szükséges belső és külső erőforrásokkal.

Továbbra sem tudunk a modern AI eszközök használatánál jobb, előre mutatóbb módszert mondani a cégünk fejlesztésére, a folyamataink hatékonyságának javítására – így ez nem váltható ki. De hogy milyen AI technológiát / hogyan használunk, és ezzel milyen geopolitikai kockázatot vállalunk magunkra – az a saját döntésünk.

A tétlenség is stratégiai döntés, csak többnyire rossz. Minden hónap, amit kidolgozott AI-szuverenitási terv és az ehhez szükséges extra erőforrások nélkül tölt el egy szervezet, egy hónapnyi extra kockázatot jelent. Aki nem cselekszik, könnyen a Washington és Brüsszel (meg Peking) közti játszmában találhatja magát, mint feláldozható gyalog (le-parasztozni azért erős volna…).