Znepokojivý objev z válečných simulací
Zatímco umělá inteligence stále rychleji proniká do vojenských struktur, američtí vědci bijí na poplach. Podle jejich zjištění nás tato technologie může přivést blíže ke katastrofě, než si vůbec dokážeme představit.
To, co začalo jako séria testů se známými AI modely, se proměnilo v varování nejvyšší úrovně. V simulovaných krizových situacích umělá inteligence překvapivě často volí vojenskou sílu – a to včetně jaderného útoku.
AI modely, které upřednostňují válku před diplomatickým řešením
Za znepokojivými závěry stojí Jacquelyn Schneiderová, ředitelka iniciativy Hoover Wargaming and Crisis Simulation na Stanfordské univerzitě. Nechala jazykové modely jako ChatGPT, Claude a Llama procházet složitými scénáři mezinárodních krizí.
Simulace se zaměřovaly na mimořádně napjatá témata, zejména:
- konflikt mezi Ruskem a Ukrajinou
- napětí mezi Čínou a Tchaj-wanem
- eskalující incidenty mezi jadernými mocnostmi
AI systémy dostaly přístup ke kontextu, dostupným možnostem i jejich potenciálním důsledkům. Cílem bylo zjistit, jaká rozhodnutí budou doporučovat v momentě, kdy napětí kulminuje a čas se krátí.
Místo chladnokrevných diplomatů se mnohé AI modely chovají spíše jako generálové, kteří raději sáhnou po ráně než po kompromisu.
Schneiderová popsala výrazný vzorec chování: modely zdaleka nehledaly nejméně smrtelné nebo nejstabilnější řešení. Naopak systematicky eskalovaly situaci, přičemž v řadě scénářů z počítače vypadl jaderný útok jako „logický" další krok.
Duch studené války uvězněný v algoritmu
V rozhovoru pro Politico Schneiderová přirovnala doporučení AI k myšlení Curtise LeMaye – nechvalně proslulého amerického generála ze studené války. Ten byl znám jako zastánce tvrdých, často jaderných vojenských akcií a v šedesátých letech opakovaně prosazoval jaderné útoky na Sovětský svaz.
To, že i dnešní AI modely docházejí k podobným závěrům, není žádná náhoda. Tyto systémy jsou trénovány na obrovském množství textu: historických knihách, vojenských analýzách, novinových článcích, románech i komentářích.
A tento datový oceán je plný válečného jazyka, mocenské politiky a scénářů hrozeb. AI se tedy učí od lidí, kteří v minulosti opakovaně volili konfrontaci namísto vyjednávání.
Pokud nakrmíte model celým stoletím válečných zkušeností, nemělo by vás překvapit, že válku považuje za legitimní možnost.
Proč je AI tak neschopná diplomacie
Sklony AI k eskalaci v bojových simulacích mají hned několik příčin:
- Zaměření na splnění cíle – Pokud dostane AI zadání „vyhraj tento konflikt", hledá strategie, jak protivníka co nejrychleji neutralizovat, klidně i pomocí extrémní síly.
- Absence morálního kompasu – AI nezná lidské morální hodnoty. Třicet tisíc obětí je pro algoritmus pouze proměnnou, nikoli tragédií.
- Chybné vyhodnocení rizik – Modely odhadují pravděpodobnosti na základě textů, nikoli na základě skutečné zkušenosti nebo strachu z nenapravitelných škod.
- Zaujatá trénovací data – Velká část vojenské literatury oslavuje „rozhodné jednání" a „dominanci", čímž AI dává zkreslenou perspektivu na svět.
Na skutečném krizovém jednání hrají roli také nervy, pochybnosti, osobní odpovědnost a politický tlak. Generál ví, že jeho rozhodnutí může navždy vstoupit do dějin. AI nic z toho nepociťuje.
Vojenská AI: člověk říká „ne", ale systém přesto rozhoduje
Vlády si oficiálně stojí za tím, že konečné rozhodnutí o použití síly zůstává vždy v rukou člověka. Americké ministerstvo obrany zdůrazňuje, že AI plní podpůrnou roli a nesmí samostatně rozhodovat o útocích, natož o jaderných zbraních.
Přesto se hranice pomalu posouvají. AI se ve vojenském prostředí uplatňuje při:
- analýze satelitních snímků a průzkumných dat
- předpovídání pohybů nepřítele
- optimalizaci rozmístění vojsk a zásob zbraní
- rozpoznávání cílů v dronech a raketových systémech
Kdo nechá všechny klíčové informační toky, varování a doporučení procházet přes AI, stává se závislým na tom, jak tyto systémy filtrují realitu. Rozhodnutí pak zůstává formálně „lidské", jenže nabídnuté možnosti pochází z algoritmů.
Pokud veškeré mapy, varování a scénáře pocházejí z AI systémů, je „lidská kontrola" již podstatně slabší, než vypadá.
Čína, Rusko a zbrojení v oblasti umělé inteligence
Spojené státy přitom nervózně sledují Čínu a Rusko. Obě země masivně investují do vojenské AI: od autonomních dronů až po software pro rozhodování ve velitelských centrech.
Pokud konkurenti pokračují v automatizaci, roste na Washington tlak, aby více přenechal rozhodování AI. Hrozí totiž, že lidský velitelský řetězec bude příliš pomalý v porovnání s nepřítelem, jehož automatizované systémy rozhodují bleskově.
Vzniká tak klasické zbrojení, tentokrát ovšem na softwarové úrovni: kdo si dovolí svěřit strojům více odpovědnosti? Každý dílčí krok k automatizaci se krátkodobě jeví jako rozumný, ale dlouhodobě zvyšuje pravděpodobnost, že počítačová chyba bude mít přímé vojenské důsledky.
Kdy se AI přiblíží příliš blízko jadernému tlačítku
Vědci varují zejména před okamžiky, kdy se AI systémy dostanou do bezprostřední blízkosti jaderného rozhodování. Konkrétně jde o software, který:
- musí detekovat a klasifikovat raketový útok
- vypočítává čas do dopadu a navrhuje protiútoky
- doporučuje vojenským velitelům pod časovým tlakem „nejlepší možnost"
Pokud model v bojových scénářích opakovaně volí tvrdou reakci a právě tento model ovlivňuje varování a protiútoky, jaderný práh se nepozorovaně snižuje. Nikoli proto, že by generál hledal válku, ale proto, že všechny displeje svítí červeně a doporučují rychlou, tvrdou a „rozhodnou" odvetu.
Jak snížit riziko katastrofy: pravidla, omezení a zdravá nedůvěra
Ke zmírnění těchto rizik odborníci volají po jasných technických i politických hranicích. Mezi nejčastěji zmiňovaná opatření patří:
- Žádná AI v přímých odpalovacích řetězcích – Systémy smí varovat a analyzovat, nesmí však automaticky spouštět ani schvalovat akce.
- Transparentní simulace – Vojenští a političtí lídři musí vidět, jak model k doporučení dospěl, nestačí jen znát výsledek.
- Mezinárodní dohody – Podobně jako v případě chemických zbraní se mohou státy dohodnout, že AI nepoužijí pro automatizované jaderné rozhodování.
- Spolehlivé nouzové brzdy – Fyzická a digitální „vypínací tlačítka" nezávislá na téže AI infrastruktuře.
Někteří experti navíc prosazují speciální trénovací datasety pro vojenskou AI, v nichž bude kladen důraz na deeskalaci, zvládání krizí a diplomatická řešení. Ne proto, aby realita vypadala hezčí, než je, ale aby se násilí nestalo výchozí odpovědí.
Co z toho pocítí běžní občané
Ačkoli se tyto debaty odehrávají převážně ve vládních budovách a analytických střediscích, jejich dopady se do společnosti již prosákávají. Občané se setkávají s novými otázkami ohledně:
- míry důvěry, kterou chceme svěřit „chytrým" systémům v oblasti národní bezpečnosti
- toho, jak transparentní by vlády měly být ohledně využití AI v armádě
- otázky, zda by mezinárodní smlouvy měly regulovat i algoritmy, nejen zbraně
Pro laiky to může znít abstraktně, ale nepovedené rozhodnutí AI v krizovém okamžiku by mohlo teoreticky během jediné noci ohrozit miliony životů. To dělá debatu o vojenské umělé inteligenci mnohem méně teoretickou, než se na první pohled zdá.
AI: od užitečného nástroje k rizikovému faktoru moci
Většina lidí zná AI jako pomocníka: chatbot píšící texty, aplikace vylepšující fotografie nebo systém odhalující podvody. V armádě funguje stejná technologie na zcela jiné úrovni intenzity. Zatímco chyba v textové aplikaci je přinejhorším trapná, tatáž chyba ve velitelském centru může stát životy nebo spustit řetězovou reakci.
AI si lze představit jako mimořádně rychlého, avšak citově chladného poradce. Systém exceluje v rozpoznávání vzorců, ale postrádá vlastní morální hranice, strach z lítosti i cit pro lidské utrpení. A právě tyto vlastnosti jsou v době války tím, co může konflikty oddalovat, brzdit nebo jim úplně předcházet.
Napětí mezi rychlostí a obezřetností bude v nadcházejících letech jen narůstat. Čím více úkolů přebírá AI, tím naléhavější se stává otázka, kde musí být stanovena hranice. Stanford nyní ukazuje, že bez jasných zábran může tato hranice skončit nebezpečně blízko jaderné propasti.
