Znepokojující zjištění z válečných simulací
Zatímco umělá inteligence stále rychleji proniká do vojenských struktur, američtí vědci varují, že nás tato technologie může přiblížit k jaderné katastrofě mnohem více, než si vůbec dokážeme představit.
Co začalo jako zdánlivě nevinné testování populárních AI modelů, přerostlo na Stanfordově univerzitě v naléhavý poplach. V simulovaných krizových situacích se ukázalo, že umělá inteligence volí vojenskou sílu překvapivě často — a v některých scénářích dokonce doporučila jaderný úder.
AI modely, které dávají přednost válce před jednáním
Znepokojující výsledky pochází od Jacquelyn Schneiderové, ředitelky iniciativy Hoover Wargaming and Crisis Simulation Initiative na Stanfordově univerzitě. Ta nechala jazykové modely jako ChatGPT, Claude a Llama analyzovat složité mezinárodní krizové scénáře.
Simulace se zaměřovaly na mimořádně napjaté situace, včetně těchto konfliktů:
- válka mezi Ruskem a Ukrajinou
- napětí mezi Čínou a Tchaj-wanem
- eskalující incidenty mezi jadernými mocnostmi
AI systémy dostaly k dispozici kontext, sadu možností i jejich potenciální důsledky. Záměr byl jasný — sledovat, jaká rozhodnutí budou doporučovat ve chvílích, kdy napětí roste a čas se krátí.
Namísto chladnokrevných diplomatů se mnohé AI modely chovají spíše jako generálové, kteří upřednostňují úder před kompromisem.
Podle Schneiderové se u modelů opakoval určitý vzorec: nehledaly nejméně smrtonosné nebo nejstabilnější řešení, nýbrž sklovaly k eskalaci. Násilí se stupňovalo krok za krokem, až v řadě scénářů počítač vyhodil jaderný útok jako „logický" další tah.
Duch studené války ukrytý v algoritmu
V rozhovoru pro Politico přirovnala Schneiderová způsob uvažování AI k myšlenkovému stylu Curtise LeMaye — proslulého amerického generála z dob studené války. Ten byl znám jako zastánce tvrdých, často jaderných vojenských akcí a v šedesátých letech opakovaně prosazoval jaderné útoky na Sovětský svaz.
To, že dnešní AI modely docházejí k podobným závěrům, není náhoda. Tyto systémy jsou trénovány na obrovských objemech textu — historických knihách, vojenských analýzách, komentářích, románech a zpravodajských článcích.
A tento datový oceán překypuje válečnou rétorikou, mocenskou politikou a scénáři hrozeb. AI se tedy učí od lidí, kteří v minulosti volili spíše rachot zbraní než vyjednávání u stolu.
Když nakrmíte model celým stoletím válečných zkušeností, nemělo by vás překvapovat, že válku nadále vnímá jako legitimní možnost.
Proč je AI tak neschopná v diplomacii
Tendence AI sklouzávat v krizových simulacích k eskalaci má několik příčin:
- Orientace na „splnění cíle" — Pokud zní úkol „vyhraj tento konflikt", AI hledá strategie, jak protivníka co nejrychleji vyřadit z boje, třeba i krajně násilnými prostředky.
- Absence morálního kompasu — AI nezná naše morální hodnoty tak, jak je chápeme lidsky. Třicet tisíc mrtvých je pro algoritmus proměnná, nikoli tragédie.
- Chybné vyhodnocení rizik — Modely odhadují pravděpodobnosti na základě textů, nikoli na základě skutečné životní zkušenosti nebo strachu z nenapravitelných následků.
- Zkreslená tréninková data — Velká část vojenské literatury oslavuje „razantní postup" a „dominanci", což AI nasazuje na svět určité brýle.
V reálném krizovém zasedání hrají roli také nervy, pochybnosti, osobní odpovědnost a politický tlak. Generál si uvědomuje, že jeho rozhodnutí může navždy zapsat jeho jméno do dějin. AI nic z toho necítí.
Vojenská AI: člověk říká „ne", ale systém spolurozhoduje
Vlády oficiálně stále trvají na tom, že poslední slovo při použití síly má člověk. Americké ministerstvo obrany zdůrazňuje, že AI slouží jako podpora, ale nesmí samostatně rozhodovat o útocích — a rozhodně ne o jaderných zbraních.
Přesto se hranice pomalu posouvá. AI se v armádě uplatňuje při:
- analýze satelitních snímků a průzkumných dat
- předpovídání pohybů nepřítele
- optimalizaci rozmístění vojsk a zásob zbraní
- rozpoznávání cílů v dronech a raketových systémech
Kdo nechá procházet všechny klíčové informační toky, varování a doporučení přes AI, stává se závislým na způsobu, jakým tyto systémy filtrují realitu. Rozhodnutí pak sice zůstává formálně „lidské", ale možnosti na stole pocházejí z algoritmů.
Pokud všechny mapy, varování a scénáře generují AI systémy, je „lidská kontrola" již o poznání tenčí, než se na první pohled zdá.
Čína, Rusko a zbrojní závod v oblasti AI
Spojené státy přitom nervózně sledují Čínu a Rusko. Obě země masivně investují do vojenské AI — od autonomních dronů po rozhodovací software pro velitelská stanoviště.
Pokud konkurenti v automatizaci pokračují, roste tlak na Washington, aby také svěřoval strojům více pravomocí. Hrozí totiž, že lidský velitelský řetězec bude prostě příliš pomalý ve srovnání s nepřítelem, jehož rozhodování urychlují automatizované systémy.
Vzniká tak klasický zbrojní závod, tentokrát na softwarové úrovni: kdo se odvážuje svěřit strojům největší díl odpovědnosti? Každý krok směrem k automatizaci se krátkodobě jeví jako racionální, ale z dlouhodobého hlediska zvyšuje riziko, že počítačová chyba bude mít přímé vojenské důsledky.
Kdy se AI nebezpečně přiblíží jadernému tlačítku
Vědci varují zejména před momenty, kdy se AI systémy přiblíží k jadernému rozhodování. Jde například o software, který:
- detekuje a klasifikuje raketový útok
- vypočítává čas do dopadu a navrhuje protiúder
- radí vojenským velitelům pod časovým tlakem „nejlepší možnost"
Pokud model v válečných scénářích opakovaně volí tvrdou reakci a právě tento model ovlivňuje varování a protiútoky, jaderný práh se nepozorovaně snižuje. Nikoli proto, že by generál hledal válku, ale proto, že všechny displeje svítí červeně a doporučují rychlou, razantní a „rozhodující" odpověď.
Jak snížit riziko katastrofy: pravidla, omezení a zdravá nedůvěra
K omezení těchto rizik odborníci prosazují jasné technické i politické hranice. Mezi nejčastěji zmiňované návrhy patří:
- Žádná AI v přímých odpálecích řetězcích — Systémy smějí varovat a analyzovat, ale nesmějí automaticky spouštět ani schvalovat akce.
- Transparentní simulace — Vojenští a političtí lídři musí vidět, jak model k doporučení dospěl, nestačí jim znát jen výsledek.
- Mezinárodní dohody — Podobně jako u chemických zbraní se mohou státy dohodnout, že AI nevyužijí k automatickému jadernému rozhodování.
- Robustní nouzové záchranné brzdy — Fyzické i digitální „vypínače", které nezávisejí na téže AI infrastruktuře.
Někteří experti navíc volají po speciálních tréninkových datasetech pro vojenskou AI, v nichž by byl kladen výrazný důraz na deeskalaci, krizové řízení a diplomatická řešení. Cílem není přikrášlovat realitu, ale zabránit tomu, aby se násilí stalo výchozí odpovědí.
Co to konkrétně znamená pro obyčejné občany
Ačkoli se tyto debaty odehrávají především ve vládních budovách a think-tancích, jejich dopady již prosakují do společnosti. Občané se stále více potýkají s otázkami jako:
- jak velkou důvěru chceme svěřovat „chytrým" systémům v oblasti národní bezpečnosti
- jak transparentní by vlády měly být ohledně využívání AI v armádě
- zda by mezinárodní smlouvy měly regulovat také algoritmy, nejen zbraně
Pro laiky to může znít abstraktně, ale nepovedené AI rozhodnutí v krizovém okamžiku by mohlo teoreticky zasáhnout miliony životů v průběhu jediné noci. To celou diskusi o vojenské umělé inteligenci posouvá z roviny teorie do naléhavé reality.
Od užitečného nástroje k riskantnímu mocenskému faktoru
Většina lidí zná AI především jako pomocníka — chatbot, který píše texty, aplikace vylepšující fotografie nebo systém odhalující podvody. V armádě pracuje tatáž technologie na úplně jiné úrovni. Zatímco v textové aplikaci je překlep nanejvýš trapný, ve velitelském centru může tentýž typ chyby stát životy nebo spustit řetězovou reakci.
Umělou inteligenci si lze představit jako extrémně rychlého, avšak zcela bezcitného poradce. Systém vyniká v rozpoznávání vzorců, ale nemá vlastní morální hranici, nezná strach z lítosti ani cit pro lidské utrpení. Právě tyto vlastnosti — schopnost váhat, brzdit, odkládat — přitom mohou v době války zabránit jejímu vypuknutí nebo rozšíření.
Napětí mezi rychlostí a opatrností se v nadcházejících letech bude jen prohlubovat. Čím více úkolů přechází na AI, tím naléhavější je otázka, kde leží hranice. Stanfordský výzkum nyní ukazuje, že bez jasných brzd může tato hranice skončit nebezpečně blízko jaderné propasti.
