Jak obranná smlouva přerostla v PR katastrofu
Firma stojící za ChatGPT se ocitla uprostřed nevídané krize důvěry. Rychle uzavřená smlouva s americkým ministerstvem obrany rozpoutala vlnu rozhořčených uživatelů, bojkotovací kampaň a pozoruhodný růst rivala — společnosti Anthropic, která vojenské využití svého modelu Claude výrazně přísněji omezuje.
Odvětví umělé inteligence se dlouho potýká s otázkou, kam až mohou vojenské aplikace sahat. Oznámení, že ChatGPT bude k dispozici americkému ministerstvu obrany, fungovalo jako zápalná šňůra přiložená k sudu střelného prachu.
OpenAI nedávno podepsalo dohodu, která umožňuje armádě využívat ChatGPT k nejrůznějším analýzám — od satelitních snímků po zpravodajské zprávy. Záměr byl jasný: pomoci ozbrojeným silám rozhodovat rychleji s podporou umělé inteligence.
Hněv nevzbudila samotná technologie, ale dojem, že OpenAI vyměnilo morální hranice za výnosnou smlouvu.
Krátce předtím odmítl podobnou dohodu konkurent Anthropic. Vznikl tak obraz, že OpenAI skočilo do vzniklé mezery a využilo příležitost, které se opatrnější rival vědomě vzdal.
Anthropic kreslí tvrdou červenou linii
Anthropic se dlouhodobě prezentuje jako svědomitý hráč v oboru. Společnost stanovila jasné hranice pro vojenské využití svého modelu Claude.
- Žádné nasazení pro plně autonomní zbraňové systémy
- Žádná role v rozhodovacích řetězcích, kde poslední krok probíhá bez lidského úsudku
- Žádná technologie pro masový dohled nad civilním obyvatelstvem
Tato pravidla nejsou jen interní politikou — jsou také spodní hranicí při smluvních jednáních. Podle amerických médií tento postoj vedl k vyloučení Anthropicu z oficiálních vládních kontraktů.
CBS přesto uvádí, že Claude je nepřímo využíván v konfliktních oblastech, mimo jiné v kontextu napětí kolem Íránu. Jak přesně k tomu dochází, zůstává nejasné — ministerstvo obrany odmítá komentář. To živí debatu o šedých zónách: i když firma odmítne přímou dodávku, mohou modely skončit ve vojenských pracovních postupech oklikou.
Rychlejší, smrtelnější rozhodnutí
Armáda chce umělou inteligenci využívat především ke zpracování obrovského množství dat. Firmy jako Palantir již dodávají systémy, které umožňují armádám a spojencům kombinovat informace z různých zdrojů v reálném čase. Podle zapojených manažerů to vede k „rychlejším, efektivnějším a v případě potřeby smrtelnějším" rozhodnutím.
Anthropic prosazuje, aby umělá inteligence pouze asistovala, nikdy však nestála sama o sobě jako poslední článek rozhodovacího procesu. Právě v tomto bodě se dostává do konfliktu s ambicemi Pentagonu, který usiluje o maximální automatizaci.
Uživatelé ChatGPT odcházejí po zveřejnění dohody
Jakmile se potvrdilo, že OpenAI s ministerstvem obrany skutečně spolupracuje, nálada uživatelů se radikálně proměnila. Data výzkumné společnosti Sensor Tower ukazují, že průměrný denní počet odinstalací aplikace ChatGPT vyskočil o 295 procent.
Na sociálních sítích se zvedla vlna kritiky. Mnoho uživatelů se cítí zrazeno — spotřebitelský produkt prezentovaný v reklamách jako „pomocník" hraje zároveň roli ve vojenských strukturách.
Hashtagy jako CancelChatGPT a QuitGPT se staly shromaždišti rozhořčených uživatelů přecházejících ke konkurenci.
Načasování situaci nepomohlo. OpenAI oznámilo dohodu těsně po Anthropicově odmítnutí. To posílilo dojem, že firma vědomě obsadila místo, které konkurent z etických důvodů uvolnil.
Altman přiznává chybu a smlouvu bleskově upravuje
Šéf firmy Sam Altman tentokrát nešel do obrany — zvolil sebekritiku. Veřejně přiznal, že oznámení působilo „oportunisticky a chaoticky" a že komunikace byla připravena příliš unáhleně.
Pod tlakem veřejného mínění provedlo OpenAI během několika dní úpravy v dohodě s ministerstvem obrany. Klíčové body jsou následující:
| Téma | Nový závazek OpenAI |
|---|---|
| Sledování občanů | ChatGPT ani jiné modely nesmějí být vědomě nasazeny ke sledování nebo profilování občanů na území USA. |
| Přístup zpravodajských služeb | Organizace jako NSA již nezískají automatický přístup — pouze na základě explicitní změny smlouvy. |
| Transparentnost | OpenAI slibuje jasnější komunikaci ohledně vojenských a bezpečnostních projektů. |
Altman zdůraznil, že jeho firma chce zabránit zneužití ze strany vlád, zároveň však zopakoval, že spolupráce s ministerstvem obrany je podle něj nutná pro udržení rizik umělé inteligence pod kontrolou. Tento argument nepřesvědčil každého — pro mnohé kritiky působí rychlý obrat jako příliš málo a příliš pozdě.
Claude vystřeluje na vrchol žebříčku App Store
Zatímco ChatGPT inkasuje rány, Anthropic profituje téměř okamžitě. Aplikace Claude se v krátké době vyšplhala na první místo žebříčku Apple App Store a tuto pozici si podle veřejně dostupných dat udržela několik dní v řadě.
Americká média hlásí, že Claude ChatGPT v počtu nových stažení předstihuje. Skandál s ministerstvem obrany tak funguje jako bezplatný marketing — obraz Clauda jako „etičtější alternativy" rezonuje u kriticky smýšlejících uživatelů.
Aktivistické skupiny i jednotliví uživatelé vyzývají k bojkotu OpenAI a přechodu k poskytovatelům s přísnějšími vojenskými omezeními. Pro velkou část veřejnosti je to poprvé, kdy výběr AI asistenta nezávisí jen na funkcích, ale také na morálních podmínkách.
Volání po regulaci ze strany politiků
Washingtonské think-tanky využívají skandál k prosazování legislativy. Center for American Progress tvrdí, že stanovování hranic pro vojenské využití umělé inteligence nemůže být ponecháno výhradně na firmách samotných.
Pokud opatrnější strany odejdou od jednacího stolu, standardy budou určovat ti nejméně skrupulózní hráči.
Oxfordská výzkumnice Mariarosaria Taddeo upozorňuje, že vyloučení relativně bezpečnostně uvědomělého hráče, jakým je Anthropic, je z dlouhodobého hlediska špatnou zprávou. Jakmile kritické hlasy přestanou hrát roli v oficiálních programech, norma se přirozeně posune směrem k agresivnějšímu využití umělé inteligence.
Strašák „halucinujících" zbraňových systémů
Další závažnou obavou je známá tendence velkých jazykových modelů produkovat chybné nebo vymyšlené informace. V běžném spotřebitelském prostředí to způsobuje trapné, zřídkakdy však životu nebezpečné situace. Ve vojenském kontextu může vymyšlený detail o cíli mít přímé následky.
Vojenští mluvčí zdůrazňují, že člověk zůstává vždy „v rozhodovací smyčce". Vysoký důstojník u NATO taskforce uvádí, že umělá inteligence pouze radí a nikdy nesmí samostatně autorizovat útok. Přesto roste obava, že v praxi se na AI analýzy spoléhá stále více — zejména pod časovým tlakem.
Co tento skandál říká o budoucnosti umělé inteligence a obrany
Epizoda kolem ChatGPT a Clauda jasně ukazuje jedno: uživatelé slepě nepřijímají fakt, že jejich oblíbený AI asistent slouží zároveň armádě. Firmy, které stanovují přísnější etické hranice, z toho nyní zřejmě těží i komerčně.
Vojenská poptávka po umělé inteligenci přitom zůstává obrovská. Pro armády hledající každou vteřinu informační výhodu jsou systémy schopné bleskově zpracovávat snímky, zprávy a senzorová data zkrátka příliš lákavé. Dokud vlády samy nestanoví jasné červené linie přímo v zákonech, tlak na firmy, aby šly dál, bude narůstat.
Pro běžné uživatele se volba mezi ChatGPT, Claudem a dalšími modely stává něčím víc než otázkou ceny a výkonu. Kdo využívá umělou inteligenci při práci, studiu nebo tvůrčí činnosti, může nyní zohledňovat také roli, kterou táž technologie potenciálně hraje ve válečných operacích a sledování obyvatelstva.
Kdo chce vývoj sledovat, měl by si všímat tří věcí: které firmy jsou transparentní ohledně obranných smluv, jak přísně samy omezují nasazení svých modelů ve zbraňových systémech a jaká pravidla se zákonodárci odvažují zakotvit do práva. Výsledek toho všeho neurčí jen to, jak umělá inteligence funguje v době války — ale také to, kolik důvěry budou mít spotřebitelé v asistenta, který jim každý den čeká na telefonu.
