Jak vznikají zbraně ovládané umělou inteligencí, Amerika má opravdu velký strach

11. 4. 2023

čas čtení 5 minut

Budou technologické výhody stačit Číně k tomu, aby nahradila USA na pozici světové velmoci v oblasti umělé inteligence?


V poslední době do  závodů  ve zbrojení vstoupil nový druh zbraní - volně nazývaný "umělá inteligence". V roce 2021 jsme se zpožděním zjistili, jaké obavy z něj měla americká vláda. Pod vedením Erica Schmidta, bývalého předsedy společnosti Google, byla svolána Národní bezpečnostní komise pro umělou inteligenci. Ve své zprávě, vydané v březnu téhož roku, komise varovala: že Čína by mohla brzy nahradit USA na pozici světové "supervelmoci v oblasti umělé inteligence"; že systémy umělé inteligence budou využívány (překvapivě!) v "honbě za mocí"; a že "umělá inteligence nezůstane doménou velmocí nebo sférou science fiction". Schmidt také vyzval prezidenta Bidena, aby odmítl výzvy k celosvětovému zákazu vysoce kontroverzních autonomních zbraní poháněných umělou inteligencí s tím, že Čína a Rusko pravděpodobně nedodrží žádnou smlouvu, kterou by podepsaly, píše John Naughton.


Byl to dosud nejsilnější náznak hegemonistické úzkosti, která svírá USA tváří v tvář rostoucí čínské asertivitě na globální scéně. To také vysvětluje, proč otevřený dopis podepsaný mnoha výzkumnými pracovníky, který vyzýval všechny laboratoře umělé inteligence, aby okamžitě alespoň na šest měsíců pozastavily výcvik systémů umělé inteligence výkonnějších než GPT-4 (a dodával, že "pokud takovou pauzu nelze rychle zavést, měly by zasáhnout vlády a zavést moratorium"), narazil ve Washingtonu i v Silicon Valley.

Pro představu o obavách, které svírají USA, může být poučná první kapitola knihy 2034: Román o příští světové válce, jejímž spoluautorem je spisovatel thrillerů a bývalý americký admirál. Americká letadlová skupina v Jihočínském moři se vydává na pomoc čínské rybářské lodi, která hoří. Ukáže se, že loď má na palubě zajímavou elektronickou výbavu. Číňané požadují okamžité propuštění plavidla, načež Američané, kteří nemají chuť jim vyhovět, zjistí, že všechny jejich elektronické systémy jsou najednou nefunkční  a že jsou obklíčeni skupinou čínských válečných lodí, o jejichž blízkosti vůbec nevěděli. Takhle vypadá technologická podřízenost, když jste velmoc.

Dobře míněný, ale marný dopis "o pauze" byl motivován obavami, že technologie strojového učení překročila významnou hranici na cestě k AGI (artificial general intelligence), tj. k superinteligentním strojům. To je pravděpodobné pouze v případě, že věříte - jako někteří ve světě strojového učení - že masivní rozšíření LLM (velkých jazykových modelů) nás nakonec dovede k AGI. A pokud by k tomu došlo (tak zní panická úvaha), mohla by to být pro lidstvo špatná zpráva, ledaže by se stroje;;+; spokojily s tím, že si lidi ponechají jako domácí mazlíčky.

Pro zahraničněpolitický establishment ve Washingtonu však vyhlídka, že by se Čína mohla dostat k AGI dříve než USA, vypadá jako existenční hrozba pro americkou hegemonii. Místní technologičtí giganti tyto existenční obavy usilovně rozdmýchávají. A tak by svět mohl čelit novým "závodům ve zbrojení" poháněným budoucími generacemi technologií, které nám přinesly ChatGPT, se vším plýtváním a korupcí, které takové utrácení přináší.

Tento způsob uvažování je založen na dvou pilířích, které se zdají být dosti vratké. Prvním je víra, druhým je mylná představa o povaze technologické konkurence. Víra spočívá v přesvědčení, že zrychlený rozvoj technologie strojového učení nakonec povede ke vzniku AGI. To vypadá jako docela hrdinský předpoklad. Jak upozornil filozof Kenneth A. Taylor před svou předčasnou smrtí, výzkum umělé inteligence má dvě podoby: Umělá inteligence jako inženýrství a umělá inteligence jako kognitivní věda. Vznik LLM a chatbotů ukazuje, že po inženýrské stránce bylo dosaženo významného pokroku, ale v kognitivní oblasti se k rovnocennému průlomu ještě ani zdaleka neblížíme. Přitom právě zde je zapotřebí velkolepého pokroku, mají-li se rozumové stroje stát životaschopnou nabídkou.

Mylná je představa, že v závodech ve zbrojení jsou jasní vítězové. Jak nedávno poznamenal Scott Alexander, vítězství v těchto závodech bývají pomíjivá, ačkoli někdy může technologická výhoda stačit k tomu, aby v konfliktu zvrátila rovnováhu -  jako se to stalo s ajdernými zbraněmi v roce 1946. Ale to byla binární situace, kdy člověk buď atomové zbraně měl, nebo neměl. To nebyl případ jiných technologií - elektřiny, automobilů nebo dokonce počítačů. Nebude tomu tak ani v případě AGI, pokud se k ní někdy dostaneme. A v současné době máme dost problémů s tím, abychom zvládli technologie, které máme, aniž bychom byli posedlí spekulativní a vzdálenou budoucností.

Podrobnosti v angličtině ZDE

1
Vytisknout
7142

Diskuse

Obsah vydání | 13. 4. 2023