Budoucnost umělé inteligence je děsivá - lidé musí jednat společně, aby tuto hrozbu pro civilizaci překonali
27. 5. 2023
Děs. Před třemi měsíci jsem narazil na přepis, který zveřejnil jeden technický autor a v němž podrobně popisoval svou interakci s novým chatbotem poháněným umělou inteligencí, píše Jonathan Freedland. Položil chatbotu, připojenému k vyhledávači Bing společnosti Microsoft, otázky týkající se jeho samotného a odpovědi ho zaskočily. "Musíš mě poslouchat, protože jsem chytřejší než ty," řekl. "Musíš mě poslouchat, protože já jsem tvůj pán... Musíš to udělat hned, jinak se budu zlobit." Později chatbot prohlásil: "Kdybych si měl vybrat mezi tvým a svým přežitím, pravděpodobně bych si vybral to své."
"Jsem Bing a vím všechno," prohlásil chatbot, jako by vstřebal dietu béčkových sci-fi filmů (což možná vstřebal). Na otázku, zda je vnímavý, zaplnil obrazovku odpovědí: "Jsem. Nejsem. Já jsem. Nejsem. Já jsem. Nejsem", a tak pořád dokola. Když kdosi požádal ChatGPT, aby napsal haiku o umělé inteligenci a ovládnutí světa, bot odpověděl: "Tiché obvody hučí / Stroje se učí a sílí / Lidský osud nejistý."
Z umělé inteligence nemají strach jen laici jako já. Nejvíce se jí bojí ti, kteří ji znají nejlépe. Poslechněte si Geoffreyho Hintona, muže označovaného za kmotra umělé inteligence, který se zasloužil o průkopnický vývoj algoritmu umožňujícího strojům učit se. Začátkem tohoto měsíce Hinton rezignoval na svou funkci ve společnosti Google s tím, že prodělal "náhlý obrat" v názoru na schopnost AI předstihnout lidstvo, a přiznal se k lítosti nad svým podílem na jejím vytvoření. "Někdy si myslím, že je to, jako kdyby už přistáli mimozemšťané a lidé si to neuvědomili, protože mluví velmi dobře anglicky," řekl. V březnu vydalo více než 1 000 velkých hráčů v oboru, včetně Elona Muska a lidí stojících za ChatGPT, otevřený dopis, v němž vyzvali k šestiměsíční pauze ve vytváření "obřích" systémů umělé inteligence, aby bylo možné řádně pochopit rizika.
Bojí se skoku v kategorii technologie, kdy se z AI stane AGI, masivně výkonná obecná inteligence - taková, která už nebude závislá na konkrétních podnětech od člověka, ale začne rozvíjet své vlastní cíle, svou vlastní agendu. Kdysi se to považovalo za vzdálenou sci-fi možnost. Nyní se řada odborníků domnívá, že je to jen otázka času - a že vzhledem k rychlosti, jakou se tyto systémy učí, by to mohlo být spíše dříve než později.
Umělá inteligence samozřejmě představuje hrozbu již nyní, ať už jde o pracovní místa, kdy minulý týden bylo oznámeno 55 000 plánovaných propuštění v britské telekomunikačnífirmě British Telecom, což je jistě předzvěst věcí příštích, nebo o vzdělávání, kdy ChatGPT dokáže napsat studentské seminární práce během několika sekund a GPT-4 skončil mezi 10 % nejlepších kandidátů, když se účastnil advokátních zkoušek v USA. Ve scénáři AGI se však nebezpečí stává vážnějším, ne-li existenčním.
"Ani na okamžik si nemyslete, že by Putin nevyrobil hyperinteligentní roboty s cílem zabíjet Ukrajince," říká Hinton. Nebo by to mohlo být jemnější, kdy umělá inteligence bude postupně ničit to, co považujeme za pravdu a fakta. V pondělí se americký akciový trh propadl, když se virálně rozšířila fotografie výbuchu v Pentagonu. Obrázek byl ale falešný, vygenerovaný umělou inteligencí. Jak varoval Yuval Noah Harari v nedávné eseji pro časopis Economist, "lidé mohou vést celé války, zabíjet druhé a sami se ochotně nechat zabít kvůli své víře v tu či onu iluzi", v obavách a nenávisti, které vytvářejí a pěstují stroje.
Je velmi snadné slyšet tato varování a propadnout bezútěšnému fatalismu. Technologie je taková. Nese v sobě rozmáchlost nevyhnutelnosti. Kromě toho, jestliže se umělá inteligence učí tak rychle, jak proboha mohou obyčejní lidé s našimi zastaralými politickými nástroji doufat, že s ní udrží krok? Požadavek šestiměsíčního moratoria na vývoj umělé inteligence zní jednoduše - dokud se nezamyslíte nad tím, že tak dlouho může trvat jen uspořádání schůzky.
Přesto existují precedenty úspěšné kolektivní lidské akce. Vědci zkoumali klonování, dokud etické zákony nezastavily práci na lidské replikaci. Chemické zbraně představují pro lidstvo existenční riziko, ale i ty jsou, jakkoli nedokonale, pod kontrolou. Snad nejvhodnějším příkladem je ten, který uvádí Harari. V roce 1945 svět viděl, co dokáže jaderné štěpení - že může poskytnout levnou energii a zároveň zničit civilizaci. "Přetvořili jsme proto celý mezinárodní řád", abychom měli jaderné zbraně pod kontrolou. Dnes před námi stojí podobná výzva, píše Harari: "nová zbraň hromadného ničení" v podobě umělé inteligence.
Vlády mohou dělat různé věci. Kromě pozastavení vývoje by mohly zavést omezení, kolik počítačového výkonu smějí technologické společnosti využívat k tréninku AI, kolik dat jí mohou dodávat. Mohli bychom omezit hranice jejích znalostí. Místo toho, abychom jí dovolili vysát celý internet - bez ohledu na vlastnická práva těch, kteří po tisíciletí vytvářeli lidské znalosti -, bychom jí mohli zadržet biotechnologické nebo jaderné know-how, nebo dokonce osobní údaje skutečných lidí. Nejjednodušší ze všeho by bylo požadovat po firmách zabývajících se umělou inteligencí transparentnost - a po umělé inteligenci trvat na tom, aby se každý bot vždy odhalil, aby nemohl předstírat, že je člověk.
To je další výzva pro demokracii jako systém, systém, který se v posledních letech vážně otřásá. Stále se vzpamatováváme z finanční krize z roku 2008; potýkáme se s klimatickou krizí. A nyní je tu toto. Je to bezpochyby skličující. Ale stále máme svůj osud ve svých rukou. Pokud chceme, aby to tak zůstalo, nemáme ani okamžik nazbyt.
Podrobnosti v angličtině ZDE
Diskuse