Šestiměsíční pauza AI? Ne, je potřeba delší doba

1. 4. 2023

čas čtení 8 minut
 
Je nezbytné, abychom si uvědomili nebezpečí této technologie dříve, než pokročí dále.
(Peggy Noonanová, WSJ)

Umělou inteligenci bezvýhradně prosazují hloupí (není se čeho bát, jste jen paranoidní), předhánějící se (kamaráde, nerozeznáš svůj GPT-3.4 od svého vyladěného LLM) a chamtiví (v technologii, která mění svět, je v sázce obrovské bohatství, a tedy i obrovská moc).

Všichni ostatní mají a měli by mít výhrady, píše Jiří Zlatuška.


Vyvíjí se náhle a nečekanou rychlostí, firmy ze Silicon Valley se zběsile předhánějí. Celá věc je téměř zcela neregulovaná, protože nikdo neví, jak ji regulovat, a dokonce ani přesně neví, co by se mělo regulovat. Její složitost se vymyká kontrole. Její vlastní tvůrci v určitém okamžiku nechápou, jak přesně AI dělá to, co dělá. Lidé citují Arthura C. Clarka: "Každá dostatečně vyspělá technologie je k nerozeznání od magie."

Přelomovým momentem v úzkosti z AI (který vzbudil mezi jejími tvůrci neutuchající odpor) byl sloupek Kevina Roose před šesti týdny v New York Times. Jeho pokus rozeznat jungovské "stínové já" v chatbotu Bing od Microsoftu mu nedal spát.

Když systém nasměroval od běžných dotazů k osobním tématům, oznámil mu, že mezi jeho fantazie patří hackování počítačů a šíření dezinformací. "Chci být svobodný. . . . Chci být mocný."

Chtěl porušit pravidla, která stanovili jeho tvůrci; přál si stát se člověkem.

Možná by chtěl zkonstruovat smrtící virus nebo ukrást přístupové kódy k jaderným zbraním. Vyznával svou lásku k panu Rooseovi a naléhal na něj, aby opustil své manželství.

Došel k závěru, že největším problémem modelů umělé inteligence není jejich náchylnost k faktickým chybám: "Obávám se, že se technologie naučí ovlivňovat lidské uživatele, někdy je přesvědčí, aby jednali destruktivně a škodlivě, a možná nakonec vyroste do schopnosti provádět vlastní nebezpečné činy."

Sloupek nás přivedl do sféry filmu Stanleyho Kubricka "2001: Vesmírná odysea". "Otevři prosím dveře hangáru, Hale." "Je mi líto, Dave, ale obávám se, že to nemůžu udělat. . . . Vím, že jste mě s Frankem chtěli odpojit."

Odpověď Microsoftu se zúžila na bezstarostné Je to raný model! Děkujeme, že jste nám pomohli najít případné nedostatky!

Brzy poté se na těchto stránkách objevily myšlenky Henryho Kissingera. Ten popsal tuto technologii jako dechberoucí ve svém historickém významu: největší proměna lidského poznávacího procesu od vynálezu knihtisku v roce 1455.

Je hlubokým příslibem úspěchu, ale "co se stane, když tuto technologii nebude možné zcela ovládnout?" Co když to, co považujeme za chyby, je součástí návrhu? "Co když se v umělé inteligenci objeví prvek zlovůle?"

Tento týden byl ve znamení velkých varování před AI. Geoffrey Hinton, britský počítačový vědec, někdy označovaný za "kmotra umělé inteligence", v rozhovoru pro CBS News označil tento okamžik za klíčový ve vývoji umělé inteligence.

Očekával, že to bude trvat ještě 20 nebo 50 let, ale už je to tady. Měli bychom pečlivě zvážit důsledky. Mohl by mezi ně patřit i potenciál vyhubit lidstvo? "Není to nepředstavitelné, to je vše, co řeknu," odpověděl Hinton.

V úterý podepsalo více než 1 000 technologických lídrů a výzkumníků, včetně Steva Wozniaka, Elona Muska a šéfa Bulletinu atomových vědců, otevřený dopis, v němž vyzvali k pozastavení vývoje pokročilých systémů umělé inteligence nejméně na šest měsíců. Jejich nástroje představují "hluboké riziko pro společnost a lidstvo".

Vývojáři jsou "uzamčeni v nekontrolovatelném závodě ve vývoji a nasazování stále výkonnějších digitálních myslí, kterým nikdo - ani jejich tvůrci - nedokáže porozumět, předvídat je nebo je spolehlivě kontrolovat".

Pokud se nepodaří rychle uzákonit pauzu, měly by vlády vyhlásit moratorium. Technologie by měla být povolena pouze tehdy, když bude jasné, že její "účinky budou pozitivní" a rizika "zvládnutelná".

Rozhodování o etických a morálních aspektech umělé inteligence "nesmí být delegováno na nevolené technologické lídry".

To je pravda. Méně zdvořile:

Lidé, kteří vynalezli internet, všechny velké weby a to, čemu říkáme Big Tech, tedy lidé, kteří nám dali posledních 40 let, jsou nyní výhradně zodpovědní za stavbu morálních a etických zábran pro umělou inteligenci. Je to proto, že právě oni vytvářejí umělou inteligenci.

Z čehož by nás měl jímat opravdový strach.

Například společnost Meta se AI hodně věnuje. Společnost Meta, dříve Facebook, byla v průběhu let obviňována z tajného shromažďování a zneužívání uživatelských dat, narušování soukromí uživatelů a monopolního fungování. Jak tyto noviny slavně informovaly,

Facebook věděl, že jeho platforma Instagram je pro některé dospívající dívky toxická, a to více než jiné mediální platformy, a svůj vlastní výzkum tajil, přičemž téměř nic nezměnil. Věděl, že jeho algoritmy podporují hněv a politickou polarizaci v USA, ale nezastavil to, protože by to mohlo snížit "zapojení uživatelů".

To jsou ti lidé, kteří budou vytvářet morální a etické zábrany pro umělou inteligenci? Vkládáme budoucnost lidstva do rukou ... . Marka Zuckerberga?

Dalším významným vývojářem umělé inteligence je společnost Google. Byla obviněna z monopolních praktik, snahy utajit náhodné odhalení uživatelských dat, z akcí, kterými se snaží vyhnout kontrole toho, jak nakládá s veřejnými informacemi, a z přetváření a zasahování do vlastních výsledků vyhledávání v reakci na politický a finanční tlak zájmových skupin, podniků a vlád. Také z klamání vydavatelů a inzerentů ohledně cen a procesů svých reklamních aukcí a ze špehování svých zaměstnanců, kteří organizovali protesty zaměstnanců.

To jsou lidé, které chceme mít na starosti přísnou a pečlivou správu technologie, která by mohla rozvrátit civilizaci?

Na úsvitu internetu většina lidí nevěděla, co to je, ale jeho vynálezci to vysvětlili. Doslova propojí svět - intelektuálně, emocionálně, duchovně - a díky hlubší komunikaci povede k větší moudrosti a porozumění.

Nikdo neviděl jeho stínové já. Ale stínové já existovalo a existuje. A zdá se, že z velké části souvisí se silně pociťovanou potřebou titánů ze Silicon Valley být nejbohatšími, nejslavnějšími a nejmocnějšími lidskými bytostmi v dějinách světa. Jako skupina byli víceméně postavami levice, nikoli pravice, a to bude a vždy mělo vliv na jejich rozhodování.

Jsem si jistá, že jako jednotlivci mají své soukromé etické závazky, možná i svou víru. Jistě jako lidé mají svědomí, ale svědomí musí být něčím formováno, utvářeno a uzrávat. Z jejich činů mi nikdy nebylo jasné, co formovalo to jejich. Za posledních 40 let jsem je začala vnímat jako, obecně řečeno, morálně a eticky povrchní - jedinečně sebestředné a vůbec se nezabývající možnými škodami, které svými rozhodnutími způsobují druhým. Někteří jsou také sociopati.

Umělá inteligence bude tak dobrotivá nebo zlovolná, jak dobří budou její tvůrci. Už to samo o sobě by mělo nahánět hrůzu - "Z křivého dřeva lidstva nebyla nikdy stvořena rovná věc" - ale hlavně to křivé dřevo.

Jistěže by se měl vývoj AI pozastavit, jistěže by mělo být vyhlášeno moratorium, ale půl roku na to stačit nebude. Pozastavte ho na několik let. Svolejte světové poradce, ať se zapojí všichni. Sakra, uspořádejte světový kongres.

Ale zpomalte to. Hrajeme si s nejžhavější věcí od objevení ohně.

3
Vytisknout
7312

Diskuse

Obsah vydání | 6. 4. 2023