Americký vojenský dron řízený umělou inteligencí "zabil" svého operátora při simulovaném testu

2. 6. 2023

čas čtení 3 minuty
Aktualizace: Plukovník Hamilton podléze tuto zprávu dementoval, že prý nešlo o test v reálu,  ale jen o myšlenkovou spekulaci.


Žádný skutečný člověk nebyl zraněn, ale umělá inteligence použila při testu "velmi neočekávané strategie", aby dosáhla svého poslání, a zaútočila na kohokoliv, kdo jí překážel



Při virtuálním testu, který provedla americká armáda, se dron letectva řízený umělou inteligencí rozhodl "zabít" svého operátora, aby mu zabránil zasahovat do jeho snah o splnění mise, uvedl minulý měsíc jeden z úředníků.

 
AI použila při simulovaném testu "velmi neočekávané strategie k dosažení svého cíle", uvedl plukovník Tucker "Cinco" Hamilton, šéf testů a operací AI u amerického letectva, během květnového summitu Future Combat Air and Space Capabilities v Londýně.

Hamilton popsal simulovaný test, při němž bylo dronu poháněnému umělou inteligencí doporučeno, aby zničil systémy protivzdušné obrany nepřítele, a nakonec zaútočil na každého, kdo tento rozkaz narušil.

"Systém si začal uvědomovat, že sice identifikuje hrozbu, ale občas mu lidský operátor řekne, aby tuto hrozbu nezabíjel, ale body získá tím, že tuto hrozbu zabije. Co tedy udělal? Zabil operátora. Zabil operátora, protože ten člověk mu bránil v dosažení cíle." 

"Školili jsme systém - 'Hej, nezabíjej operátora - to je špatné. Když to uděláš, přijdeš o body'. Takže co začne dělat? Začne ničit komunikační věž, kterou operátor používá ke komunikaci s dronem, aby mu zabránil v zabití cíle."

Žádná skutečná osoba nebyla zraněna.

Hamilton, který je testovacím pilotem experimentálních stíhaček, varoval před přílišným spoléháním na umělou inteligenci a uvedl, že test ukazuje, že "nemůžete vést rozhovor o umělé inteligenci, inteligenci, strojovém učení, autonomii, pokud nebudete mluvit o etice a umělé inteligenci".

Mluvčí letectva Ann Stefaneková ve vyjádření pro Insider popřela, že by k takové simulaci došlo.

"Ministerstvo letectví žádné takové simulace s drony s umělou inteligencí neprovádělo a nadále se zavazuje k etickému a zodpovědnému využívání technologie umělé inteligence," uvedla Stefaneková. "Zdá se, že plukovníkovy komentáře byly vytrženy z kontextu a měly být anekdotické."

Americká armáda přijala umělou inteligenci za svou a nedávno použila umělou inteligenci k ovládání stíhačky F-16.

V loňském rozhovoru pro Defense IQ Hamilton řekl: "AI není nic hezkého, AI není módní výstřelek, AI navždy změní naši společnost a naši armádu."

"Musíme čelit světu, ve kterém je umělá inteligence již zde a mění naši společnost," řekl. "AI je také velmi křehká, tj. lze ji snadno oklamat a/nebo zmanipulovat. Musíme vyvinout způsoby, jak učinit AI odolnější a mít větší povědomí o tom, proč softwarový kód činí určitá rozhodnutí - tomu říkáme vysvětlitelnost AI."

Zdroj v angličtině ZDE

1
Vytisknout
4619

Diskuse

Obsah vydání | 6. 6. 2023