Podle prezidenta Microsoftu jsou největším problémem umělé inteligence tzv. deep fakes
26. 5. 2023
Brad Smith, prezident společnosti Microsoft, prohlásil, že jeho největší obavou v souvislosti s umělou inteligencí jsou deepfakes, realisticky vypadající, ale falešný obsah.
"Budeme se muset zabývat problémy kolem deepfakes. Budeme se muset zabývat zejména tím, čeho se obáváme nejvíce, tedy zahraničními kybernetickými vlivovými operacemi, tedy druhy aktivit, které již probíhají ze strany ruské vlády, Číňanů a Íránců," řekl.
"Musíme přijmout opatření na ochranu před pozměňováním legitimního obsahu s úmyslem oklamat nebo podvést lidi pomocí umělé inteligence."
Smith rovněž vyzval k udělování licencí pro nejkritičtější formy AI s "povinnostmi chránit bezpečnost, fyzickou bezpečnost, kybernetickou bezpečnost, národní bezpečnost".
"Budeme potřebovat novou generaci kontrol vývozu, přinejmenším evoluci kontrol vývozu, které máme, abychom zajistili, že tyto modely nebudou ukradeny nebo použity způsobem, který by porušoval požadavky na kontrolu vývozu země," řekl.
Zákonodárci ve Washingtonu se již několik týdnů potýkají s tím, jaké zákony přijmout pro kontrolu umělé inteligence, i když se velké i malé společnosti předhánějí v uvádění stále všestrannější umělé inteligence na trh.
Minulý týden Sam Altman, generální ředitel společnosti OpenAI, která stojí za startupem ChatGPT, při svém prvním vystoupení před senátním panelem v Kongresu uvedl, že využívání AI zasahující do integrity voleb je "významnou oblastí, která vzbuzuje obavy", a dodal, že potřebuje regulaci.
Altman, jehož OpenAI podporuje společnost Microsoft, rovněž vyzval ke globální spolupráci v oblasti AI a k pobídkám pro dodržování bezpečnosti.
Smith ve svém projevu a ve čtvrtek vydaném blogpostu rovněž tvrdil, že je třeba, aby lidé nesli odpovědnost za případné problémy způsobené AI, a vyzval zákonodárce, aby zajistili, že na AI používanou k řízení elektrické sítě, zásobování vodou a další kritické infrastruktury budou nasazeny bezpečnostní brzdy, aby lidé zůstali pod kontrolou.
Vyzval k používání systému ve stylu "Poznej svého zákazníka" pro vývojáře výkonných modelů AI, aby měli přehled o tom, jak je jejich technologie využívána, a aby informovali veřejnost o tom, jaký obsah AI vytváří, aby mohla identifikovat zfalšovaná videa.
Diskuse