Způsobí umělá inteligence katastrofu?

"...spíše bych spoléhal na přirozenou blbost..." praví nedávný kreslený vtip. Mnoha lidem to ale jako vtip nepřipadá. Údaje prezentované společností Atlas VPN ukazují, že více než třetina důvěryhodných odborníků na umělou inteligenci věří, že umělá inteligence způsobí v tomto století katastrofu srovnatelnou např. s jadernou válkou. Tato zjištění jsou součástí zprávy Stanford's Artificial Intelligence Index Report 2023, vydané v dubnu 2023.

Během května a června 2022 provedl tým amerických vědců průzkum v komunitě zpracování přirozeného jazyka (NLP) na řadu témat, včetně stavu umělé obecné inteligence (AGI), NLP a etických oblastí. (Oblast NLP, Natural Language Processing, je odvětví umělé inteligence, které se zabývá vytvářením počítačů se schopností porozumět psanému a mluvenému slovu podobným způsobem jako lidé.) Průzkum dokončilo 480 lidí, z nichž 68 % napsalo v letech 2019 až 2022 alespoň dvě práce pro Asociaci pro počítačovou lingvistiku (ACL). Průzkum nabízí jeden z nejúplnějších pohledů na to, jak sami odborníci na umělou inteligenci vnímají vývoj umělé inteligence. 

Některé výsledky 

Více než třetina (36 %) respondentů souhlasila plně nebo částečně s tvrzením: „Je možné, že rozhodnutí učiněná umělou inteligencí nebo systémy strojového učení by mohla v tomto století způsobit katastrofu, která bude přinejmenším tak špatná jako totální jaderná válka."

Navzdory těmto obavám si pouze 41 % odborníků NLP myslelo, že AI by měla být regulována. 

Jednou z významných oblastí shody mezi dotázanými bylo, že „AI by mohla brzy vést k revoluční společenské změně“, s tímto tvrzením souhlasilo 73 % odborníků na AI. 

Geoffrey Hinton, považovaný za „kmotra umělé inteligence“, řekl před měsícem CBS News, že potenciální dopady rychle postupující technologie jsou srovnatelné s „průmyslovou revolucí, objevem elektřiny, nebo možná vynálezem kola“. Na otázku, jaká je šance, že technologie „vymaže lidstvo“, Hinton varoval, že „to není nepředstavitelné“. 

Moratorium na pokročilé systémy umělé inteligence? 

Sam Altman, generální ředitel Open AI, napsal v únoru ve firemním blogovém příspěvku: "Rizika mohou být mimořádná. Nesprávně nastavené superinteligentní AGI by mohlo světu způsobit vážné škody." 

Elon Musk, generální ředitel Tesly a Twitteru, který také podepsal dopis vyzývající k přestávce ve vývoji AI, prý podle nedávného článku v The Financial Times sám vyvíjí plány na spuštění nového start-upu s umělou inteligencí, který bude konkurovat Open AI. 

Stejný Stanfordský výzkum také zjistil, že 77 % odborníků na AI plně nebo částečně souhlasilo s tím, že soukromé firmy mají příliš velký vliv na AI. 

Chcete-li si přečíst celý článek, přejděte na: https://atlasvpn.com/blog/36-of-researchers-fear-nuclear-level-ai-catastrophe-stanford-study-finds

Stanfordská studie: https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdf

Co hlavního zpráva říká 

Výzkum a vývoj 

Spojené státy a Čína publikovaly v letech 2010 až 2021 největší počet společných prací o AI. Počet spoluprací na výzkumu AI mezi Spojenými státy a Čínou se od roku 2010 zvýšil zhruba 4krát. Celkový počet americko-čínských spoluprací se však od roku 2020 do roku 2021 zvýšil pouze o 2,1 %, což je nejnižší meziroční tempo růstu od roku 2010. Celkový počet publikací o AI se celosvětově od roku 2010 více než zdvojnásobil. Specifická témata AI, která nadále dominují výzkumu, zahrnují rozpoznávání vzorů, strojové učení a počítačové vidění. Čína nadále vede v celkovém počtu AI časopisů, konferencí a publikací. Přesto většinu velkých světových jazykových a multimodálních modelů (54 % v roce 2022) vytvářejí americké instituce. Až do roku 2014 vydávala nejvýznamnější modely strojového učení akademická sféra. Od té doby převzal vládu průmysl. Budování nejmodernějších systémů umělé inteligence vyžaduje velké množství dat, počítačového výkonu a peněz – zdrojů, které ve srovnání s neziskovými organizacemi a akademickou sférou přirozeně vlastní ve větším množství právě průmysloví aktéři. Velké jazykové modely jsou stále větší a dražší. GPT-2, vydaný v roce 2019, mnohými považovaný za první velký jazykový model, měl 1,5 miliardy parametrů a jeho školení stálo odhadem 50 000 USD. PaLM, jedna z vlajkových lodí velkých jazykových modelů uvedených na trh v roce 2022, měl 540 miliard parametrů a stál odhadem 8 milionů USD. Obecně platí, že velké jazykové a multimodální modely jsou stále větší a dražší. 

Technický výkon  

V roce 2022 vešly ve známost modely převodu textu na obrázek, jako je DALL-E 2 a Stable Diffusion, systémy převodu textu na video jako Make-A-Video a chatboti jako ChatGPT. Tyto systémy zatím stále vydávají nekoherentní nebo nepravdivé odpovědi, takže je těžké se na ně spolehnout v kritických aplikacích. Systémy umělé inteligence si tradičně vedly dobře na jednoduchých úkolech, ale ve složitějších měly potíže. Nedávno vydané modely tento trend zpochybňují; BEiT-3, PaLI a Gato, jsou čím dál tím více schopné zpracovávat více úkolů (například vidění, jazyk). Jazykové modely nadále zlepšovaly své generativní schopnosti, ale nový výzkum naznačuje, že se stále potýkají se složitostmi plánování úkolů. Systémy umělé inteligence mohou mít vážné dopady na životní prostředí. Např. zkušební provoz BLOOM emitoval 25krát více uhlíku než jeden cestující letadlem na jednosměrné cestě z New Yorku do San Francisca. Nové výukové modely, jako je BCOOLER, však ukazují, že systémy umělé inteligence lze použít k optimalizaci spotřeby energie. Modely umělé inteligence začínají urychlovat vědecký pokrok a v roce 2022 byly použity např. k podpoře vodíkové fúze či generování nových protilátek. Nvidia použila agenta pro výuku umělé inteligence ke zlepšení návrhu čipů, které pohánějí systémy umělé inteligence. Podobně Google nedávno použil jeden ze svých jazykových modelů, PaLM, aby navrhl způsoby, jak vylepšit úplně stejný model. Lepší učení AI urychlí pokrok v AI. 

Etika

Chatboty jako ChatGPT lze oklamat, aby sloužily nekalým cílům. Podle databáze AIAAIC, která sleduje incidenty související s etickým zneužitím AI, se počet incidentů a kontroverzí AI od roku 2012 zvýšil 26krát. Zájem o etiku umělé inteligence stále raketově stoupá. Počet přijatých příspěvků na FAccT, přední konferenci o etice umělé inteligence, se od roku 2021 více než zdvojnásobil a od roku 2018 se zvýšil desetinásobně. Automatizované ověřování faktů není jednoduché. Přestože bylo vyvinuto několik měřítek pro automatizovanou kontrolu faktů, výzkumníci zjistili, že 11 ze 16 takových souborů dat se spoléhá na důkazy „unikající“ ze zpráv o ověřování faktů, které v době, kdy se tvrzení objevilo, neexistovaly. 

Ekonomika 

Poptávka po odborných dovednostech souvisejících s umělou inteligencí roste prakticky ve všech amerických průmyslových odvětvích. Zaměstnavatelé ve Spojených státech stále více hledají pracovníky s dovednostmi v oboru umělé inteligence. Poprvé za poslední desetiletí ale meziročně klesly soukromé investice do umělé inteligence. V roce 2022 dosáhly globální soukromé investice do umělé inteligence 91,9 miliardy USD. V roce 2022 byl objem soukromých investic do AI 18krát větší než v roce 2013. V investicích do AI, pokud jde o celkový objem soukromých investic, vedou Spojené státy. V roce 2022 bylo 47,4 miliardy dolarů investovaných v USA zhruba 3,5krát více než částka investovaná v další nejvyšší zemi, Číně (13,4 miliardy dolarů). USA také nadále vedou, pokud jde o celkový počet nově financovaných společností s umělou inteligencí -  1,9krát více než Evropská unie a Spojené království dohromady a 3,4krát více než Čína. V roce 2022 byla oblast zaměřená na umělou inteligenci s největšími investicemi lékařství a zdravotní péče (6,1 miliardy USD); následuje správa, zpracování a cloud dat (5,9 miliardy USD); a Fintech (5,5 miliardy dolarů). V souladu s širším trendem v soukromých investicích AI však většina oblastí zaměřených na AI zaznamenala v roce 2022 méně investic než v roce 2021. V minulém roce byly třemi největšími soukromými investičními událostmi v oblasti AI: (1) akce financování ve výši 2,5 miliardy USD pro GAC Aion New Energy Automobile, čínský výrobce elektrických vozidel; (2) kolo financování série E ve výši 1,5 miliardy USD pro Anduril Industries, americkou společnost vyrábějící obranné produkty, která vyrábí technologie pro vojenské agentury a ostrahu hranic; a (3) investici ve výši 1,2 miliardy USD do Celonis, konzultační společnosti pro obchodní data se sídlem v Německu. Zatímco podíl společností, které zavedly AI, stagnoval, společnosti, které přijaly AI, pokračují v postupu. Podíl společností, které zavedly AI v roce 2022, se od roku 2017 více než zdvojnásobil. Organizace, které přijaly umělou inteligenci, hlásí, že zaznamenaly významné snížení nákladů a zvýšení příjmů. 

Umělou inteligenci nasazují podniky mnoha způsoby. Patří sem automatizace robotických procesů (39 %), počítačové vidění (34 %), porozumění textu (33 %) a virtuální agenti (33 %). Navíc nejčastějším případem použití AI v roce 2022 byla optimalizace provozu služeb (24 %), následovaná vytvořením nových produktů založených na AI (20 %), segmentací zákazníků (19 %), analýzou zákaznických služeb (19 %), a nová vylepšení produktů založená na umělé inteligenci (19 %). Nástroje umělé inteligence, jako je Copilot, hmatatelně pomáhají pracovníkům. Výsledky průzkumu GitHub o používání Copilot, systému umělé inteligence pro převod textu do kódu, zjistily, že 88 % dotazovaných respondentů se cítí při používání systému produktivnější, 74 % má pocit, že se mohou soustředit na uspokojivější práci a 88 % cítí, že jsou schopni dokončit úkoly rychleji. Čína dominuje instalacím průmyslových robotů. V roce 2013 Čína předběhla Japonsko a od té doby se propast mezi celkovým počtem průmyslových robotů instalovaných Čínou a dalším nejbližším státem zvětšila. V roce 2021 Čína nainstalovala více průmyslových robotů než zbytek světa dohromady. 

Vzdělávání  

Podíl nových absolventů doktorandského studia počítačových věd z amerických univerzit, kteří se specializovali na AI, vyskočil v roce 2021 na 19,1 % ze 14,9 % v roce 2020 a 10,2 % v roce 2010. Noví doktorandi AI míří stále více do průmyslu. V roce 2021 zaměstnával průmysl 65,4 % doktorandů AI, což je více než dvojnásobek oproti těm, kteří pracovali na akademické půdě (28,2 %). Zájem o vzdělávání v AI a počítačových vědách roste jak ve Spojených státech, tak ve zbytku světa. Od roku 2021 celkem 11 zemí, včetně Belgie, Číny a Jižní Koreje, oficiálně schválilo a implementovalo kurikulum umělé inteligence K–12. 

Politika a správa 

Zájem tvůrců politik o umělou inteligenci je na vzestupu. Analýza indexu AI legislativních záznamů 127 zemí ukazuje, že počet zákonů obsahujících „umělou inteligenci“ vzrostl z pouhého jednoho v roce 2016 na 37 v roce 2022. Analýza parlamentních záznamů o umělé inteligenci v 81 zemích rovněž ukazuje, že zmínky o AI v globálních legislativních řízeních se od roku 2016 zvýšily téměř 6,5krát. Od promluvy po uzákonění – USA schválily více zákonů o AI než kdy předtím. V roce 2021 se pouze 2 % všech federálních zákonů ve Spojených státech zmiňovalo o AI. Toto číslo vyskočilo na 10 % v roce 2022. Loni ze všech zákonů o AI bylo schváleno 35 % na státní úrovni. Do AI se pouští i právní svět. V roce 2022 bylo u státních a federálních soudů Spojených států amerických 110 právních případů souvisejících s umělou inteligencí, což je zhruba sedmkrát více než v roce 2016. Většina těchto případů měla původ v Kalifornii, New Yorku a Illinois a týkala se otázek občanskoprávních, intelektuálních majetkových a smluvního práva. 

Veřejné mínění  

Čínští občané patří k těm, kteří se na produkty a služby AI dívají nejpozitivněji. Američané už tak moc ne. V průzkumu IPSOS z roku 2022 souhlasilo 78 % čínských respondentů (nejvyšší podíl ze zkoumaných zemí) s tvrzením, že produkty a služby využívající AI mají více výhod než nevýhod. Po čínských respondentech se k AI stavěli nejpozitivněji v Saúdské Arábie (76 %) a Indii (71 %). Pouze 35 % Američanů (ze zkoumaných zemí to patří k nejnižšímu podílu) souhlasilo s tím, že produkty a služby využívající AI mají více výhod než nevýhod. Muži mají tendenci vnímat produkty a služby umělé inteligence pozitivněji než ženy. Muži také častěji než ženy věří, že umělá inteligence většinou pomůže, než uškodí. Podle průzkumu IPSOS z roku 2022 muži častěji než ženy uvádějí, že produkty a služby AI jim usnadňují život, důvěřují společnostem, které používají AI, a mají pocit, že produkty a služby AI mají více výhod než nevýhod. Průzkum Gallup a Lloyd’s Register Foundation z roku 2021 rovněž odhalil, že muži častěji než ženy budou souhlasit s tvrzením, že umělá inteligence v příštích 20 letech jejich zemi více pomůže, než uškodí. Lidé na celém světě zůstávají skeptičtí např. k samoříditelným autům. V celosvětovém průzkumu pouze 27 % respondentů uvedlo, že by se v samoříditelném autě cítili bezpečně. Podobně Pew Research naznačuje, že pouze 26 % Američanů má pocit, že osobní vozidla bez řidiče jsou pro společnost dobrým nápadem. Nejvíce nadšení pro AI vzbuzuje potenciál zlepšit život a společnost (31 %) a ušetřit čas a zefektivnit věci (13 %). Respondenti, kteří uvádějí, že se cítí více znepokojeni, se obávají ztráty lidských pracovních míst (19 %); sledování, hackování a ohrožení digitálního soukromí (16 %); a také úbytku "lidské" komunikace (12 %).

Zdroj:  https://atlasvpn.com/blog/36-of-researchers-fear-nuclear-level-ai-catastrophe-stanford-study-finds