Fostul șef al Google a comparat inteligența artificială cu armele nucleare

Fostul CEO al Google, Eric Schmidt, a comparat inteligența artificială (AI) cu armele nucleare și a cerut un regim de descurajare, similar cu distrugerea reciprocă asigurată, care să împiedice cele mai puternice națiuni ale lumii să se distrugă reciproc.

Schmidt a vorbit despre pericolele inteligenței artificiale la Aspen Security Forum pe 22 iulie în timpul unei discuții despre securitatea națională și AI. Întrebat despre valoarea moralității în tehnologie, Schmidt a explicat că el însuși a fost naiv în ceea ce privește puterea informației în primele zile ale Google. Apoi a cerut ca tehnologia să se potrivească mai bine cu etica și morala oamenilor pe care îi servesc și a făcut o comparație ciudată între inteligența artificială și armele nucleare.

„Nu suntem pregătiți pentru negocierile de care avem nevoie”. – @ericschmidt #AspenSecurity pozatwitter.com/As749t6ZyU

— Aspen Security Forum (@AspenSecurity) Iulie 22, 2022

Schmidt a vorbit despre viitorul apropiat, în care China și Statele Unite trebuie să încheie un acord privind inteligența artificială. „În anii ’50 și ’60, am ajuns să creăm o lume în care nu exista o regulă „fără surprize” pentru testele nucleare și, ca urmare, acestea au fost interzise”, a spus Schmidt. „Acesta este un exemplu de echilibru al încrederii sau lipsei de încredere, aceasta este regula „fără surprize”. Sunt foarte îngrijorat de faptul că viziunea SUA despre China ca fiind coruptă sau comunistă sau orice altceva, și viziunea Chinei despre America ca un învins... vor permite oamenilor să spună: „O, Doamne, pun la cale ceva”, și apoi va începe ceva de neînțeles... .

AI și învățarea automată sunt o tehnologie fascinantă și adesea neînțeleasă. Practic, nu este atât de inteligent pe cât cred oamenii. Poate crea lucrări de artă la nivel de capodoperă, poate învinge oamenii de la Starcraft II și poate face apeluri telefonice rudimentare pentru utilizatori. Cu toate acestea, încercările de a-l face să îndeplinească sarcini mai dificile, cum ar fi conducerea unei mașini într-un oraș mare, nu au avut succes.

Schmidt vorbește despre un viitor apropiat imaginar în care atât China, cât și SUA vor fi preocupate de problemele de securitate, ceea ce îi va obliga să încheie un fel de tratat care să conțină AI. Și-a amintit de anii 1950 și 60, când diplomația a dezvoltat o serie de controale în jurul celor mai mortale arme de pe planetă. Dar a fost nevoie de un deceniu de explozii nucleare și, cel mai important, de distrugerea Hiroshima și Nagasaki, pentru ca pacea să vină înainte de încheierea Tratatului de interzicere a testelor nucleare, SALT II și a altor legi de referință.

Două orașe japoneze distruse de America la sfârșitul celui de-al Doilea Război Mondial au luat viața a zeci de mii de oameni și au dovedit lumii oroarea eternă a armelor nucleare. Atunci guvernele Rusiei și Chinei s-au grăbit să achiziționeze arme. Modul în care trăim cu posibilitatea ca aceste arme să fie folosite este ceea ce este cunoscut sub numele de Distrugere reciprocă asigurată (MAD), o teorie a descurajării care asigură că, dacă o țară lansează arme nucleare, este posibil ca orice altă țară să o facă. Nu folosim cea mai distructivă armă de pe planetă din cauza posibilității ca aceasta să distrugă cel puțin civilizația din întreaga lume.

În ciuda comentariilor pline de culoare ale lui Schmidt, nu vrem sau avem nevoie de MAD pentru AI. În primul rând, AI nu și-a dovedit încă puterea distructivă în comparație cu armele nucleare. Dar oamenii de la putere se tem de această nouă tehnologie și, de obicei, din motive greșite. Oamenii au propus chiar să predea controlul asupra armelor nucleare către inteligența artificială, crezând că ar fi un arbitru mai bun al utilizării lor decât un om.

Problema cu inteligența artificială nu este că are puterea potențial distructivă a unei arme nucleare. Ideea este că inteligența artificială este la fel de bună ca și oamenii care au dezvoltat-o ​​și că poartă valorile creatorilor săi. AI suferă de problema clasică „gunoi în, gunoi afară”: algoritmii rasiști ​​creează roboți rasiști, iar toată inteligența artificială poartă părtinirile creatorilor săi.

Demis Hassabis, CEO al DeepMind, compania care a antrenat AI care îi învinge pe jucătorii Starcraft II, pare să înțeleagă asta mai bine decât Schmidt. Într-un interviu din iulie pe podcastul lui Lex Friedman, Friedman l-a întrebat pe Hassabis cum poate fi controlată o tehnologie la fel de puternică precum AI și cum poate Hassabis însuși să evite să fie corupt de această putere.

Răspunsul lui Khasabis este despre el însuși. „Inteligenta artificiala este o idee prea mare”, a spus el. „Este important cine creează AI, din ce culturi provin și care sunt valorile lor. Sistemele AI vor învăța de la sine... dar sistemul va rămâne imprimat cu cultura și valorile autorilor sistemului.”

Inteligența artificială este o reflectare a autorului ei. Nu poate distruge un oraș cu o explozie de 1,2 megatone. Cu excepția cazului în care o persoană îl învață asta.

Poți ajuta Ucraina să lupte împotriva invadatorilor ruși. Cel mai bun mod de a face acest lucru este să donați fonduri Forțelor Armate ale Ucrainei prin intermediul Salveaza viata sau prin pagina oficiala NBU.

Citeste si:

• Aplicatie noua Samsung folosește AI pentru a-ți îmbunătăți fotografiile
• Inteligența artificială ajută la identificarea obiectelor astronomice