Ideea ca inteligența artificială să răstoarne omenirea a fost dezbătută de zeci de ani, iar în ianuarie 2021, oamenii de știință și-au dat verdictul dacă am putea controla o superinteligență computerizată de nivel înalt. Răspuns? Aproape sigur că nu.
Problema este că controlul unei supraminte cu mult dincolo de înțelegerea umană ar necesita o simulare a acelei supramente pe care am putea-o analiza. Dar dacă nu suntem capabili să-l înțelegem, este imposibil să creăm o astfel de simulare.
Reguli precum „nu face rău oamenilor” nu pot fi stabilite decât dacă înțelegem ce scenarii va veni cu inteligența artificială (AI), cred autorii unei lucrări din 2021. De îndată ce sistemul informatic funcționează la un nivel care depășește capacitățile programatorilor noștri, nu vom mai putea stabili limite.
„Superinteligența este o problemă fundamental diferită de cele studiate de obicei sub stindardul „eticii robotului””, scriu cercetătorii. „Acest lucru se datorează faptului că supramintea este cu mai multe fațete și, prin urmare, este capabilă să mobilizeze o varietate de resurse pentru a atinge obiective care sunt potențial insondabile pentru oameni, cu atât mai puțin controlabile.”
O parte din raționamentul echipei vine din probleme de oprire, propus de Alan Turing în 1936. Provocarea este să ne dăm seama dacă programul de calculator va ajunge la o concluzie și va răspunde (și se va opri) sau pur și simplu va sta mereu încercând să găsească răspunsul.
După cum a demonstrat Turing cu ajutorul matematică inteligentă, deși este posibil să știm acest lucru pentru anumite programe specifice, este logic imposibil să găsim o modalitate care să ne permită să știm acest lucru pentru fiecare program potențial care ar putea fi scris vreodată. Acest lucru ne readuce la AI, care într-o stare superinteligentă ar putea stoca în memoria sa toate programele de calculator posibile în același timp.
Interesant de asemenea:
- OpenAI a învățat inteligența artificială să convertească comenzile în cod de program
- Inteligența artificială va căuta unde gravitaționale
Orice program scris, de exemplu, pentru a opri o IA să dăuneze oamenilor și să distrugă lumea poate ajunge sau nu la o concluzie (și să se oprească) - este matematic imposibil să fii absolut sigur în orice caz, ceea ce înseamnă că nu poate fi reținut. „Practic face algoritmul de descurajare inutilizabil”, a declarat în ianuarie informaticul Iyad Rahwan de la Institutul Max Planck pentru Dezvoltare Umană din Germania.
O alternativă la predarea eticii AI și a interdicțiilor împotriva distrugerii lumii, de care niciun algoritm nu poate fi absolut sigur, spun cercetătorii, este limitarea capacităților supraminții. De exemplu, poate fi deconectat de la o parte a Internetului sau a anumitor rețele.
Autorii unui studiu recent resping și această idee, crezând că va limita sfera inteligenței artificiale - spun ei, dacă nu o vom folosi pentru a rezolva probleme dincolo de capacitățile umane, atunci de ce să o creăm deloc?
Dacă avem de gând să promovăm inteligența artificială, s-ar putea să nu știm nici măcar când va apărea o superinteligență, dincolo de controlul nostru, atât de insondabil este. Aceasta înseamnă că trebuie să începem să punem întrebări serioase despre unde ne îndreptăm.
„O mașină superinteligentă care rulează lumea sună a ficțiune științifico-fantastică”, spune informaticianul Manuel Kebrian de la Institutul Max Planck pentru Dezvoltare Umană. Dar există deja mașini care îndeplinesc în mod independent unele sarcini importante, în timp ce programatorii nu înțeleg pe deplin cum au învățat acest lucru.
Prin urmare, se pune întrebarea dacă poate deveni la un moment dat incontrolabil și periculos pentru umanitate...
Citeste si:
- Inteligența artificială a reușit să reproducă un tablou pictat de Picasso
- Inteligența artificială va ajuta la prezicerea accidentelor rutiere înainte ca acestea să apară