Fostul secretar de stat american Henry Kissinger consideră că inteligența artificială este periculoasă și trebuie oprită

La vârsta de 98 de ani, fostul secretar de stat Henry Kissinger are un domeniu de interes: inteligența artificială (AI). A fost intrigat după ce a fost convins de Eric Schmidt, care era atunci președintele executiv al Google, să participe la o prelegere pe această temă, în timp ce se afla la conferința Bilderberg din 2016. Cei doi au făcut echipă cu decanul de la MIT Schwarzman College of Computing, Daniel Huttenlocher, pentru a scrie o nouă carte, Epoca inteligenței artificiale, despre implicațiile creșterii și implementării rapide a inteligenței artificiale. Cartea susține că procesele de inteligență artificială au devenit atât de puternice, atât de integrate în treburile umane și atât de imprevizibile, încât fără o oarecare strategie și management, tipul de „transformări” pe care le vor realiza ar putea trimite istoria umană într-o direcție periculoasă.

Dr. Kissinger, sunteți un om de stat în vârstă. De ce tema legată de AI este un subiect suficient de important pentru dumneavostră?

Kissinger: Când eram student, mi-am scris teza de licență de 300 de pagini – care a fost interzisă după aceea – numită „Sensul istoriei”. Subiectul sensului istoriei și unde mergem mi-a ocupat toată viața. Miracolul tehnologic nu mă fascinează atât de mult; ceea ce mă fascinează este că ne îndreptăm spre o nouă perioadă a conștiinței umane, pe care încă nu o înțelegem pe deplin.

Când spunem o nouă perioadă a conștiinței umane, ne referim la faptul că percepția lumii va fi diferită, cel puțin la fel de diferită ca între epoca iluminismului și perioada medievală, când lumea occidentală a trecut de la o percepție religioasă a lumii la o percepție rațională. Acum, acest lucru va fi mai rapid.

Există o diferență importantă. În Iluminism a existat o lume conceptuală bazată pe credință. Galilei și pionierii întârziați ai Iluminismului au avut o filozofie predominantă față de care a trebuit să-și testeze gândirea. Puteți urmări evoluția acestei gândiri. Trăim într-o lume care, de fapt, nu are filozofie; nu există o viziune filozofică dominantă. Așa că tehnologiile pot dezvolta lucruri care schimbă lumea, dar nu este nimeni acolo care să spună: „Trebuie să integrăm asta în ceva”.

Când l-ați întâlnit pe Eric Schmidt și v-a invitat să vorbiți la Google, ați spus că îl considerați o amenințare pentru civilizație. De ce ați simțit asta?

Kissinger: Nu am vrut ca o organizație să aibă monopolul furnizării de informații. Am crezut că este extrem de periculos pentru o companie să poată furniza informații și să poată ajusta ceea ce furnizează potrivit studiilor sale despre ce dorește publicul sau consideră plauzibil.

Așa că adevărul a devenit relativ. Asta era tot ce știam la acea vreme. Și motivul pentru care m-a invitat să mă întâlnesc cu grupul său algoritmic a fost pentru a mă face să înțeleg că acest lucru nu a fost arbitrar, dar alegerea a ceea ce a fost prezentat a avut în spate ceva gândire și analiză. Nu mi-a înlăturat teama ca o organizație privată să aibă această putere. Dar așa am intrat în asta.

Schmidt: Vizita la Google l-a pus pe gânduri. Și când am început să vorbim despre asta, dr. Kissinger a spus că este foarte îngrijorat de impactul pe care această colecție tehnologică îl va avea asupra oamenilor și asupra existenței lor și că tehnologii operează fără beneficiul de a înțelege impactul sau istoria lor. Și asta, cred, este absolut corect.

Având în vedere că mulți oameni simt așa cum ați simțit dumneavoastră în legătură cu companiile de tehnologie – că nu trebuie să aveți încredere în ei, că multe dintre manipulările pe care le-au folosit pentru a-și îmbunătăți afacerea nu au fost neapărat bune pentru societate – ce rol joacă liderii tehnologici în acest nou sistem?

Kissinger: Companiile de tehnologie au deschis calea către o nouă perioadă a conștiinței umane, așa cum au făcut-o generațiile iluministe când au trecut de la religie la rațiune, iar tehnologii ne arată cum să corelăm rațiunea cu inteligența artificială. Este un alt tip de cunoaștere în unele privințe. Cu inteligența artificială, lucrul uluitor este că ai o concluzie corectă. Dar nu știi de ce. Este o provocare cu totul nouă. În anumite privințe, ceea ce au inventat este periculos. Dar ne ajută să avansăm. Ne-ar fi mai bine dacă nu ar fi fost niciodată inventată? Asta nu stiu. Dar acum, că există, trebuie să o înțelegem. Și nu poate fi eliminată. Prea mare parte din viața noastră este deja legată de ea.

Care credeți că este implicația geopolitică principală a creșterii inteligenței artificiale?

Kissinger: Nu cred că am examinat acest lucru cu atenție încă. Dacă vă imaginați un război între China și Statele Unite, vom avea arme cu inteligență artificială. Ca orice inteligență artificială, cea militară poate considera că obiectivul va fi atins prin alte metode. Așadar, dacă spui: „Vreau să lovasc ținta A”, AI-ul ar putea decide că alte variabile începlinesc criterile mai bine.

Deci te afli într-o lume a ușoarelor incertitudini. În al doilea rând, din moment ce nimeni nu a testat tehnologia într-o operațiune pe scară largă, nu puteți spune exact ce se va întâmpla atunci când avioanele de luptă AI ale celor două părți interacționează. Ne aflăm într-o lume cu potențial de distructivitate totală și incertitudine substanțială cu privire la ceea ce facem.

Primul Război Mondial a fost cam de aceeași manieră, în sensul că toată lumea plănuise scenarii foarte complicate de mobilizare și erau atât de bine pregătiți pentru perioada respectivă încât, odată ce totul a început, nu s-au mai putut opri, pentru că s-ar fi aflat într-un dezavantaj major.

Deci îngrijorarea dumneavoastră este că AI-urile sunt prea eficiente? Și nu știm exact de ce fac ceea ce fac?

Kissinger: Am studiat aspectul doar patru ani. Computerul Deep Think a fost învățat să joace șah jucând împotriva lui însuși timp de patru ore. Și a jucat un joc de șah pe care nicio ființă umană nu l-a mai văzut până acum. Cele mai bune computere ale noastre îl bat doar ocazional. Dacă acest lucru s-ar întâmpla în alte domenii, lumea noastră nu ar fi deloc pregătită.

Ați scris că AI-ul are un fel de latură bună și una rea. Ce vreți să spuneți?

Kissinger: Ei bine, am vrut să spun în mod inerent ceea ce am spus la Google. Până acum omenirea a presupus că progresul tehnologic este benefic sau gestionabil. Spunem că poate fi extrem de benefic. Poate fi gestionabil, dar există aspecte legate de partea de gestionare pe care nu le-am studiat deloc sau nu suficient. Asta mă îngrijorează. Dar nu spun că trebuie să-l eliminăm. Este acolo acum. Unul dintre punctele majore este că noi considerăm că ar trebui creată o filozofie care să ghideze cercetarea.

Sursa: Time