Lansarea chatbot-ului avansat Chat GPT în 2022, toți vorbesc despre inteligența artificială (AI). Capacitățile sale sofisticate au amplificat preocupările legate de faptul că AI devine atât de avansată, încât în curând nu vom mai putea să o controlăm. Acest lucru i-a determinat chiar pe unii experți și lideri din industrie să avertizeze că tehnologia ar putea duce la dispariția omului.
Alți comentatori, însă, nu au fost convinși. Noam Chomsky, profesor de lingvistică, a respins ChatGPT drept „plagiat high-tech".
Ani de zile, am fost relaxat cu privire la perspectiva impactului AI asupra existenței umane și a mediului nostru. Asta pentru că întotdeauna m-am gândit la asta ca pe un ghid sau consilier al oamenilor. Dar perspectiva ca IA să ia decizii – exercitarea controlului executiv – este o altă problemă. Și este unul care acum este serios distrat.
Unul dintre motivele cheie pentru care nu ar trebui să lăsăm AI să aibă putere executivă este că îi lipsește în totalitate emoția, ceea ce este crucial pentru luarea deciziilor. Fără emoție, empatie și o busolă morală, ați creat psihopat perfect. Sistemul rezultat poate fi foarte inteligent, dar îi va lipsi nucleul emoțional uman care îi permite să măsoare consecințele emoționale potențial devastatoare ale unei decizii altfel raționale.
Când AI preia controlul executiv
Important este că nu ar trebui să ne gândim doar la inteligența artificială ca la o amenințare existențială dacă ar fi să o facem pune-l la conducerea arsenalelor nucleare. În esență, nu există o limită a numărului de poziții de control din care ar putea exercita daune de neimaginat.
Luați în considerare, de exemplu, modul în care AI poate identifica și organiza deja informațiile necesare pentru a vă construi propria seră. Iterațiile actuale ale tehnologiei pot vă ghidează eficient prin fiecare pas de construcție și previne multe greșeli ale începătorilor. Dar, în viitor, un AI poate acționa ca manager de proiect și poate coordona construcția selectând contractori și plătindu-i direct din bugetul dvs.
AI este deja folosită în aproape toate domeniile procesării informațiilor și analizei datelor – de la modelarea modelelor meteorologice la controlul vehiculelor fără șofer la ajutând cu diagnosticele medicale. Dar de aici încep problemele – când lăsăm sistemele AI să facă un pas critic de la rolul de consilier la cel de manager executiv.
În loc să sugerezi doar remedii pentru a conturile companiei, ce se întâmplă dacă unui IA i s-ar oferi control direct, cu capacitatea de a implementa proceduri de recuperare a datoriilor, de a efectua transferuri bancare și de a maximiza profiturile - fără limite în ceea ce privește modul de a face acest lucru. Sau imaginați-vă un sistem AI care nu oferă doar un diagnostic pe baza de raze X, dar având puterea de a prescrie direct tratamente sau medicamente.
S-ar putea să începi să te simți neliniștit în legătură cu astfel de scenarii – cu siguranță aș face-o. Motivul ar putea fi intuiția dvs. că aceste mașini nu au cu adevărat „suflete”. Sunt doar programe concepute pentru digera cantități uriașe de informații pentru a simplifica datele complexe în modele mult mai simple, permițând oamenilor să ia decizii cu mai multă încredere. Ei nu au – și nu pot – să aibă emoții, care sunt strâns legate de simțurile și instinctele biologice.
Emoții și morală
Inteligenta emotionala este capacitatea de a ne gestiona emoțiile pentru a depăși stresul, a empatiza și a comunica eficient. Acest lucru contează, fără îndoială, mai mult în contextul luării deciziilor decât numai în inteligență, deoarece cea mai bună decizie nu este întotdeauna cea mai rațională.
Este probabil ca inteligența, capacitatea de a raționa și de a opera logic, să poată fi încorporate în sistemele bazate pe inteligență artificială, astfel încât acestea să poată lua decizii raționale. Dar imaginați-vă că cereți unui AI puternic, cu capacități executive rezolvarea crizei climatice. Primul lucru pe care ar putea fi inspirat să îl facă este să reducă drastic populația umană.
Această deducere nu necesită multe explicații. Noi, oamenii, suntem, aproape prin definiție, sursa de poluare sub toate formele posibile. Axe umanitatea și schimbările climatice ar fi rezolvate. Nu este alegerea la care decidenții umani ar veni, se speră, dar o inteligență artificială și-ar găsi propriile soluții – impenetrabile și neîmpovărate de o aversiune umană de a provoca rău. Și dacă ar avea putere executivă, s-ar putea să nu existe nimic care să o împiedice să continue.
Oferirea unei IA a capacității de a lua decizii executive în controlul traficului aerian ar putea fi o greșeală. Gorodenkoff/Shutterstock
Scenarii de sabotaj
Ce zici de sabotare senzori și monitoare care controlează fermele alimentare? Acest lucru s-ar putea întâmpla la început treptat, împingând controalele chiar peste un punct de basculare, astfel încât niciun om să observe că culturile sunt condamnate. În anumite scenarii, acest lucru ar putea duce rapid la foamete.
Alternativ, ce zici de oprirea controlului traficului aerian la nivel global sau pur și simplu de prăbușirea tuturor avioanelor care zboară la un moment dat? Aproximativ 22,000 de avioane sunt în mod normal în aer simultan, ceea ce se adaugă la un număr potențial de morți de câteva milioane de oameni.
Dacă credeți că suntem departe de a fi în această situație, gândiți-vă din nou. AI conduc deja mașini și zboară avioane militare, autonom.
Alternativ, ce zici de oprirea accesului la conturile bancare în regiuni vaste ale lumii, declanșând tulburări civile peste tot deodată? Sau oprirea sisteme de încălzire controlate de calculator în mijlocul iernii, sau sisteme de aer condiționat în vârful căldurii verii?
Pe scurt, un sistem de inteligență artificială nu trebuie să fie pus la conducerea armelor nucleare pentru a reprezenta o amenințare serioasă la adresa umanității. Dar, în timp ce vorbim despre acest subiect, dacă un sistem AI ar fi suficient de puternic și inteligent, ar putea găsi o modalitate de a simula un atac asupra unei țări cu arme nucleare, declanșând o represalii inițiate de om.
Ar putea AI să omoare un număr mare de oameni? Răspunsul trebuie să fie da, în teorie. Dar asta depinde în mare parte de faptul că oamenii decid să-i dea controlul executiv. Nu mă pot gândi la ceva mai terifiant decât o IA care poate lua decizii și are puterea de a le implementa.
Despre autor
Guillaume Thierry, profesor de neuroștiință cognitivă, Universitatea din Bangor
Acest articol este republicat de la Conversaţie sub licență Creative Commons. Citeste Articol original.
