Viitorii istorici ar putea considera 2023 ca un reper în apariția inteligenței artificiale (AI). Dar dacă acel viitor se va dovedi utopic, apocaliptic or undeva la mijloc presupune oricine.

În februarie, ChatGPT a stabilit recordul ca cea mai rapidă aplicație la care se ajunge 100 milioane de utilizatori. A fost urmată de modele similare de inteligență artificială cu „limbaj mari” de la Google, Amazon, Meta și alte mari firme tehnologice, care, în mod colectiv, par gata să transforme educația, asistența medicală și multe alte domenii intensive în cunoștințe.

Cu toate acestea, potențialul de rău al AI a fost subliniat în mai de către un declarație de rău augur semnat de cercetători de seamă:

Atenuarea riscului de dispariție din cauza IA ar trebui să fie o prioritate globală alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear.

În noiembrie, ca răspuns la îngrijorarea tot mai mare cu privire la riscul AI, 27 de națiuni (inclusiv Marea Britanie, SUA, India, China și Uniunea Europeană) s-au angajat să coopereze la un summit inaugural AI Safety Summit la Bletchley Park din Anglia, pentru a asigura dezvoltarea în siguranță a AI. pentru beneficiul tuturor.

Pentru a realiza acest lucru, cercetătorii se concentrează pe Alinierea AI – adică cum să vă asigurați că modelele AI sunt în concordanță cu valorile, preferințele și obiectivele umane. Dar există o problemă - AI-ul așa-numitul „secret întunecat”: modelele la scară mare sunt atât de complexe încât sunt ca o cutie neagră, imposibil de înțeles de nimeni pe deplin.

Problema cutiei negre a AI

Deși transparența și explicabilitatea sistemelor AI sunt obiective importante de cercetare, este puțin probabil ca astfel de eforturi să țină pasul cu ritmul frenetic al inovației.

Metafora cutiei negre explică de ce convingerile oamenilor despre AI sunt peste tot pe hartă. Predicțiile variază de la utopie la extincție și mulți cred chiar că o inteligență generală artificială (AGI) va fi în curând. atinge simțirea.

Dar această incertitudine agravează problema. Alinierea AI ar trebui să fie o stradă cu două sensuri: trebuie nu numai să ne asigurăm că modelele AI sunt în concordanță cu intențiile umane, ci și că convingerile noastre despre AI sunt corecte.

Acest lucru se datorează faptului că suntem remarcabil de abili în a crea viitoruri care sunt în acord cu aceste credințe, chiar dacă nu suntem conștienți de ele.

Așa-zisul "efecte de așteptare”, sau profețiile care se împlinesc de sine, sunt bine cunoscute în psihologie. Și cercetările au arătat că manipularea convingerilor utilizatorilor influențează nu doar modul în care aceștia interacționează cu AI, dar cum AI se adaptează utilizatorului.

Cu alte cuvinte, modul în care convingerile noastre (conștiente sau inconștiente) afectează IA poate crește probabilitatea oricărui rezultat, inclusiv a celor catastrofale.

AI, calcul, logică și aritmetică

Trebuie să cercetăm mai profund pentru a înțelege baza AI – cum ar fi Alice în Țara Minunilor, coborâți-vă în groapa iepurelui și vedeți unde ne duce.

În primul rând, ce este AI? Funcționează pe computere, la fel și calculul automat. De la originea sa ca „perceptron” – un neuron artificial definit matematic în 1943 de neurofiziolog Warren McCulloch si logician Walter Pitts – AI a fost împletită cu științele cognitive, neuroștiința și informatica.

Această convergenţă a mințile, creier și Mașini a condus la credința larg răspândită că, pentru că AI este calcul de către mașină, atunci inteligența naturală (mintea) trebuie să fie calculată de creier.

Dar ce este calculul? La sfârșitul secolului al XIX-lea, matematicienii Richard Dedekind și Giuseppe Peano a propus un set de axiome care aritmetică definită din punct de vedere logic, și încercări inspirate de a baza toată matematica pe un sigur bază formală.

Deşi logicianul Kurt Godel a dovedit mai târziu că acest obiectiv a fost de neatins, munca sa a fost punctul de plecare pentru matematician (și dezpărător de coduri) Alan Turing. A lui "Mașină de întărire”, un dispozitiv abstract capabil de calcul universal, este fundamentul informaticii.

Structura profundă a percepției

Deci, calculul se bazează pe idei matematice care se reiau la eforturile de a defini aritmetica în logică. Dar cunoștințele noastre de aritmetică există anterior logicii. Dacă vrem să înțelegem baza AI, trebuie să mergem mai departe și să ne întrebăm de unde vine aritmetica în sine.

Eu și colegii mei am arătat recent că aritmetica se bazează pe „structura profundă” de percepție. Această structură este ca ochelarii colorați care ne modelează percepția în anumite moduri, astfel încât experiența noastră despre lume să fie ordonată și gestionabilă.

Aritmetica constă dintr-un set de elemente (numere) și operații (adunare, înmulțire) care combină perechi de elemente pentru a da un alt element. Am întrebat: dintre toate posibilitățile, de ce numerele sunt elementele, iar adunarea și înmulțirea operațiile?

Am arătat prin dovada matematica că atunci când se presupunea că structura profundă a percepției limitează posibilitățile, rezultatul a fost aritmetica. Cu alte cuvinte, atunci când mintea noastră vede lumea abstractă prin aceiași „ochelari colorați” care modelează experiența noastră cu lumea fizică, ea „vede” numere și aritmetică.

Deoarece aritmetica este fundamentul matematicii, implicația este că matematica este o reflectare a minții - o expresie în simboluri a naturii și creativității sale fundamentale.

Deși structura profundă a percepției este împărtășită cu alte animale și deci este un produs al evoluției, numai oamenii au inventat matematica. Este cea mai intimă creație a noastră – și, permițând dezvoltarea IA, poate cea mai importantă.

O revoluție copernicană a minții

Contul nostru de originea aritmeticii este în concordanță cu opiniile filozofului din secolul al XVIII-lea Immanuel Kant. Potrivit lui, cunoașterea noastră despre lume este structurată de „intuiții pure” ale spațiului și timpului care există înainte de experiența senzorială – analog cu ochelarii colorați pe care nu îi putem îndepărta niciodată.

Kant a pretins-o pe a lui filozofie a fost o „revoluție copernicană a minții”. În același mod, astronomii antici credeau că Soarele se învârte în jurul Pământului pentru că nu erau conștienți de mișcarea Pământului, a susținut Kant, filozofii care credeau că toate cunoștințele sunt derivate din experiență de simț (John Locke și David Hume, de exemplu) au trecut cu vederea modul în care mintea modelează percepția.

Deși opiniile lui Kant au fost modelate de științele naturii din vremea lui, au dovedit influent în psihologia contemporană.

Recunoașterea faptului că aritmetica este a consecință naturală a percepției noastreși, prin urmare, bazată pe biologic, sugerează o schimbare kantiană similară în înțelegerea noastră a calculului.

Calculul nu este „în afara” sau separat de noi într-un tărâm abstract al adevărului matematic, ci este inerent naturii minții noastre. Mintea este mai mult decât calcul; creierul nu este un computer. Mai degrabă, calculul – baza pentru AI – este, ca și matematica, o expresie simbolică a naturii și creativității minții.

Focul prometeic

Care sunt implicațiile pentru AI? În primul rând, AI nu este o minte și nu va deveni niciodată sensibilă. Ideea că ne putem transcende natura biologică și putem obține nemurirea încărcându-ne mințile în nor este doar fantezie.

Totuși, dacă principiile minții pe care se bazează IA sunt împărtășite de întreaga umanitate (și probabil și de alte creaturi vii), ar putea fi posibil să depășim limitările minții noastre individuale.

Deoarece calculul este universal, suntem liberi să simulăm și să creăm orice rezultat pe care îl alegem în lumile noastre virtuale și fizice din ce în ce mai conectate. În acest fel, AI este cu adevărat al nostru Focul prometeic, un cadou pentru umanitate furat de la zei ca în Mitologia greacă.

Ca civilizație globală, probabil că suntem într-un punct de cotitură. AI nu va deveni conștient și nu va decide ucide-ne pe toți. Dar suntem foarte capabili să ne „apocalipsăm” cu ea – așteptarea poate crea realitatea.

Eforturile de a asigura alinierea, siguranța și securitatea AI sunt de o importanță vitală, dar pot să nu fie suficiente dacă ne lipsesc conștientizarea și înțelepciunea colectivă. La fel ca Alice, trebuie să ne trezim din vis și să recunoaștem realitatea și puterea minții noastre.

Randolph Grace, Profesor de psihologie, Universitatea din Canterbury

Acest articol este republicat de la Conversaţie sub licență Creative Commons. Citeste Articol original.