Informația este o marfă valoroasă. Și datorită tehnologiei, există milioane de terabytes de ea online.

Instrumentele de inteligență artificială (AI), cum ar fi ChatGPT, gestionează acum aceste informații în numele nostru – le adună, le rezumă și ni le prezintă înapoi.

Dar această „externalizare” a managementului informațiilor către AI – oricât de convenabilă este – vine cu consecințe. Poate influența nu numai ceea ce gândim, dar și potențial cum noi gândim.

Ce se întâmplă într-o lume în care algoritmii AI decid ce informații sunt perpetuate și ce este lăsat pe margine?

Creșterea IA personalizată

Instrumentele AI generative sunt construite pe modele antrenate pe sute de gigabytes date preexistente. Din aceste date, ei învață cum să creeze în mod autonom text, imagini, conținut audio și video și pot răspunde la interogările utilizatorilor, combinând răspunsul „cel mai probabil”.

ChatGPT este folosit de milioane de oameni, în ciuda faptului că a fost lansat public cu mai puțin de un an în urmă. În iunie, adăugarea de răspunsuri personalizate a făcut deja impresionantul chatbot și mai util. Această funcție le permite utilizatorilor să salveze instrucțiuni personalizate care explică pentru ce folosesc botul și cum ar dori să răspundă.

Acesta este unul dintre câteva exemple de „AI personalizat”: o categorie de instrumente AI care generează conținut pentru a se potrivi nevoilor și preferințelor specifice ale utilizatorului.

Un alt exemplu este cel recent lansat de Meta asistent virtual, Meta AI. Acest chatbot poate avea conversații, genera imagini și poate îndeplini sarcini pe platformele Meta, inclusiv WhatsApp, Messenger și Instagram.

Cercetător în inteligență artificială și co-fondator al DeepMind, Mustafa Suleyman, descrie AI personalizat ca fiind mai mult o relație decât o tehnologie:

Este un prieten. […] Va fi cu adevărat prezent și alături de tine, trăind cu tine – practic în echipa ta. Îmi place să cred că ai avea un antrenor grozav în colțul tău.

Dar aceste tehnologii sunt, de asemenea, controversate, cu preocupări ridicate deținerea datelor, părtinire și dezinformare.

Companiile de tehnologie încearcă să găsească modalități de a combate aceste probleme. De exemplu, Google a adăugat link-uri sursă la rezumatele de căutare generate de inteligență artificială produse de sa Căutați experiență generativă (SGE), care a fost criticat la începutul acestui an pentru oferindu-se răspunsuri inexacte și problematice.

Tehnologia ne-a schimbat deja gândirea

Cum vor schimba instrumentele AI generative – și în special cele personalizate pentru noi – modul în care gândim?

Pentru a înțelege acest lucru, să revedem începutul anilor 1990, când internetul a apărut pentru prima dată în viața noastră. Oamenii puteau accesa dintr-o dată informații despre aproape orice, fie că era vorba de servicii bancare, de panificație, de predare sau de călătorie.

După aproape 30 de ani, studiile au arătat că conectarea la această „minte de stup” globală ne-a schimbat cunoașterea, memoria și creativitatea.

De exemplu, având acces instantaneu la echivalentul lui 305.5 miliarde de pagini a informaţiei a crescut pe cel al oamenilor meta-cunoaștere – adică cunoștințele lor despre cunoaștere. Un impact al acestui lucru este „efect Google”: un fenomen în care căutarea online mărește capacitatea noastră de a găsi informații, dar ne reduce memoria despre ceea ce erau acele informații.

Pe de o parte, s-a demonstrat că transferarea gândirii noastre către motoarele de căutare ne eliberează rezervele mentale pentru rezolvarea problemelor și gândirea creativă. Pe de altă parte, regăsirea de informații online a fost asociată cu o creștere distractibilitatea și dependența.

Cercetările arată, de asemenea, căutările online – indiferent de cantitatea sau calitatea informațiilor preluate – ne măresc stima de sine cognitivă. Cu alte cuvinte, ne mărește credința în propriile noastre „inteligente”.

Cuplați asta cu faptul că chestionarea informațiilor este un efort – și că, cu cât avem mai multă încredere în motorul nostru de căutare, cu atât mai puțin critic implicați-vă cu rezultatele sale – și puteți vedea de ce a avea acces la cantități fără precedent de informații nu ne face neapărat mai înțelepți.

Ar trebui să ne „externalizam” gândirea?

Instrumentele AI generative de astăzi merg mult mai departe decât să ne prezinte doar rezultatele căutării. Ei localizează informațiile pentru noi, le evaluează, le sintetizează și ni le prezintă înapoi.

Care ar putea fi implicațiile acestui lucru? Fără a face forță pentru controlul calității condus de oameni, perspectivele nu sunt promițătoare.

Capacitatea IA generativă de a produce răspunsuri familiare, obiective și captivante înseamnă că ne face mai vulnerabili la cognitive.

bias de automatizare, de exemplu, este tendința umană de a supraestima integritatea informațiilor provenite de la mașini. Si Simpla expunere efectul este atunci când avem mai multe șanse să avem încredere în informațiile care sunt prezentate ca familiare sau personale.

Cercetările pe rețelele sociale ne pot ajuta să înțelegem impactul unor astfel de părtiniri. Într-un studiu din 2016, utilizatorii Facebook au raportat simțindu-te mai „în cunoștință” pe baza cantității de conținut de știri postat online – și nu a cât de mult citesc de fapt.

De asemenea, știm că „bule de filtrare” creat de algoritmi de social media – în care feedurile noastre sunt filtrate în funcție de interesele noastre – limitează diversitatea conținutului la care suntem expuși.

S-a demonstrat că acest proces de restrângere a informațiilor crește polarizare ideologică prin reducerea înclinației oamenilor de a lua în considerare perspective alternative. De asemenea, s-a demonstrat că crește probabilitatea noastră de a fi expuși știri false.

Folosind AI pentru a fi înțelept, și nu a amuți

Inteligența artificială generativă este, fără îndoială, o forță revoluționară cu potențialul de a face lucruri grozave pentru societate. Ar putea remodela sistemul nostru de învățământ oferind conținut personalizat, schimbați practicile noastre de lucru prin accelerare scrierea si analiza informatiilor, și împinge granițele lui descoperire științifică.

Are chiar și potențialul de a ne altera în mod pozitiv relațiile, ajutându-ne să comunicăm și să ne conectăm cu ceilalți și poate, uneori, să funcționeze ca un formă de companie sintetică.

Dar dacă singurul nostru mod de a judeca viitorul este să privim în trecut, poate că acum este momentul să reflectăm la modul în care atât internetul, cât și rețelele sociale ne-au schimbat cunoașterea și să aplicăm unele masuri de precautie. în curs de dezvoltare Alfabetizare AI este un loc bun pentru a începe, la fel și proiectarea instrumentelor AI care încurajează autonomia umană și gândirea critică.

În cele din urmă, va trebui să le înțelegem pe amândouă pe ale noastre și punctele forte și punctele slabe ale IA pentru a ne asigura că acești însoțitori „gânditori” ne ajută să creăm viitorul pe care ni-l dorim – și nu cel care se întâmplă să fie în fruntea listei.

Sarah Vivienne Bentley, cercetător de știință, inovare responsabilă, date61, CSIRO; Claire Mason, Cercetare principală, CSIRO, și Einat Grimberg, cercetător postdoctoral în tehnologie și științe sociale, CSIRO

Acest articol este republicat de la Conversaţie sub licență Creative Commons. Citeste Articol original.