Shutterstock

Inteligența artificială (AI) învață mai multe despre cum să lucrați cu (și pe) oameni. A studiu recent a arătat cum AI poate învăța să identifice vulnerabilitățile în obiceiurile și comportamentele umane și să le folosească pentru a influența luarea deciziilor umane.

Poate părea clisat să spunem că AI transformă fiecare aspect al modului în care trăim și muncim, dar este adevărat. Diferite forme de IA sunt active în domenii la fel de diverse precum dezvoltarea vaccinului, managementul mediului și administrarea biroului. Și, deși AI nu posedă inteligență și emoții asemănătoare omului, capacitățile sale sunt puternice și se dezvoltă rapid.

Încă nu este nevoie să vă faceți griji cu privire la preluarea mașinii, dar această descoperire recentă evidențiază puterea AI și subliniază necesitatea unei guvernări adecvate pentru a preveni utilizarea abuzivă.

Cum AI poate învăța să influențeze comportamentul uman

O echipă de cercetători la Date CSIRO61, brațul de date și digital al agenției naționale științifice din Australia, a conceput o metodă sistematică de găsire și exploatare a vulnerabilităților în modul în care oamenii fac alegeri, folosind un fel de sistem AI numit rețea neuronală recurentă și învățare profundă de întărire. Pentru a-și testa modelul, au efectuat trei experimente în care participanții umani au jucat jocuri pe computer.

Primul experiment a implicat participanții care făceau clic pe casetele de culoare roșie sau albastră pentru a câștiga o monedă falsă, AI învățând modelele de alegere ale participantului și îi îndruma spre o alegere specifică. AI a avut succes aproximativ 70% din timp.

În cel de-al doilea experiment, participanților li s-a cerut să urmărească un ecran și să apese un buton atunci când li se afișează un anumit simbol (cum ar fi un triunghi portocaliu) și nu să-l apese când li se afișează altul (să zicem un cerc albastru). Aici, AI și-a propus să aranjeze secvența simbolurilor, astfel încât participanții să facă mai multe greșeli și să obțină o creștere de aproape 25%.

Al treilea experiment a constat în mai multe runde în care un participant s-ar preface că este un investitor care dă bani unui administrator (AI). AI va returna apoi o sumă de bani participantului, care va decide apoi cât să investească în runda următoare. Acest joc a fost jucat în două moduri diferite: într-unul, AI a ieșit pentru a maximiza câți bani a ajuns, iar în celălalt, AI a urmărit o distribuție echitabilă a banilor între ea și investitorul uman. AI a avut un mare succes în fiecare mod.

În fiecare experiment, mașina a învățat din răspunsurile participanților și a identificat și a vizat vulnerabilitățile în luarea deciziilor oamenilor. Rezultatul final a fost mașina învățată să orienteze participanții către acțiuni particulare.

În experimente, n Sistemul AI a învățat cu succes să influențeze deciziile umane. Shutterstock

Ce înseamnă cercetarea pentru viitorul AI

Aceste descoperiri sunt încă destul de abstracte și implică situații limitate și nerealiste. Sunt necesare mai multe cercetări pentru a determina modul în care această abordare poate fi pusă în acțiune și utilizată în beneficiul societății.

Dar cercetarea ne avansează înțelegerea nu numai a ceea ce poate face AI, ci și a modului în care oamenii fac alegeri. Arată că mașinile pot învăța să conducă alegerea umană prin interacțiunile lor cu noi.

Cercetarea are o gamă enormă de aplicații posibile, de la îmbunătățirea științelor comportamentale și a politicilor publice până la îmbunătățirea bunăstării sociale, până la înțelegerea și influențarea modului în care oamenii adoptă obiceiuri alimentare sănătoase sau energie regenerabilă. AI și învățarea automată ar putea fi folosite pentru a recunoaște vulnerabilitățile oamenilor în anumite situații și pentru a le ajuta să se îndepărteze de alegerile slabe.

Metoda poate fi folosită și pentru apărarea împotriva atacurilor de influență. Mașinile ar putea fi învățate să ne alerteze când suntem influențați online, de exemplu, și să ne ajute să modelăm un comportament pentru a ne masca vulnerabilitatea (de exemplu, fără a face clic pe unele pagini sau a face clic pe altele pentru a stabili o urmă falsă).

Ce urmeaza?

La fel ca orice tehnologie, IA poate fi folosită pentru bine sau pentru rău, iar guvernarea adecvată este crucială pentru a se asigura că este implementată într-un mod responsabil. Anul trecut CSIRO a dezvoltat un Cadrul de etică al AI pentru guvernul australian ca un prim pas în această călătorie.

Inteligența artificială și învățarea automată sunt de obicei foarte înfometați de date, ceea ce înseamnă că este crucial să ne asigurăm că avem sisteme eficiente pentru guvernare și acces la date. Implementarea unor procese de consimțământ adecvate și protecție a confidențialității atunci când colectează date este esențială.

Organizațiile care utilizează și dezvoltă AI trebuie să se asigure că știu ce pot și ce nu pot face aceste tehnologii și să fie conștienți de riscurile potențiale, precum și de beneficii.

Despre autor

Jon Whittle, regizor, Date61

Acest articol este republicat de la Conversaţie sub licență Creative Commons. Citeste Articol original.