Găsirea încrederii și înțelegerea în tehnologiile autonomeFotografie de: Norbert Aepli, Elveția (Utilizator: Noebu)

În 2016, mașinile cu conducere autonomă au devenit mainstream. Vehiculele autonome Uber devenit omniprezent în cartierele în care locuiesc în Pittsburgh și pentru scurt timp la San Francisco. Departamentul de Transport al SUA a emis noi orientări de reglementare pentru ei. Nenumărat lucrări și coloane a discutat despre modul în care se conduce singur mașinile rezolva dileme etice cand lucrurile merg rau. Și, din păcate, 2016 a văzut și primul deces care a implicat un vehicul autonom.

Tehnologiile autonome se răspândesc rapid dincolo de sectorul transporturilor, în sănătate, apărare cibernetică avansată și chiar arme autonome. În 2017, va trebui să decidem dacă putem avea încredere în aceste tehnologii. Va fi mult mai greu decât ne-am putea aștepta.

Încrederea este complexă și variată, dar și o parte cheie a vieții noastre. De multe ori avem încredere în tehnologie bazat pe predictibilitate: Am încredere în ceva dacă știu ce va face într-o anumită situație, chiar dacă nu știu de ce. De exemplu, am încredere în computerul meu pentru că știu cum va funcționa, inclusiv când se va defecta. Nu mai am încredere dacă începe să se comporte diferit sau surprinzător.

În schimb, încrederea mea în soția mea se bazează pe înțelegerea credințelor, valorilor și personalității ei. Mai general, încrederea interpersonală nu presupune să știi exact ce va face cealaltă persoană – cu siguranță soția mea mă surprinde uneori! – ci mai degrabă de ce acționează așa cum procedează. Și, desigur, putem avea încredere în cineva (sau ceva) în ambele moduri, dacă știm atât ce vor face, cât și de ce.

Am explorat baze posibile pentru încrederea noastră în mașinile cu conducere autonomă și alte tehnologii autonome, atât din perspectivă etică, cât și din punct de vedere psihologic. Acestea sunt dispozitive, așa că predictibilitatea ar putea părea cheia. Din cauza autonomiei lor, totuși, trebuie să luăm în considerare importanța și valoarea – și provocarea – de a învăța să avem încredere în ei așa cum avem încredere în alte ființe umane.


innerself abonare grafică


Autonomie și predictibilitate

Ne dorim ca tehnologiile noastre, inclusiv mașinile cu conducere autonomă, să se comporte în moduri pe care le putem anticipa și ne așteptăm. Desigur, aceste sisteme pot fi destul de sensibile la context, inclusiv la alte vehicule, pietoni, condiții meteorologice și așa mai departe. În general, totuși, ne-am putea aștepta ca o mașină cu conducere autonomă care este plasată în mod repetat în același mediu ar trebui să se comporte în mod similar de fiecare dată. Dar în ce sens aceste mașini foarte previzibile ar fi autonome, mai degrabă decât automate?

Există fost multe diferit Încercările la defini autonomie, dar toate au acest lucru în comun: sistemele autonome își pot lua propriile decizii și planuri (de fond) și, prin urmare, pot acționa diferit decât se aștepta.

De fapt, un motiv pentru a folosi autonomia (spre deosebire de automatizare) este tocmai faptul că acele sisteme pot urma cursuri de acțiune neașteptate și surprinzătoare, deși justificabile. De exemplu, AlphaGo de la DeepMind a câștigat al doilea joc din recenta sa serie Go împotriva lui Lee Sedol, în parte din cauza o mișcare pe care niciun jucător uman nu ar face-o vreodată, dar a fost totuși mișcarea corectă. Dar aceleași surprize fac dificilă stabilirea încrederii bazate pe predictibilitate. Încrederea puternică bazată exclusiv pe predictibilitate este posibilă doar pentru sistemele automate sau automate, tocmai pentru că sunt previzibile (presupunând că sistemul funcționează normal).

Îmbrățișând surprizele

Desigur, alți oameni ne surprind frecvent și, totuși, putem avea încredere în ei într-o măsură remarcabilă, dându-le chiar și putere pe viață și pe moarte asupra noastră. Soldații au încredere în camarazii lor în medii complexe, ostile; o pacientă are încredere în chirurgul ei pentru excizia unei tumori; și într-un mod mai banal, soția mea are încredere în mine să conduc în siguranță. Această încredere interpersonală ne permite să îmbrățișăm surprizele, așa că poate am putea dezvolta ceva de genul încrederii interpersonale în mașinile cu conducere autonomă?

În general, încrederea interpersonală necesită o înțelegere a motivului pentru care cineva a acționat într-un anumit mod, chiar dacă nu poți prezice decizia exactă. S-ar putea ca soția mea să nu știe exact cum voi conduce, dar știe ce fel de raționament folosesc atunci când conduc. Și este de fapt relativ ușor de înțeles de ce altcineva face ceva, tocmai pentru că toți gândim și raționăm aproximativ similar, deși cu „ingrediente brute” diferite – credințele, dorințele și experiențele noastre.

De fapt, facem continuu și inconștient inferențe despre credințele și dorințele altor oameni pe baza acțiunilor lor, în mare parte presupunând că ei gândesc, raționează și decid aproximativ așa cum facem noi. Toate aceste concluzii și raționament bazate pe cunoașterea noastră comună (umană) ne permit să înțelegem motivele altcuiva și, prin urmare, să construim încredere interpersonală în timp.

Gândești ca oamenii?

Tehnologiile autonome – mașinile autonome, în special – nu gândesc și decid ca oamenii. Au fost eforturi, ambele trecut și recent, pentru a dezvolta sisteme informatice care gândesc și raționează ca oamenii. Cu toate acestea, o temă consecventă a învățării automate în ultimele două decenii a fost câștigurile enorme obținute tocmai prin faptul că nu au solicitat sistemelor noastre de inteligență artificială să funcționeze în moduri asemănătoare oamenilor. În schimb, algoritmii și sistemele de învățare automată, cum ar fi AlphaGo, au reușit adesea depășește experții umani concentrându-se pe probleme specifice, localizate și apoi rezolvându-le cu totul altfel decât fac oamenii.

Ca rezultat, încercările de a interpreta o tehnologie autonomă în termeni de credințe și dorințe asemănătoare omului pot da spectaculos de rău. Când un șofer uman vede o minge pe șosea, cei mai mulți dintre noi încetinesc automat semnificativ, pentru a evita să lovească un copil care ar putea urmări după ea. Dacă mergem într-o mașină autonomă și vedem o minge care se rostogolește pe stradă, ne așteptăm ca mașina să o recunoască și să fie pregătită să oprească pentru a alerga copiii. Totuși, mașina ar putea vedea doar un obstacol de evitat. Dacă deviază fără să încetinească, oamenii de la bord ar putea fi alarmați – iar un copil ar putea fi în pericol.

Deducerile noastre despre „credințele” și „dorințele” unei mașini cu conducere autonomă vor fi aproape sigur eronate în moduri importante, tocmai pentru că mașina nu are credințe sau dorințe asemănătoare omului. Nu putem dezvolta încrederea interpersonală într-o mașină cu conducere autonomă pur și simplu urmărind-o conducând, deoarece nu vom deduce corect de ce din spatele acțiunilor sale.

Desigur, clienții societății sau pieței ar putea insista în masă că mașinile care se conduc singure au caracteristici (psihologice) asemănătoare oamenilor, tocmai pentru a putea înțelege și dezvolta încrederea interpersonală în ele. Această strategie ar da un sens cu totul nou „design centrat pe oameni”, deoarece sistemele ar fi proiectate special, astfel încât acțiunile lor să fie interpretabile de oameni. Dar ar necesita și includerea romanului algoritmi și tehnici de în mașina cu conducere autonomă, toate acestea ar reprezenta o schimbare masivă față de strategiile actuale de cercetare și dezvoltare pentru mașinile cu conducere autonomă și alte tehnologii autonome.

Mașinile cu conducere autonomă au potențialul de a remodela radical infrastructura noastră de transport în multe moduri benefice, dar numai dacă putem avea suficientă încredere în ele pentru a le folosi efectiv. Și, în mod ironic, însăși caracteristica care face ca mașinile cu conducere autonomă să fie valoroase – luarea lor flexibilă și autonomă a deciziilor în diverse situații – este exact ceea ce face dificil să ai încredere în ele.

Conversaţie

aici

David Danks, profesor de filozofie și psihologie, Carnegie Mellon University

Acest articol a fost publicat inițial Conversaţie. Citeste Articol original.

Cărți asemănătoare:

at InnerSelf Market și Amazon