Napoleon ar fi putut învăța din trecut. pictură de Adolph Northen/wikipedia

Este un clișeu că necunoașterea istoriei face să o repete. După cum au mai subliniat mulți oameni, singurul lucru pe care îl învățăm din istorie este că rareori învățăm ceva din istorie. Oamenii se angajează războaiele terestre din Asia iar si iar. De asemenea, ei repetă aceleași greșeli de întâlnire, iar și iar. Dar de ce se întâmplă asta? Și tehnologia va pune capăt?

O problemă este uitarea și „miopie”: nu vedem cât de relevante sunt evenimentele din trecut pentru cele actuale, trecând cu vederea tiparul de desfășurare. Napoleon ar fi trebuit să observe asemănările dintre marșul său asupra Moscovei și regele suedez Încercarea eșuată a lui Carol al XII-lea de a face la fel cu aproximativ un secol înaintea lui.

De asemenea, suntem prost la invatare cand lucrurile merg rau. În loc să stabilim de ce o decizie a fost greșită și cum să evităm să se repete vreodată, deseori încercăm să ignorăm întorsătura jenantă a evenimentelor. Asta înseamnă că data viitoare când apare o situație similară, nu vedem asemănarea – și repetăm ​​greșeala.

Ambele dezvăluie probleme cu informațiile. În primul caz, nu reușim să ne amintim informațiile personale sau istorice. În al doilea, nu reușim să codificăm informațiile când sunt disponibile.

Acestea fiind spuse, facem și greșeli atunci când nu putem deduce eficient ce se va întâmpla. Poate că situația este prea complexă sau necesită prea mult timp pentru a te gândi. Sau suntem părtinitori să interpretăm greșit ceea ce se întâmplă.

Puterea enervantă a tehnologiei

Dar tehnologia ne poate ajuta? Acum putem stoca informații în afara creierului nostru și putem folosi computere pentru a le recupera. Asta ar trebui să faciliteze învățarea și amintirea, nu?

Stocarea informațiilor este utilă atunci când acestea pot fi recuperate bine. Dar amintirea nu este același lucru cu preluarea unui fișier dintr-o locație sau o dată cunoscută. A-ți aminti implică descoperirea asemănărilor și aducerea în minte a lucrurilor.

O inteligență artificială (AI) trebuie, de asemenea, să poată aduce în mod spontan asemănări în mintea noastră - asemănări adesea nedorite. Dar dacă se pricepe la observarea posibilelor asemănări (la urma urmei, ar putea căuta în tot internetul și în toate datele noastre personale), va observa adesea și unele false.

Pentru întâlnirile nereușite, se poate observa că toate au implicat cina. Dar niciodată masa nu a fost problema. Și a fost o pură coincidență că erau lalele pe masă – nu există niciun motiv pentru a le evita. Repetăm ​​adesea greșelile de întâlnire. 

Asta înseamnă că ne va avertiza despre lucruri care nu ne pasă, eventual într-un mod enervant. Reducerea sensibilității sale înseamnă creșterea riscului de a nu primi un avertisment atunci când este necesar.

Aceasta este o problemă fundamentală și se aplică la fel de mult oricărui consilier: consilierul precaut va striga prea des, consilierul optimist va rata riscurile.

Un bun consilier este cineva în care avem încredere. Au aproximativ același nivel de precauție ca și noi și știm că știu ce vrem. Acest lucru este greu de găsit la un consilier uman și cu atât mai mult într-un AI.

Unde oprește tehnologia greșelile? Funcționează împotriva idioților. Mașinile de tăiat necesită să țineți apăsat butoanele, ținând mâinile departe de lame. Un „comutator pentru om mort” oprește o mașină dacă operatorul devine incapacitat.

Cuptoarele cu microunde opresc radiația atunci când ușa este deschisă. Pentru a lansa rachete, două persoane trebuie să întoarcă cheile simultan într-o cameră. Aici, designul atent face greșelile greu de făcut. Dar nu ne pasă suficient de situațiile mai puțin importante, ceea ce face ca designul de acolo să fie mult mai puțin idiot.

Când tehnologia funcționează bine, adesea avem prea multă încredere în ea. Piloții de linii aeriene au mai puține ore de zbor adevărate astăzi decât în ​​trecut, datorită eficienței uimitoare a sistemelor de pilot automat. Aceasta este o veste proastă când pilotul automat eșuează, iar pilotul are mai puțină experiență pentru a remedia situația.

Prima dintre a noua platformă petrolieră (Sleipnir A) s-a scufundat deoarece inginerii au avut încredere în calculul software al forțelor care acționează asupra acestuia. Modelul a fost greșit, dar a prezentat rezultatele într-un mod atât de convingător încât păreau fiabile.

O mare parte din tehnologia noastră este uimitor de fiabilă. De exemplu, nu observăm cum se găsesc în mod constant pachete de date pierdute de pe internet în culise, cum codurile de corectare a erorilor îndepărtează zgomotul sau cum siguranțele și redundanța fac aparatele în siguranță.

Dar când ne adunăm nivel după nivel de complexitate, pare foarte nesigur. Observăm când videoclipul Zoom întârzie, programul AI răspunde greșit sau computerul se blochează. Întrebați totuși pe oricine care a folosit un computer sau o mașină în urmă cu 50 de ani cum funcționau de fapt, și veți observa că ambele erau mai puțin capabile și mai puțin fiabile.

Facem tehnologia mai complexă până când devine prea enervantă sau nesigură pentru utilizare. Pe măsură ce piesele devin mai bune și mai fiabile, alegem adesea să adăugăm noi funcții interesante și utile, în loc să rămânem cu ceea ce funcționează. Acest lucru face ca tehnologia să fie mai puțin fiabilă decât ar putea fi.

Se vor face greșeli

Acesta este și motivul pentru care AI este o sabie cu două tăișuri pentru evitarea greșelilor. Automatizarea face adesea lucrurile mai sigure și mai eficiente atunci când funcționează, dar atunci când eșuează, problemele sunt mult mai mari. Autonomia înseamnă că software-ul inteligent ne poate completa gândirea și ne poate descărca, dar atunci când nu gândește așa cum ne dorim, se poate comporta greșit.

Cu cât este mai complex, cu atât mai fantastice pot fi greșelile. Oricine a avut de-a face cu savanți extrem de inteligenți știe cât de bine poate să încurce lucrurile cu mare ingeniozitate atunci când bunul simț îi dă greș – iar AI are foarte puțin bun simț uman.

Acesta este, de asemenea, un motiv profund de îngrijorare cu privire la AI care ghidează luarea deciziilor: fac noi tipuri de greșeli. Noi, oamenii, cunoaștem greșelile umane, ceea ce înseamnă că putem avea grijă de ele. Dar mașinile inteligente pot face greșeli pe care nu le-am putea imagina niciodată.

În plus, sistemele AI sunt programate și antrenate de oameni. Și există o mulțime de exemple de astfel de sisteme devenind părtinitoare și chiar bigot. Ei imită părtinirile și repetă greșelile din lumea umană, chiar și atunci când persoanele implicate încearcă în mod explicit să le evite.

În cele din urmă, greșelile vor continua să se întâmple. Există motive fundamentale pentru care greșim cu privire la lume, pentru care nu ne amintim tot ce ar trebui să facem și pentru care tehnologia noastră nu ne poate ajuta perfect să evităm problemele.

Dar putem lucra pentru a reduce consecințele greșelilor. Butonul de anulare și salvarea automată au salvat nenumărate documente pe computerele noastre. Monumentul din Londra, pietre de tsunami în Japonia și alte monumente acționează pentru a ne aminti anumite riscuri. Practicile bune de design ne fac viața mai sigură.

În cele din urmă, este posibil să înveți ceva din istorie. Scopul nostru ar trebui să fie să supraviețuim și să învățăm din greșelile noastre, nu să le împiedicăm să se întâmple vreodată. Tehnologia ne poate ajuta în acest sens, dar trebuie să ne gândim cu atenție la ceea ce ne dorim de fapt de la ea – și să proiectăm în consecință.

Despre autor

Anders Sandberg, James Martin Research Fellow, Future of Humanity Institute și Oxford Martin School, Universitatea din Oxford

Acest articol este republicat de la Conversaţie sub licență Creative Commons. Citeste Articol original.