Când lucrurile merg greșit într-o lume automată, vom ști totuși ce să facem?

Trăim într-o lume din ce în ce mai complexă și automata. Deci, la fel cum trebuie să ne confruntăm cu probleme mai complexe, automatizarea duce la o atrofiere a abilităților umane care ne poate lăsa mai vulnerabili atunci când răspundem la situații neașteptate sau când lucrurile merg prost. Conversaţie

Considera ultimele minute ale zborului Air France 447, care s-a prăbușit în Atlantic în mai 2009 după ce a părăsit Rio de Janeiro, Brazilia, spre Paris, Franța.

Înregistratorul său de zbor a fost dezvăluit confuzie totală în cabină. Avionul a fost înclinat în sus la 15º cu o voce automată care a apelat în mod repetat „stand, stand”. Cu toate acestea, piloții se învârteau, unul exclamând: „[…] nu înțelegem nimic”.

Acesta nu este locul pentru a intra în intrările și ieșirile acelui zbor nefericit, în afară de a observa că orice sistem conceput pentru a face față automat situațiilor neprevăzute, de cele mai multe ori lasă o bază de calificare degradată pentru minoritatea situațiilor pe care designerii nu le-ar putea nu prevăd.

Vorbind la Vanity Fair, Nadine Sarter, inginer industrial la Universitatea din Michigan, își amintește o conversație cu cinci ingineri implicați în construirea unui anumit avion.


innerself abonare grafică


Am început să întreb: „Ei bine, cum funcționează asta sau alta?” Și nu au putut fi de acord cu privire la răspunsuri. Așa că mă gândeam, dacă acești cinci ingineri nu pot fi de acord, săracul pilot, dacă va întâlni vreodată acea situație specială ... ei bine, noroc.

În realitate, complexitatea zborurilor cu avioane de înaltă tehnologie extrem de complicate a fost externalizată către un robot, cu ingineri de zbor în toate scopurile și scopurile dispărute din cockpits. Numai piloții mai în vârstă și ex-piloți ai forței aeriene păstrează aceste abilități detaliate.

Înapoi pe terra fermă, într-o lume de conducere autonomă, ar putea exista generații viitoare întregi, fără nici o experiență practică conducând și navigând un vehicul.

Vedem deja o indicație a ce poate merge rau când oamenii lasă controlul asupra sisteme autonome.

O anchetă asupra accident fatal al unui Tesla Model S cu pilot automat a remarcat faptul că compania a furnizat șoferilor informații despre „limitările sistemului”. În acest caz, rămâne în continuare la latitudinea șoferilor să acorde atenție.

Dar ce șansă ar avea o persoană de a prelua controlul dacă lucrurile încep să meargă prost în viitorul lor vehicul complet autonom. Ar ști chiar cum să depisteze primele semne ale unui dezastru iminent?

Ne pierdem drumul?

Conducerea acestui lucru este un determinism tehnologic care crede că orice inovație este intrinsec de bună. În timp ce tehnologiile emergente pot defini încă ce înseamnă să fii om, provocarea este să o faci recunoașteți riscul și ce să faci pentru a te asigura că lucrurile nu merg prost.

Acest lucru devine din ce în ce mai greu pe măsură ce am sporit complexitatea, în special cu conducerea autonomă a vehiculului trenuri suburbane, taxiuri aeriene și drone de livrare.

Proiectanții de sisteme au construit sisteme mai mari și mai interconectate pentru a împărți sarcina de procesare a computerului, chiar dacă acest lucru face ca creațiile lor să fie primii candidați pentru defalcare. Ei trec cu vederea faptul că odată ce totul este conectat, problemele se pot răspândi la fel de ușor ca soluțiile, uneori mai mult.

Complexitatea crescândă și imensă a unei lumi automate prezintă riscuri similare.

Puncte de pericol

În retrospectivă, este nevoie de abilitatea de a tăia rețelele libere atunci când există puncte de eșec, sau cel puțin de a sigila părțile unei singure rețele atunci când există puncte de eșec în altă parte a acesteia.

Această „insulare” este o caracteristică a rețelelor electrice inteligente care oferă posibilități de împărțire a rețelei în fragmente care sunt capabile să-și susțină singuri cererea internă de energie. Modelarea a arătat că mai puține conexiuni pot duce la mai multă securitate.

Oare știința complexității emergente ar putea ajuta la identificarea punctelor de pericol în rețelele extrem de interconectate? Marten Scheffer și colegii ma gandeam eu. El văzuse similitudini între comportamentul sistemelor naturale (ale sale) și sistemele economice și financiare.

Lui munca anterioară pe lacuri, recife de corali, mări, păduri și pajiști, a constatat că mediile supuse unor schimbări treptate precum clima, încărcătura de nutrienți și pierderea habitatului pot ajunge la punctele de basculare care le transformă într-o stare inferioară uneori ireversibilă.

Ar putea bancherii și economiștii care se confruntă cu stabilitatea piețelor financiare să învețe de la cercetătorii din domeniul ecologiei, epidemiologiei și climatologiei pentru a dezvolta markeri ai apropierii de pragurile critice și defalcarea sistemului?

În februarie 2016, toate acestea s-au reunit sub forma o lucrare despre teoria complexității și reglementarea financiară co-autor de o gamă largă de experți, inclusiv un economist, bancher, fizician, climatolog, ecolog, zoolog, veterinar și epidemiolog.

Aceștia au recomandat o integrare online de date, metode și indicatori, alimentând testele de stres pentru sistemele socio-economice și financiare globale aproape în timp real. Primul este similar cu ceea ce s-a realizat în tratarea altor sisteme complexe, cum ar fi vremea.

Putem începe să vedem cum exemplul nostru de lume de conducere autonomă se pliază în chestiuni de stabilitate a rețelei. Imaginați-vă o rețea extrem de interconectată de vehicule autonome.

Există o nevoie clară de a ști cum să detectăm și să izolăm eventualele puncte de eșec într-o astfel de rețea, înainte ca lucrurile să meargă prost cu consecințe potențial tragice. Acest lucru este mai mult decât protejarea șoferului și pasagerului de orice defecțiune a sistemului într-un singur vehicul autonom.

Este timpul să ne gândim cum am putea folosi acele progrese multidisciplinare în înțelegerea stabilității unor astfel de rețele la scară largă pentru a evita consecințele drastice.

Despre autor

Peter Fisher, profesor asociat, studii globale, urbane și sociale, Universitatea RMIT

Acest articol a fost publicat inițial Conversaţie. Citeste Articol original.

Cărți conexe

at InnerSelf Market și Amazon