William Perugini/Shutterstock

Dintre multele „riscuri profunde pentru societate și umanitate” care îi îngrijorează pe experții în tehnologie de inteligența artificială (AI), răspândirea imaginilor false este una cu care utilizatorii obișnuiți de internet vor fi familiarizați.

Deepfakes – videoclipuri sau fotografii în care fața sau corpul cuiva a fost modificat digital astfel încât să pară că face ceva ce nu face – au fost deja folosite pentru a răspândi dezinformare politică și pornografie falsă.

Aceste imagini sunt de obicei rău intenționate și sunt folosite pentru a discredita subiectul. Când vine vorba de pornografie deepfake, marea majoritate a victimelor sunt femei. AI generativ – tehnologie folosită pentru a crea text, imagini și videoclipuri – este făcând deja abuzul sexual bazat pe imagini mai ușor de comis.

O nouă set de legi în Marea Britanie, va incrimina distribuirea de pornografie deepfake. Dar, având în vedere atenția asupra inteligenței artificiale și a deepfake-urilor, nu putem uita cum tehnologia mai puțin sofisticată poate fi folosită ca instrument de abuz, cu consecințe devastatoare pentru victime.

Tehnologie și control

Când mi-am început cercetările în domeniul tehnologiei în relațiile abuzive, deepfake-urile erau doar un punct la orizont. Munca mea s-a concentrat pe rolul smartphone-urilor în abuzul asupra femeilor care fugiseră de controlul relaţiilor. Am descoperit că autorii abuzului domestic foloseau tehnologia pentru a-și extinde puterea și controlul asupra partenerilor lor, o abordare modernă a tacticilor de abuz care au fost folosite. cu mult înainte de smartphone-urile erau în fiecare buzunar.

Telefoanele mobile pot fi folosite direct pentru a monitoriza și controla, folosind urmărirea GPS sau bombardând o victimă cu texte, videoclipuri și apeluri vocale. Un participant la mine cercetare în 2019 a explicat cum partenerul ei abuziv și-a folosit telefonul pentru a accesa rețelele de socializare, trimițându-i poze jignitoare prin Instagram și mesaje WhatsApp persistente și jignitoare.

Când ieșea cu prietenii ei, mai întâi îi trimitea mesaje, suna și apoi suna video în mod constant pentru a verifica unde era și pentru a vedea cu cine era. Când participanta și-a oprit telefonul, partenerul ei de atunci și-a contactat prietenii, bombardându-i cu mesaje și apeluri.

Această participantă s-a simțit prea stânjenită să facă aranjamente pentru a se întâlni cu grupul ei de colegi și așa a încetat să iasă. Alții în situații similare ar putea fi excluși din planurile sociale, dacă prietenii doresc să evite să fie contactați de agresorul prietenului lor. O astfel de izolare socială este o parte frecventă a abuzului domestic și un indicator important al controlului relațiilor.

Potrivit organizației caritabile pentru violență în familie Refuge, mai mult de 72% dintre persoanele care folosesc serviciile sale raportează abuzuri care implică tehnologie.

Telefoanele mobile sunt o poartă către alte gadget-uri, prin „internetul lucrurilor” – dispozitive care sunt conectate la web și capabile să facă schimb de date. Aceste instrumente pot fi, de asemenea, armate de către agresori. De exemplu, folosirea telefoanelor mobile pentru a modificați setările de temperatură pe un termostat de uz casnic, creând extreme de la o oră la alta.

Confuzi de acest lucru, oamenii caută explicații de la partenerul lor doar pentru a li se spune că aceasta trebuie să fie o născocire a imaginației lor. Tehnici de iluminare cu gaz astfel încât victimele să-și pună la îndoială propria sănătate mentală, ceea ce le subminează încrederea în propria lor judecată.

Un panopticon modern

Cu un clic pe un buton, telefoanele mobile permit supravegherea fără precedent a celorlalți. În buzunarul unui făptuitor, ele pot fi folosite pentru a urmări partenerii actuali și foștii oricând, oriunde și – dacă semnalul permite – oriunde. Acest lucru le oferă făptuitorilor o puterea atotputerniciei, lăsând victimele să creadă că sunt urmărite chiar și atunci când nu sunt.

Acest lucru ne aduce în minte opera filozofului din secolul al XVIII-lea Jeremy Bentham, care a introdus conceptul de „panopticon”. Bentham a propus un sistem de închisoare „perfect”, în care un turn de pază se află în centru, înconjurat de celule individuale.

Izolați unul de celălalt, prizonierii ar vedea doar turnul – un memento constant că sunt supravegheați în permanență, chiar dacă nu pot vedea paznicul din el. Bentham credea că o astfel de structură va avea ca rezultat auto-supravegherea prizonierilor până când în cele din urmă nu vor fi necesare încuietori sau bare.

Cea mai recentă cercetare a mea arată că telefoanele mobile au creat o dinamică similară în cadrul relațiilor abuzive. Telefoanele preiau rolul turnului, iar autorii paznicilor din interiorul acestuia.

În acest panopticon modern, victimele pot fi în afară, vizibile pentru străini, prieteni și familie. Cu toate acestea, din cauza prezenței telefonului, ei simt că sunt încă urmăriți și controlați de partenerii lor abuzivi.

După cum a spus un participant: „Simți că nu există libertate chiar și atunci când ești afară. Simți că ești închis undeva, nu ai libertate, cineva te controlează.”

Supraviețuitorii abuzului continuă să se monitorizeze chiar și atunci când autorii nu sunt acolo. Ei acționează în moduri pe care ei cred că le vor mulțumi (sau cel puțin nu îi vor mânia) pe agresorii lor.

Acest comportament este adesea privit de alții ca ciudat și prea ușor respins ca paranoie, anxietate sau probleme mai grave de sănătate mintală. Accentul se pune pe comportamentul victimei și ignoră cauza – comportamentul abuziv sau criminal al partenerului.

Pe măsură ce tehnologia devine mai sofisticată, instrumentele și strategiile disponibile abuzatorilor vor continua să evolueze. Acest lucru va extinde raza agresorilor și va prezenta noi oportunități de supraveghere, iluminare cu gaz și abuz.

Până când companiile de tehnologie vor lua în considerare experiențele supraviețuitorilor abuzului domestic și vor construi mecanisme de siguranță în designul produselor lor, abuzul va continua să rămână. ascuns la vedere.

Tirion Havard, profesor asociat de asistență socială, Universitatea din South Bank din Londra

Acest articol este republicat de la Conversaţie sub licență Creative Commons. Citeste Articol original.