De la Aristotel la Bill Gates: om, robot, date personale

Motto:

„- Pământul e rotund ca o portocală.

Ursula și-a pierdut răbdarea. „Dacă e să înnebunești, fă-o singur, i-a strigat. Dar nu încerca să le bagi în cap copiilor ideile tale de țigan.”

Jose Arcadio Buendia, impasibil, nu s-a lăsat terorizat de ideile nevestei care, într-o criză de furie i-a distrus astrolabul, aruncându-l pe jos.

Și-a construit altul, i-a adunat în odăița sa pe bărbații din sat și le-a demonstrat, cu teorii pe care nu le înțelegea nimeni, posibilitatea de a se întoarce la punctul de plecare navigând mereu spre răsărit.”
― Gabriel García Márquez[1]Un veac de singurătate

 

*****

Fără dubiu, pământul e rotund ca o portocală. Dar până a fi universal acceptat, câți s-au opus? Unii încă se mai opun…

Câți dinozauri s-au opus, de-a lungul timpului, gândirii libere? Câte cărți au fost arse? Eu încă mă bucur că pot scrie liber, aici pe blog. Cine știe și pentru cât timp…

Observ că azi a gândi și a scrie liber devine riscant. Riscant e să scrii și despre drepturi – unii te vor eticheta drept conspiraționist. Dar să îndrăznești să scrii despre date personale – mare ghinion! Țara arde, iar în viziunea unor persoane, cei care încă gândesc ar trebui să vorbească mai puțin. Scriam, prin aprilie, despre o apocalipsă Zcolaterală pandemiei COVID-19…

Dar despre viața privată s-a scris timid încă din antichitate când Aristotel făcea distincția între sfera publică și sfera privată. Probabil sfera privată este cea pe care, mult mai târziu, Mill a numit-o „sfera potrivită a libertății umane”. Și mă întreb, inevitabil: cum ar putea exista celelalte drepturi, dacă nu ar exista o ordine care să le protejeze? Nu cumva viața privată protejează chiar „nucleul existenței umane?”[2] Dacă dreptul la viață privată mai poartă și o altă denumire – dreptul de a fi lăsat în pace – cum ar putea exista libertate dacă omul nu ar putea fi lăsat în pace să fie el însuși? Mai poate un om intens supravegheat și monitorizat să fie liber? Sigur că există limite la viața privată, dar aceste limite trebuie să fie proporționale… Limite decente, rezonabile. Și o cale de atac.

Omului îi e frică de AI…

Sigur că îi e frică. Cui nu i-ar fi frică de o mașină fără conștiință și fără sentimente care va lua decizii în ceea ce îl privește? Dacă dacă AI-ul e inevitabil, nu cumva GDPR-ul e chiar scutul care protejează omul în fața mașinii? Dacă datele personale sunt hrană pentru AI, nu cumva GDPR-ul îți permite să spui STOP? Ce spune, în esență, art. 22 din RGPD? Că omul are, de exemplu, dreptul la intervenție umană atunci când o mașină ia o decizie semnificativă în privința sa…

Da, GDPR a venit să ne protejeze nu doar viața privată, ci și celelalte drepturi fundamentale. Nu e vorba despre a avea sau nu ceva de ascuns, e vorba despre putere, manipulare și control. Noi toți avem și o identitate digitală creată de marii giganți IT. Iar aceste informații colectate pot fi utilizate pentru „a controla întreaga existență a unei persoane: gândurile ei, ideile și acțiunile”[3]

Eu cred că azi nu mai are rost să vorbim despre AI într-un context îndepărtat din viitor. Nu, AI-ul e printre noi, fie că vrem să observăm asta, fie că nu. Unii au deja AI în case, alții mai așteaptă. Unii utilizează AI la locul de muncă, alții încă nu. Roboții nu vor veni pur și simplu. Nu va apărea nicio știre care anunță că roboții sunt printre noi. Ei sunt deja printre noi, vor intra treptat în case și în viață prin dispozitive și lucruri conectate la internet și se află peste tot pe internet. Atunci când vezi pe internet chiar acea reclamă relevantă, nu e un AI în spate care ți-a profilat interesele și personalitatea? Facebook și Twitter se luptă de multă vreme cu boții care răspândesc fake-news.

Putem scăpa de AI? Nu am avea cum dacă vrem să beneficiem de noile tehnologii, dar, din fericire, GDPR ne oferă drepturi care ne-ar putea interesa…

În cele din urmă, GDPR ne protejează chiar libertatea de a alege. Câte cumpărături sunt astăzi făcute ca urmare a reclamelor de care nu mai putem scăpa? Dar cum ar fi dacă AI-ul ne-ar afecta chiar libertatea ne exercita dreptul de vot? Nimeni nu a putut să demonstreze că voturile oamenilor au fost influențate în alegerile din SUA și în Brexit, dar ICO, după ce a amendat Facebook a concluzionat[4]:

„(…) We may never know whether individuals were unknowingly influenced to vote a certain way in either the UK EU referendum or the in US election campaigns. But we do know that personal privacy rights have been compromised by a number of players and that the digital electoral ecosystem needs reform. (…)”[5]

Este aproape imposibil a putea demonstra că un om a făcut o alegere conștientă sau a fost influențat de un AI. Nimeni nu poate ști ce e în mintea unei persoane atunci când face o alegere. Uneori nici subiectul nu își poate da seama cine sau ce (în cazul AI) l-a influențat să ia o anumită decizie.

Manipularea poate fi subtilă și prin subtilitatea ei devine mai periculoasă.

De cele mai multe ori suntem determinați să ne dăm informațiile printr-o atitudine extrem de prietenoasă, pe modelul Facebook:

„Hei, la ce te mai gândești azi? Spune-ne și nouă”.

Se utilizează încrederea („Suntem prietenii tăi”) pentru a ne simți în siguranță să dezvăluim cât mai mult. Iar dezvăluirea acestor informații deschide orizonturi noi pentru profilare, targhetare, control și manipulare.

Jamie Susskind afirma:

„ (…) Cei care stăpânesc aceste tehnologii ne vor stăpâni din ce în ce mai mult și pe noi. Ei vor avea putere, ceea ce înseamnă că vor avea o capacitate constantă și vastă de a ne determina să facem lucruri semnificative pe care, altfel, nu le-am face.”[6]

Același autor afirma:

„Eu consider că, în viitor, puterea va îmbrăca trei forme. Prima este forța (…). A doua este supravegherea (…). A treia este controlul percepției (…). Tehnologia digitală va deveni tot mai mult sursa principală a celor trei. Aceasta înseamnă că cei care stăpânesc tehnologiile forței, supravegherii și controlului percepției vor fi cei puternici, iar cei care nu le stăpânesc vor fi, în consecință, lipsiți de putere.[7]

Dar oare ne-am fi dat datele dacă am fi fost informați, pe limba noastră, asupra riscurilor pe care le presupun furnizarea datelor personale? Informările GDPR sunt azi intenționat ascunse în link-uri și pagini greu de accesat… Și dacă omul ajunge, în cele din urmă, la documentele care îl interesează, renunță rapid: prea lungi, prea multă legaleză!

În 2019, câștigam locul II la Global Legal Hackathon Bucharest cu un propotip de extensie chrome care, odată instalată, te avertiza înainte să furnizezi datele și îți traducea și rezuma pe înțelesul tău esențialul, sub formă de acordeon. Am prezentat această idee în speranța că cineva o va implementa cândva…

Cine are puterea?

Așa cum am arătat anterior, cei care dețin tehnologia au atât puterea economică, cât și abilitatea de exercita controlul. Așadar mă întreb: cine deține puterea? Are Europa giganți IT? Și mai mult, mă întreb, ce a vrut să spună CJUE, de fapt, vara asta, atunci când a invalidat Privacy Shield?[8] CJUE a spus, în esență, că datele europenilor nu sunt în siguranță în SUA pentru că europenii nu au mecanisme legale împotriva serviciilor secrete americane. Și în 2015 CJUE a spus ceva similar atunci când a invalidat Safe Harbour[9]. Și Comitetul European privind Protecția Datelor (CEPD) a decis în ultima plenară să inițieze o acțiune prin care să supravegheze activitățile de prelucrare ale aplicației din TikTok din China.

Fără tehnologie și fără o cultură a protecției datelor personale, devenim vulnerabili. Și poate ar trebui să ne gândim de două ori înainte să vindem un start-up cu potențial în afara Europei… Așa cum afirma și Silvia Uscov, „noua monedă de schimb este informația, iar noul capitalism este cel al supravegherii”[10]

Iar atunci când transferăm baze de date, ar trebui să ne întrebăm: cui dăm putere?

Autoritatea Europeană pentru Protecția Datelor (AEPD) a desfășurat o investigație independentă cu privire la utilizarea produselor și serviciilor Microsoft de către instituțiile UE și a arătat, într-un raport[11], diverse îngrijorări cu privire la datele europenilor și recomandări pentru instituțiile care ar trebui să își negocieze mai bine poziția pentru a proteja datele europenilor.[12]

Devenim vulnerabili mai ales din punct de vedere economic. Mulți spun: serviciul lui, regulile lui. Take it or leave it. Dar dacă legiuitorul european ne-a oferit niște drepturi și în raport cu serviciile gratuite oferite de companii din alte state, nu ar trebui aceste drepturi exercitate? De ce să rămână aceste drepturi o pură ficțiune? Dacă art. 80 din GDPR dă undă verde la procese colective, de ce nu se întâmplă aproape nimic? GDPR a venit în România și s-a oprit la consimțământ…

Despre digitalizare…

Dar pentru majoritatea nu contează că digitalizarea fără respectarea drepturilor omului implică riscuri. Fiecare dorește să își trăiască viața liniștit. Pe bună dreptate – azi dacă vorbești oamenilor de protecția datelor, te etichetează drept conspiraționist. Dar ar putea fi Comisia etichetată drept conspiraționistă dacă a supus dezbaterii, în contextul digitalizării, dreptul omului la o alternativă offline?[13] Ar putea fi AEPD etichetată drept conspiraționistă pentru că a pus în discuție, „the right to silence of the chips?”[14]  

Acest drept era pus în discuție în contextul tehnologiei RFID.

Sunt multe tehnologii pe care juriștii nu le cunosc și sunt multe legi pe care IT’istii nu le înțeleg. Și mă întreb: de ce ne-am îndepărtat așa tare? De ce la noi încă sunt ceva SF departamentele mixte juridico-tehnice? Privacy by design, privacy by default – ce concepte frumoase! Dar cum ar putea fi implementate drepturile omului în contextul digitalizării fără o comunicare strânsă între IT și Juridic? Legal UX/UI – experiența digitală legală a utilizatorului. Ce drepturi are utilizatorul în fața mașinii? Multe din perspectiva GDPR.

Un drept la informare – omul are dreptul să cunoască cum funcționează tehnologia și contextul utilizării datelor.

Un drept la acces – omul are dreptul să își poată accesa datele atunci când dorește.

Un drept la restricționare, opoziție, portabilitate, ștergere. Un drept de a se adresa justiției. Un drept de a se adresa cu o plângere la ANSPDCP.

La prima vedere aceste drepturi sună abstract, dar am putea citi despre ele și afla cum ne putem exercita aceste drepturi în raport cu tehnologiile invazive. Am putea începe cu RGPD și cu orientările CEPD.

Iar noile tehnologii ar trebui dezvoltate cu drepturile omului în minte. Omul trebuie să rămână în control nu pentru a evita o amendă de până la 4% din cifra de afaceri, ci pentru a da esență libertății. GDPR înseamnă mult mai mult decât securitate. Privacyinternational.org scria:

„Dreptul la viață privată înseamnă să ai o opțiune – să ai o opțiune de a decide cui dezvălui informații personale, să ai o opțiune să stabilești limite, să ai o opțiune să limitezi cine are acces la datele privind sănătatea ta, la locurile pe care le vizitezi, la cercul de prieteni. Dreptul la viață privată îți permite să ai control asupra cine ești și asupra modalității în care interacționezi cu lumea din jurul tău.”

Gânduri de final…

Mihai Șandru[15] scria, într-un articol[16]:

„(…) Ne-am instrumentalizat, am pierdut sensul spațiului, ne-am încapsulat. Vom rămâne în bula comodă, în vorba tocmită ieftin, deplasabilă on-line, cu un cursor în loc de busolă și cu participanți on-line? Dacă principiul proporționalității participării la concert cu acela al deschiderii la orice oră a unei înregistrări va fi înlocuit, va trebui să mai înlocuim o parte a minții noastre cu o mulțime vidă. Vom descoperi farmecul vidului înfășurat în discuții virtuale, vom fi parte a noului univers virtual. Mai apoi, ne vor înlocui roboții, care oricum vor ști mai multă carte decât noi și vor avea mai multe răspunsuri decât întrebări. Devenim conserve proaspete. Dar asta nu e o noutate. Doar că acum trăirea oximoronică devine regulă. (…)”

Tot despre pierderea sensului spațiului vorbea și Silvia Uscov[17], într-un articol:

„(…) spațiul nu mai există atunci când suntem interconectați într-o vastă rețea și doar timpul ne mai poate salva (…)”

Conserve proaspete[18] , dar cu drepturi care au tendința să rămână teoretice și iluzorii.

Scott McNealy afirma în 2009 „You have zero privacy anyway. Get over it!”. Acestă opinie pare expirată având în vedere că în ultimii ani drepturile omului în fața tehnologiei au dobândit noi forțe, mai ales odată cu apariția GDPR. Și, cu puțin efort, se vor configura noi drepturi care să răspundă noului context digital.

Și poate că nu este vorba doar despre noi. Interesul generațiilor care urmează nu contează deloc? Tare mă tem că, mergând pe această mentalitate, generațiile ce vor urma vor citi basme despre drepturile omului… Dar eu nu am început cu un citat din Kafka, ci din Marquez…

No panic, just good vibes. Pământul e rotund. Teoriile conspirației nu își au rostul. Eu vorbeam despre protecția datelor. Dacă inteligența artificială e printre noi, poate că libertatea ar mai putea avea o șansă…

 

*****

 

[1] Scriitor columbian. Operele lui G.G. Marquez aparțin realismului magic definit de evenimentele care au loc atunci când un cadru realist detaliat este invadat de ceva prea ciudat pentru a fi verosimil. –  Strecher, Matthew C. 1999. Magical Realism and the Search for Identity in the Fiction of Murakami Haruki. Journal of Japanese Studies 25(2):263–98, p. 267.

[2] Elena Simina Tănăsescu, judecător la Curtea Constituțională „Există viață privată în satul global?” în prefața lucrării doamnei Simona Șandru, Protecția datelor personale și viața privată, Ed. Hamangiu, 2016.

[3] Daniel J. Solove, The Digital Person Technology and Privacy in the Information Age, New York University, 2004, p. 31.

[4] https://ico.org.uk/media/action-weve-taken/2260271/investigation-into-the-use-of-data-analytics-in-political-campaigns-final-20181105.pdf, p. 4, link accesat 25.08.2020.

[5] Ibidem.

[6] Jamie Suuskind, Politica viitorului. Tehnologia digitală și societatea, Ed. Corint, 2019, p. 15.

[7] Idem, p. 107.

[8] Hotărârea CJUE în Cauza C-311/18 poate fi consultată aici.

[9] Hotărârea CJUE în Cauza C-362/14 poate fi consultată aici.

[10] Silvia Uscov, „De la începuturi a fost digitalizarea”, juridice.ro, 2020, https://www.juridice.ro/680873/si-la-inceputuri-a-fost-digitalizarea.html, link accesat 22.08.2020.

[11] Raportul poate fi consultat aici, link accesat 17.07.2020

[13] Ronald Leenes Rosamunde van Brakel, Serge Gutwirth, Paul De Hert (coord.), Data Protection and Privacy: (In) visibilities and Infrastructures, Ed. Springer, Issues in Privacy and Data Protection, Vol. 36, 2015, p. 31-55.

[14] https://edps.europa.eu/sites/edp/files/publication/10-03-19_trust_information_society_en.pdf

[15] Daniel-Mihail Şandru este cercetător științific gr. I, a fondat şi coordonează Centrul de Studii de Drept European al Institutului de Cercetări Juridice „Acad. Andrei Rădulescu” al Academiei Române. Profesor universitar la Universitatea Creştină Dimitrie Cantemir şi Universitatea din Bucureşti. Arbitru la Curtea de Arbitraj Comercial Internaţional de pe lângă Camera de Comerţ şi Industrie a României și  judecător ad hoc la Curtea Europeană a Drepturilor Omului. Preşedinte al Societăţii de Ştiinţe Juridice şi al Asociaţiei Române de Drept şi Afaceri Europene. Redactor şef al Revistei române de drept european (Wolters Kluwer).

[16] Mihai Șandru, Conserve Proaspete, juridice.ro, link accesat 27.08.2020.

[17] Silvia Uscov, „De la începuturi a fost digitalizarea”, juridice.ro, 2020, https://www.juridice.ro/680873/si-la-inceputuri-a-fost-digitalizarea.html, link accesat 22.08.2020.

[18] Mihai Șandru, Conserve Proaspete, juridice.ro, link accesat 27.08.2020.

Lasă un răspuns

Lasă un răspuns

Completează mai jos detaliile tale sau dă clic pe un icon pentru a te autentifica:

Logo WordPress.com

Comentezi folosind contul tău WordPress.com. Dezautentificare /  Schimbă )

Fotografie Google

Comentezi folosind contul tău Google. Dezautentificare /  Schimbă )

Poză Twitter

Comentezi folosind contul tău Twitter. Dezautentificare /  Schimbă )

Fotografie Facebook

Comentezi folosind contul tău Facebook. Dezautentificare /  Schimbă )

Conectare la %s