UE caută să interzică utilizările „inacceptabile” ale inteligenței artificiale

Pentru prima dată, Comisia UE a prezentat o lege care reglementează sistemele automate de luare a deciziilor. „Supravegherea în masă” de către AI (Inteligență Artificială) ar trebui interzisă, dar supravegherea biometrică în timp real ar trebui să rămână uneori permisă. Comisia Europeană a prezentat o propunere legislativă pentru reglementarea sistemelor automate de luare a deciziilor. Cererile cu risc ridicat urmează să fie supuse aprobării, iar Comisia ar dori să interzică în totalitate anumite forme de astfel de sisteme. Propunerea acordă o atenție deosebită supravegherii video biometrice în locurile publice. Acest lucru ar trebui interzis, în principiu, din cauza riscurilor sale pentru protejarea drepturilor fundamentale, dar utilizarea unei astfel de tehnologii rămâne permisă în „câteva cazuri excepționale definite în mod restrâns”. Noua propunere legislativă face parte dintr-un pachet de măsuri menite să asigure utilizarea sigură, etică și conformă cu drepturile fundamentale a așa-numitei inteligențe artificiale (AI).

Comisia UE înțelege că aceasta înseamnă nu numai software-ul care folosește învățarea automată și rețelele neuronale, ci practic multe sisteme algoritmice de luare a deciziilor și de recomandare. Pe lângă noua lege AI, comisia propune și o reglementare a mașinilor care ar trebui să creeze noi reguli de siguranță pentru roboți, imprimante 3D și alte dispozitive. Noul pachet legislativ a fost prezentat miercuri la Bruxelles de vicepreședintele Comisiei, Margrethe Vestager, și de comisarul pentru piața internă, Thierry Breton. Este prima lege din Uniunea Europeană care reglementează inteligența artificială, a spus Vestager. „Cu cât riscul pe care îl reprezintă AI pentru viețile noastre este mai mare, cu atât regulile sunt mai stricte.” UE creează o listă a sistemelor cu risc ridicat Inima legii propuse privind inteligența artificială este o listă de aplicații care vor fi clasificate drept „cu risc ridicat” în viitor și care trebuie aprobate. Comisia citează sisteme algoritmice în dispozitivele medicale și în mașinile cu conducere automată ca exemple. Pentru astfel de aplicații, furnizorii trebuie să prezinte o evaluare a riscurilor și măsuri de protecție și o documentație detaliată a sistemului. Folosirea unui „set de date de înaltă calitate” este necesară și pentru aplicațiile cu risc ridicat, pentru a evita riscurile și efectele discriminării din partea aplicației. În plus, activitățile sistemelor ar trebui să fie înregistrate pentru a decide exhaustivitatea organismelor de control umane. Utilizatorii ar trebui să fie informați cu privire la modul în care funcționează. Aplicațiile care implică „riscuri inacceptabile” pentru securitate, drepturile fundamentale sau mijloacele de trai ale oamenilor ar trebui interzise în totalitate. Documentele Comisiei citează, de exemplu, aplicațiile care manipulează liberul arbitru al utilizatorilor lor.

Aceasta include jucăriile care folosesc limbajul pentru a încuraja copiii să se comporte periculos. Folosirea „sistemelor de notare socială” de către guverne, deoarece acestea sunt deja folosite testează conform rapoartelor din China, este de asemenea interzisă. Noile reguli clasifică sistemele biometrice pentru identificarea persoanelor ca aplicații cu risc ridicat. Utilizarea în timp real a unor astfel de sisteme în locuri publice de către agențiile de aplicare a legii, după cum a fost testată în gara Berlin Südkreuz, reprezintă o mare amenințare la adresa drepturilor fundamentale. „Nu există loc pentru supravegherea în masă în societatea noastră”, a spus Vestager. Prin urmare, utilizarea detecției în timp real în locuri publice ar trebui să fie limitată la câteva excepții. De exemplu, Comisia citează căutarea țintită a victimelor infracțiunilor în bazele de date, pentru a evita un atac terorist iminent sau pentru a găsi suspecți de autori de infracțiuni grave. Asta poate însemna că supravegherea video biometrică a tuturor gărilor și a stadioanelor de fotbal este încă justificată. Ar trebui să existe un set mai slab de reglementări pentru aplicațiile clasificate ca fiind cu risc scăzut. Aceste reguli ar trebui să se aplice. Utilizatorii ar trebui să fie informați, de exemplu, atunci când au de-a face cu un chatbot. Marea majoritate a sistemelor de IA utilizate până în prezent în UE au intrat în această categorie, spune Comisia. Noile reglementări pentru aplicațiile militare ale inteligenței artificiale nu ar trebui să se aplice. Acestea nu intră sub incidența normelor UE privind piața internă, susține Comisia.

Statele UE ar putea crea propriile reguli în cadrul politicii comune de securitate și apărare. Autoritățile naționale ar trebui să aplice regulile Noile reguli urmează să fie puse în aplicare de către autoritățile naționale din statele UE, folosind ca model structurile de supraveghere existente pentru siguranța produselor. Este probabil ca autoritățile naționale de protecție a datelor să joace un rol în supraveghere. Agenția de rețea federală, Oficiul federal pentru securitatea informațiilor și autoritățile de protecție a datelor sunt potențiali candidați la un rol în controlul normelor. La nivel european, un Comitet european de inteligență artificială trebuie să sprijine autoritățile naționale cu avize juridice în aplicarea uniformă a normelor. Dacă noua lege este încălcată, sunt iminente pedepse severe. Producătorii care aduc o aplicație AI interzisă pe pe piață sau care încalcă reglementările privind manipularea corectă a datelor, de exemplu, se confruntă cu amenzi de până la 30 de milioane de euro sau până la șase procente din cifra lor de afaceri anuală globală. Aceasta înseamnă că suma maximă este mai mare decât cele patru procente stipulate de Regulamentul general privind protecția datelor. Propunerea legislativă a Comisiei se adresează acum Consiliului statelor UE și Parlamentului UE. În ultimele luni, parlamentarii de acolo au insistat în mod repetat pentru a stabili reguli mai stricte pentru anumite aplicații de IA, iar parlamentul ar putea acutiza din nou propunerile. O decizie nu este așteptată înainte de anul viitor.

Sursa:medium.com