Current track

Title

Artist


Microsoft intenționează să oprească vânzările de tehnologie de recunoaștere facială care prezic emoțiile

#Postat de on iunie 22, 2022

Microsoft a declarat marți că intenționează să oprească vânzările de tehnologie de recunoaștere facială care prezic emoțiile, sexul sau vârsta unei persoane și să restricționeze accesul la alte IA. servicii, deoarece riscă să „supună oamenii stereotipurilor, discriminării sau refuzării neloiale a serviciilor”. Mișcarea vine în urma criticilor intense la adresa unei astfel de tehnologii, care a fost folosită de companii pentru monitorizarea solicitanților de locuri de muncă în timpul interviurilor. Sistemele de recunoaștere facială sunt adesea instruite pe baze de date predominant albi și bărbați, astfel încât constatările lor pot deveni părtinitoare atunci când sunt utilizate pe alte culturi sau grupuri. Într-o postare pe blog, Microsoft a făcut referire la munca sa în interior și cu cercetători externi pentru a dezvolta un standard de utilizare a tehnologiei. Postarea a recunoscut că munca a găsit probleme serioase cu fiabilitatea tehnologiei. „Aceste eforturi au ridicat întrebări importante despre confidențialitate, lipsa de consens cu privire la o definiție a „emoțiilor” și incapacitatea de a generaliza legătura dintre expresia facială și starea emoțională în cazuri de utilizare, regiuni și demografie”, a spus Sarah Bird, grupul principal. manager de produs la Microsoft Azure A.I. unitate. Companii precum Uber folosesc în prezent tehnologia Microsoft pentru a se asigura că șoferii la volan își potrivesc conturile înregistrate.

Sursa foto: internet

În urmă cu doi ani, Microsoft a întreprins un proces de revizuire pentru a dezvolta un „Responsible A.I. Standard” și ghidează construirea unor sisteme de inteligență artificială mai echitabile și de încredere. Compania a publicat marți rezultatul acestor eforturi într-un document de 27 de pagini. „Prin introducerea accesului limitat, adăugăm un nivel suplimentar de control la utilizarea și implementarea recunoașterii faciale pentru a ne asigura că utilizarea acestor servicii este aliniată cu IA responsabilă de la Microsoft. Standard și contribuie la beneficiile de mare valoare pentru utilizatorii finali și pentru societate”, a scris Bird în postarea de blog de marți. „Recunoaștem că, pentru ca sistemele IA să fie de încredere, ele trebuie să fie soluții adecvate la problemele pe care sunt proiectate să le rezolve”, a scris Natasha Crampton, responsabil șef IA. ofițer la Microsoft, într-o altă postare pe blog. Crampton a continuat spunând că compania va retrage A.I. capabilități care „inferează stări emoționale și atribute de identitate, cum ar fi sexul, vârsta, zâmbetul, părul facial, părul și machiajul” ca o cerință a noului său standard. Dar tehnologia va fi în continuare încorporată în instrumentele de accesibilitate ale companiei, cum ar fi Seeing A.I., care descrie obiecte pentru persoanele cu deficiențe de vedere. Decizia vine pe măsură ce S.U.A. și U.E. legislatorii dezbat întrebări juridice și etice cu privire la utilizarea tehnologiei de recunoaștere facială. Anumite jurisdicții impun deja limite pentru implementarea tehnologiei.
Începând cu anul viitor, angajatorii din New York City se vor confrunta cu reglementări sporite cu privire la utilizarea instrumentelor automate pentru a selecta candidații. În 2020, Microsoft s-a alăturat altor giganți ai tehnologiei și s-a angajat să nu-și vândă sistemele de recunoaștere facială către departamentele de poliție până când vor exista reglementări federale. Dar academicienii și experții au criticat instrumente precum API-ul Microsoft Azure Face care pretind că identifică emoțiile din videoclipuri și imagini de ani de zile. Munca lor a arătat că chiar și sistemele de recunoaștere facială cu cele mai bune performanțe identifică greșit în mod disproporționat femeile și persoanele cu tonuri de piele mai închise. Clienții noi nu mai pot folosi funcțiile Microsoft pentru a detecta emoțiile și vor trebui să solicite aprobare pentru a utiliza alte servicii în API-ul Azure Face. Clienții care revin au la dispoziție un an pentru a obține aprobarea dacă doresc să continue să utilizeze software-ul. Sursa: fortune.com

Reader's opinions

Leave a Reply

Your email address will not be published. Required fields are marked *