Inteligența artificială poate prezice rasa oamenilor din imaginile cu raze X, iar oamenii de știință sunt îngrijorați

Potrivit unor noi cercetări, modelele de învățare profundă bazate pe inteligența artificială pot identifica rasa cuiva doar prin uitarea la razele X, ceea ce ar fi imposibil pentru un medic uman care ar privi aceleași fotografii. Descoperirile ridică câteva preocupări serioase cu privire la rolul AI în diagnosticul, evaluarea și tratamentul medical: ar putea algoritmii computerizati să aplice în mod eronat părtinire rasială atunci când analizează fotografii ca acestea? O echipă internațională de cercetători în domeniul sănătății din Statele Unite, Canada și Taiwan și-a testat inteligența artificială pe imagini cu raze X pe care programul de calculator nu le-a văzut niciodată înainte, după antrenament, cu sute de mii de imagini cu raze X existente, adnotate cu specificul pacientului. rasă.

Sursa foto: thesciverse.com

Chiar și atunci când scanările au fost făcute de la persoane de aceeași vârstă și sex, AI a putut prezice identificarea rasială a pacientului pe aceste fotografii cu o acuratețe uimitoare. Cu unele grupuri de fotografii, sistemul a atins o precizie de 90%. „Am urmărit să efectuăm o evaluare cuprinzătoare a capacității AI de a recunoaște identitatea rasială a unui pacient din imaginile medicale”, au scris cercetătorii în raportul lor publicat. „Arătăm că modelele standard de învățare profundă AI pot fi antrenate pentru a prezice cursa din imagini medicale cu performanțe ridicate în mai multe modalități de imagistică, care a fost susținută în condiții de validare externă”. Scanările cu inteligență artificială ale imaginilor cu raze X au avut mai multe șanse să rateze indicatorii de boală în rândul persoanelor de culoare, conform cercetărilor anterioare. Oamenii de știință trebuie să-și dea seama mai întâi de ce se întâmplă acest lucru. Inteligența artificială (AI) este concepută pentru a reproduce gândirea umană pentru a descoperi rapid modele în date. Cu toate acestea, aceasta înseamnă că este susceptibilă la aceleași părtiniri în mod neintenționat. Mai rău, complexitatea lor face dificilă divorțarea de prejudecățile noastre de ele. Oamenii de știință nu sunt acum siguri de ce sistemul AI este atât de bun la identificarea rasei din fotografii care nu par să conțină astfel de informații. Chiar și cu informații minime, cum ar fi omiterea indicii despre densitatea osoasă sau concentrarea pe o porțiune minusculă a corpului, modelele au fost foarte bune în a prezice rasa reprezentată în dosar. Este posibil ca sistemul să detecteze melanina, pigmentul care dă culoarea pielii, în moduri pe care știința nu le-a descoperit încă. „Descoperirea noastră că AI poate prezice cu exactitate rasa auto-raportată, chiar și din imaginile medicale corupte, tăiate și zgomote, adesea atunci când experții clinici nu pot, creează un risc enorm pentru toate implementările de modele în imagistica medicală”, scriu cercetătorii. Studiul adaugă unui număr tot mai mare de date că sistemele AI pot reproduce adesea prejudecățile și prejudecățile umane, fie că sunt rasiste, sexiste sau de altă natură. Datele de antrenament distorsionate pot duce la constatări denaturate, făcându-le inutile.

Acest lucru trebuie să fie echilibrat cu capacitatea puternică a inteligenței artificiale de a procesa mult mai multe date mult mai rapid decât pot oamenii, în orice, de la diagnosticarea bolilor până la previziunile schimbărilor climatice. Există multe întrebări nerezolvate din studiu, dar, deocamdată, este esențial să fim conștienți de posibilitatea unei părtiniri rasiale în sistemele de inteligență artificială – mai ales dacă le vom acorda mai multă responsabilitate în viitor. „Trebuie să facem o pauză”, a declarat cercetătorul și medicul de la Massachusetts Institute of Technology, Leo Anthony Celi, pentru Boston Globe. „Nu ne putem grăbi să aducem algoritmii în spitale și clinici până când nu suntem siguri că nu iau decizii rasiste sau sexiste”. Sursa: thesciverse.com