Algoritmii ar putea influența din ce în ce mai mult cultura umană, chiar dacă nu avem o înțelegere bună a modului în care interacționează cu noi sau între ei. Un nou studiu arată că oamenii pot învăța lucruri noi din sistemele de inteligență artificială și le pot transmite altor oameni, în moduri care ar putea influența o cultură umană mai largă. Studiul, publicat luni de un grup de cercetători de la Centrul pentru Om și Mașini de la Institutul Max Planck pentru Dezvoltare Umană, sugerează că, în timp ce oamenii pot învăța din algoritmi cum să rezolve mai bine anumite probleme, prejudecățile umane au împiedicat îmbunătățirea performanței să dureze. Oamenii aveau tendința de a prefera soluțiile de la alți oameni față de cele propuse de algoritmi. Tehnologia digitală influențează deja procesele de transmitere socială între oameni, oferind noi și mijloace mai rapide de comunicare și imitare”, scriu cercetătorii în studiu.
„Mergând cu un pas mai departe, susținem că, mai degrabă decât un simplu mijloc de transmitere culturală (cum ar fi cărțile sau internetul), agenții algoritmici și inteligența artificială pot juca, de asemenea, un rol activ în modelarea proceselor de evoluție culturală online, unde oamenii și algoritmii interacționează în mod obișnuit.” Cheia acestei cercetări se bazează pe o întrebare relativ simplă: dacă învățarea socială, sau capacitatea oamenilor de a învăța unii de la alții, formează baza modului în care oamenii transmit cultura sau rezolvă problemele în mod colectiv, cum ar arăta învățarea socială între oameni și algoritmi. ? Având în vedere că oamenii de știință nu știu întotdeauna și adesea nu pot reproduce modul în care funcționează sau se îmbunătățesc proprii algoritmi, ideea că învățarea automată ar putea influența învățarea umană – și cultura însăși – de-a lungul generațiilor este una înspăimântătoare. „Există un concept numit evoluție culturală cumulativă, în care spunem că fiecare generație trage mereu în sus de generația următoare, de-a lungul istoriei omenirii”, a declarat Levin Brinkmann, unul dintre cercetătorii care au lucrat la studiu, pentru Motherboard. „Evident, inteligența artificială se îndreaptă asupra istoriei umane – ei sunt instruiți pe date umane. Dar ni s-a părut interesant să ne gândim și la invers: poate că în viitor cultura noastră umană va fi construită pe soluții care au fost găsit inițial de un algoritm.”
Sursa foto: vice.com
Un exemplu timpuriu citat în cercetare este Go, un joc de masă de strategie chinez care a văzut un algoritm – AlphaGo – l-a învins pe campionul mondial uman Lee Sedol în 2016. AlphaGo a făcut mișcări care erau extrem de puțin probabil să fie făcute de jucători umani și au fost învățate de la sine -jucați în loc să analizați datele despre jocul uman. Algoritmul a fost făcut public în 2017 și astfel de mișcări au devenit mai frecvente în rândul jucătorilor umani, sugerând că o formă hibridă de învățare socială între oameni și algoritmi nu era doar posibilă, ci și durabilă. Știm deja că algoritmii pot și afectează în mod semnificativ oamenii. Acestea nu sunt folosite doar pentru a controla lucrătorii și cetățenii la locurile de muncă fizice, ci și pentru a controla lucrătorii pe platformele digitale și pentru a influența comportamentul persoanelor care le folosesc. Chiar și studiile de algoritmi au previzualizat ușurința îngrijorătoare cu care aceste sisteme pot fi folosite pentru a practica frenologie și fizionomie. O analiză federală a algoritmilor de recunoaștere facială din 2019 a constatat că aceștia erau plini de părtiniri rasiale. O lucrare Nature din 2020 a folosit învățarea automată pentru a urmări schimbările istorice în modul în care „încrederea” a fost descrisă în portrete, dar a creat diagrame care nu se pot distinge de binecunoscutele broșuri de frenologie și a oferit concluzii universale dintr-un set de date limitat la portretele europene ale subiecților bogați. „Nu cred că munca noastră poate spune foarte multe despre formarea de norme sau cât de mult poate interfera AI cu asta”, a spus Brinkmann. „Ne concentrăm pe un alt tip de cultură, ceea ce ai putea numi cultura inovației, nu? O valoare sau o performanță măsurabilă în care puteți spune clar: „Bine, această paradigmă, ca și în cazul AlphaGo, este poate mai probabil să ducă la succes sau mai puțin probabil.”
Pentru experiment, cercetătorii au folosit „lanțuri de transmisie”, în care au creat o secvență de probleme de rezolvat, iar participanții au putut observa soluția anterioară (și o copia) înainte de a o rezolva ei înșiși. Au fost create două lanțuri: unul cu doar oameni și unul hibrid om-algoritm în care algoritmii îi urmăreau pe oameni, dar nu știau dacă jucătorul anterior era un om sau un algoritm. Sarcina de rezolvat a fost de a găsi „o secvență optimă de mișcări” pentru a naviga într-o rețea de șase noduri și a primi premii cu fiecare mișcare. „Așa cum era de așteptat, am găsit dovezi ale unei îmbunătățiri a performanței de-a lungul generațiilor datorită învățării sociale”, au scris cercetătorii. „Adăugarea unui algoritm cu o părtinire de rezolvare a problemelor diferită de cea a oamenilor a îmbunătățit temporar performanța umană, dar îmbunătățirile nu au fost susținute în generațiile următoare. În timp ce oamenii au copiat soluții din algoritm, au părut să facă acest lucru la o rată mai mică decât au copiat soluțiile altor oameni cu performanțe comparabile.”
Brinkmann a spus pentru Motherboard că, deși au fost surprinși că soluțiile superioare nu au fost adoptate mai frecvent, acest lucru a fost în conformitate cu alte cercetări care sugerează că părtinirile umane în luarea deciziilor persistă în ciuda învățării sociale. Totuși, echipa este optimistă că cercetările viitoare pot oferi o perspectivă asupra modului de modificare. „Un lucru la care ne uităm acum este ce efecte colective ar putea juca un rol aici”, a spus Brinkmann. „De exemplu, există ceva numit „prejudecată de context”. Este vorba într-adevăr de factorii sociali care pot juca și ei un rol, despre soluțiile neintuitive sau străine pentru un grup care pot fi susținute.
Jurnal FM 
