Algoritmii AI pot influența oamenii

atunci când iau decizii 

                                                     

   Potrivit cercetătorilor, algoritmii bazați pe inteligența artificială pot influența oamenii să prefere un candidat politic - sau un viitor partener - în locul unui alt candidat. „Suntem îngrijorați că toată lumea folosește algoritmi de recomandare tot timpul, dar nu au existat informații despre cât de eficienți sunt acești algoritmi de recomandare”, spune Helena Matute de la Universitatea Deusto din Spania. Munca ei cu colegul ei Ujué Agudo, tot la Universitatea din Deusto, a fost concepută pentru a investiga problema.

   Cercetătorii au efectuat o serie de patru experimente în care participanților li s-a spus că interacționează cu un algoritm care le va judeca personalitatea. „Algoritmul” nu a făcut de fapt acest lucru: a fost un algoritm simulat care a răspuns în același mod, indiferent de informațiile pe care i le-au dat oamenii. După ce participanții au răspuns la întrebările falsului algoritm, acesta le-a prezentat fotografii ale potențialilor parteneri cu care s-ar putea întâlni sau lideri politici pe care ar putea să-i voteze - deși „politicienii” erau pur și simplu fotografii ale unor persoane care nu le erau familiare.

   Uneori, algoritmul simulat al cercetătorilor i-a determinat în mod explicit pe utilizatori să aleagă una dintre persoanele fotografiate. S-ar putea afirma, de exemplu, că a descoperit o potrivire de compatibilitate de 90% între utilizator și potențialul partener sau politician din fotografie. În alte cazuri, reperul era implicit: algoritmul ar putea pur și simplu să arate utilizatorului o fotografie anume mai des.

   Participanții la studiu au fost extrasa de pe Twitter în limba spaniolă și de pe platforma de sondaje online Prolific. În funcție de experiment, au participat între 218 și 441 de persoane. Indivizii au fost întrebați ce fotografii preferau. Erau mai predispuși să prefere candidații politici care le erau prezentați în mod explicit prin algoritmul simulat și mai probabil să dorească să se întâlnească cu cei care erau selectați implicit. Din acest motiv, am putea fi înclinați să punem mai mult în discuție recomandările algoritmice atunci când vine vorba de probleme ale inimii. „Autorii ridică punctul cu adevărat important și înspăimântător că inteligența artificială, datele mari și bazele largi de utilizatori oferă oportunități fără precedent corporațiilor private de a-și rafina înțelegerea și aplicarea puterilor de persuasiune”, spune Ella McPherson de la Universitatea din Cambridge.

   „Acest studiu întărește cererile ca platformele precum Facebook și Google să fie mai transparente cu privire la propriii algoritmi”, spune Steven Buckley de la Universitatea din Vestul Angliei, Bristol, în Marea Britanie. „Dacă nu publicului larg, atunci cel puțin cadrelor universitare care pot cerceta ceea ce ne fac algoritmii cu care ne angajăm zilnic”.