CEPA: Algoritmii, o Cutie a Pandorei
Algoritmii sunt din ce în ce mai folosiți în luarea deciziilor. Dar pe măsură ce pătrund în viața de zi cu zi, există o absență îngrijorătoare de perspectivă în rândul indivizilor, guvernelor și cercetătorilor asupra modului în care aceștia funcționează, atrag atenția, într-o analiză CEPA, experții Alina Poliakova și Théophile Lenoir.
???? Abia acum guvernele din Europa și Statele Unite acordă atenție consecințelor potențiale privind deciziile algoritmice, cum ar fi părtinirea inerentă. Din păcate, totuși, există puține colaborări între guvernele transatlantice cu privire la modul de a injecta o mai mare transparență în luarea deciziilor algoritmice fără a încălca drepturile de proprietate intelectuală ale dezvoltatorilor. Întrucât Uniunea Europeană (UE) se pregătește să își lanseze strategia privind inteligența artificială la sfârșitul acestei luni (aprilie), este nevoie urgentă de o mai mare colaborare pentru a evita modelele antitetice de reglementare și cadrele de servilism.
În Europa, are loc o dezbatere activă privind reglementarea digitală mai largă, în special transparența algoritmică (așa cum ar spune unii europeni, UE preia conducerea în materie de reglementare pentru a compensa deficiențele de inovație). În schimb, în Statele Unite reglementarea tehnologică a dispărut în Congres, cum ar fi Algorithmic Accountability Act din 2019. Dar în rândul statelor membre ale UE, Franța a făcut din transparența algoritmică o prioritate.
Parlamentul European dezbate în prezent propunerea Comisiei Europene privind Legea piețelor digitale (DMA) și Legea serviciilor digitale (DSA), ambele ridicând întrebări cu privire la responsabilitatea și transparența sistemelor digitale. Înainte de finalizarea inițiativelor la nivelul UE, țări precum Franța încep deja să construiască politici de reglementare digitală pentru a anticipa viitoarele reglementări (preconizate în jurul lui 2023). Într-un recent proiect de lege, legiuitorii francezi au inclus mai multe modificări privind reglementarea informațiilor din DSA europeană. În paralel, actori precum Consiliul Audiovizualului Superior (CSA) își arogă puterea de a analiza platformele.
Astfel de agenții naționale se bazează pe activitatea nou-creatului Centru de experți în reglementarea digitală (PEReN), care oferă expertiză și asistență tehnică administratorilor în analiza datelor, programe de calculator, procesare algoritmică și auditarea algoritmilor utilizați de platformele digitale. PEReN oferă, de asemenea, expertiză tehnică și contribuie la evaluarea, investigarea studiilor efectuate de platformele digitale.
Deci, cum rămâne cu viziunea actorilor din sectorul privat și public de peste Atlantic? CEPA și Institutul Montaigne au organizat o discuție între experți americani și francezi pe aceste probleme pentru a încuraja un schimb de idei și parteneriate transatlantice.
Pare că ambele părți ale Atlanticului sunt de acord asupra unor puncte. De exemplu, nu există încă o înțelegere tehnologică de bază asupra modului în care funcționează algoritmii – nivelurile de expertiză variază dramatic între cercetători, decidenți politici și industrie. Cunoașterea modului în care funcționează algoritmii și inteligența artificială este limitată în special în rândul oficialilor guvernamentali. Această lipsă de cunoștințe generează un sentiment de decepție privind viitorul politicilor în rândul tehnologilor și firmelor de tehnologie, care doresc să construiască un ecosistem de inovație puternic și prosper. Pentru ei, sugestiile de reglementare, mai ales când vine vorba de etică, nu reușesc adesea să abordeze problemele de bază privind capacitățile tehnologice și colaborarea.
Cercetătorii încearcă să reducă diferența, pledând pentru o mai mare transparență și încurajând companiile private să facă mai mult pentru a aborda impactul potențial dăunător al sistemelor lor asupra drepturilor omului.
Dar preocuparea principală rămâne: lipsa cunoștințelor despre modul în care funcționează aceste sisteme. O bază de expertiză este esențială nu numai pentru o bună politică, ci creează și încredere reciprocă. Încrederea este un element crucial în utilizarea și reglementarea tehnologiei, care este profund legată de noțiunea de transparență. Colaborarea internațională – în special între SUA și UE – este necesară pentru a construi standarde și reguli comune, dar suspiciunea existentă între cetățeni, companii, guverne și cercetători continuă să submineze eforturile de colaborare.
Încrederea nu poate apărea în vid. Dacă o transparență mai mare este o soluție, aceasta nu este singura. Unii au propus auditarea acelor companii de tehnologie care dezvoltă și utilizează algoritmi potențial dăunători (a fost sugerat și în raportul 2020 al Institutului Montaigne, „Algorithms: Please Mind the Bias!”). Dar acum că algoritmii sunt încorporați în orice, de la rezultatele căutării la deciziile financiare, identificarea companiilor sau chiar a instituțiilor publice răspunzătoare va fi problematică, dacă nu chiar imposibilă. O altă provocare este dezvoltarea unui cadru de audit testat corespunzător, aplicabil unei game largi de tehnologii. Controlul intrării și ieșirii unui algoritm în diferite etape ale dezvoltării sale va introduce o formă de trasabilitate și capacitate de testare printr-o serie de teste consistente, dar aceasta va încetini, de asemenea, inevitabil timpul dintre cercetare, dezvoltare și implementare. Având în vedere lipsurile de cunoștințe, stabilirea unui proces adecvat de verificare și revizuire se va dovedi dificilă.
Dar un lucru este clar: este necesară o creștere rapidă a colaborării dintre guverne, cercetători și industrie, altfel Europa și Statele Unite vor rămâne în urmă în cursa pentru inovația tehnologică. Împărtășirea și dezvoltarea experienței franceze și americane a reglementării digitale este un bun punct de plecare, deoarece ambele se confruntă cu provocări similare în construirea unei încrederi mai mari. SURSA: Universul.net
