Horizontul orașului în timpul zilei, lângă port.
Mări / Podul Brooklyn și partea inferioară Manhattan pe 4 noiembrie 2019 în New York.

Este nevoie de o mulțime de automatizări pentru a face cel mai mare oraș al națiunii, dar este ușor pentru acest tip de automatizare să perpetueze problemele existente și să se încadreze inegal asupra rezidenților pe care trebuie să îi servească. Așadar, pentru a atenua daunele și pentru a crește în mod ideal beneficiile, New York a creat o poziție guvernamentală la nivel înalt, în esență, pentru a gestiona algoritmi.

Primarul Bill de Blasio a creat această slujbă, intitulată oficial „Algorithms Management and Policy Officer”, cu un ordin executiv pe care l-a semnat săptămâna trecută. Persoana care deține în final rolul va fi responsabilă, practic, de gestionarea eticii, care presupune elaborarea de orientări și bune practici pentru ca decidenții automatizați ai orașului să ia decizii mai echitabile, corecte și transparente.

De ce acum?

Primăria a anunțat crearea poziției în urma publicării unui raport (PDF) de către un panou al orașului numit Task Force pentru sisteme automate de decizie, care a petrecut aproximativ 18 luni evaluând utilizarea orașului de ceea ce numește sisteme automate de decizie sau ADS.

„Utilizarea ADS crește atât în ​​guvernul orașului New York, cât și în municipalitățile din Statele Unite”, notează raportul, „în timp ce orașele continuă să vadă valoare în furnizarea de servicii mai rapid și mai eficient rezidenților care depind de ele, eficientizând deciziile. realizarea proceselor, extinderea abilităților lor pentru a-și ajuta rezidenții și încercarea de a identifica și elimina orice prejudecată umană din munca lor. "

Recomandarea de bază a grupului a fost crearea unei singure entități în guvernul orașului pentru standardizarea principiilor de bază care trebuie aplicate de toate celelalte agenții din guvernul orașului care se bazează pe luarea deciziilor automatizate. Raportul sugerează, de asemenea, principii pe care managerul ar trebui să le includă în cadrul de referință atunci când este dezvoltat.

Raportul spune că un program puternic de educare și transparență publică ar trebui să fie unul dintre aceste aspecte. Orașul nu trebuie să explice doar în limbaj simplu ce sisteme algoritmice există, ci și să creeze procese în care indivizii pot solicita mai multe informații despre deciziile luate de aceste sisteme, de ce se iau aceste decizii și pot contesta acele decizii.

Mai mare decât Marele Apple

În unele moduri, orașul se poate dovedi un pat de testare pentru restul națiunii. Cu o populație de aproximativ 8,6 milioane de locuitori, New York City are mai mulți rezidenți aruncați în kilometri pătrați decât majoritatea statelor americane. Cele cinci orașe ale orașului, care stau singure, ar fi al 12-lea cel mai mare stat în funcție de populație, înfășurându-se după New Jersey și chiar înaintea Virginiei.

Deciziile din fiecare departament din fiecare stat sunt transmise din ce în ce mai mult către sisteme software care se dovedesc adesea atât opace cât și părtinitoare. Cărți întregi au fost scrise despre numeroasele moduri în care software-ul codat de mâinile omului, cu toate părtinirile noastre inconștiente umane, poate perpetua inegalitatea.

Punctajul algoritmic în justiția penală, de exemplu, tinde să fie în mod disproporțional punitiv pentru suspecții negri în comparație cu cei albi. Scorurile algoritmice din mediul spitalicesc au determinat pacienții negri să primească îngrijiri medicale mult mai puțin decât pacienții albi.

Chiar și mărfurile de lux nu sunt imune: autoritățile de reglementare financiară din New York analizează Apple și Goldman Sachs după ce un raport indică faptul că unii bărbați primeau condiții de credit mult superioare soțiilor lor, care aveau venituri mai mari sau scoruri de credit mai bune decât soții lor, au devenit virali.

Sursa articol

LĂSAȚI UN MESAJ

Please enter your comment!
Please enter your name here