Miks see aeg lõpetada pimesi uskuda suur andmed

algoritme otsustada nüüd, kes kinnitab laenu, kindlustuse või kes saavad kutse vestlusele, kuid tihti nad seda ebaõiglaselt. Ja see ainult suurendab lõhet kihtide elanikkonnast.

Katie O'Neill (Cathy O'Neil)

Matemaatik, analüüsi finantsturgude spetsialist, autor raamatu "Relvad matemaatilise lüüasaamist."

Konstrueeritakse algoritm, peame kahte asja: andmed (mis juhtus minevikus) ja määratluse eduka tulemuse (mida soovite leida, kasutades seda algoritmi). Seejärel määrab, millised kriteeriumid viia eduka tulemuse. Kuid määratlus edu ei saa olla universaalne.

Algoritm - on kellegi arvates sisseehitatud koodi.

Me kasutasime mõelda, et algoritme on objektiivne ja usaldusväärne, kuid see on ainult reklaamitrikki hirmutamiseks mõeldud meile ja teha meid usaldada algoritme ja matemaatilise andmeid.

O'Neill sisaldab näiteid, kus algoritme võib põhjustada tõsist kahju. See juhtub siis, kui hinnatakse töötajat. Näiteks 2011. aastal kooli Washingtonis County on vallandatud rohkem kui 200 õpetajat pärast nende rookima algoritmKuigi nad olid suurepärased soovitused vanemate ja eakaaslastega.

Lisaks algoritme on sageli põhjuseks eemaldamist kallutatud otsuseid. Uudised organisatsiooni ProPublica hiljuti läbi uurimise ja avastatudEt algoritme, mis määravad retsidiivsusriskile, töötada objektiivselt. Samal kuritegude lausete sageli välja võetud must ameeriklased.

Me kõik oleme suhtes hälvete ning toome need algoritmid otsustada, milliseid andmeid tuleb arvesse võtta.

Algoritmid on lihtsalt korrates oma mineviku vigu, automatiseerida olemasolevaid järjekorras. Nii et me ei saa pimesi usaldada, peame neid katsetama olema objektiivsed: mõtlema mõiste eduka tulemuse viga, ei ole kindlustatud ühegi algoritm. Kui tihti nad tekivad ja keda mõjutab? Mis on kulu selliseid vigu?

Spetsialistid, kes töötavad andmeid, ei tohiks olla arbiteride õigusemõistmist. On aeg lõpetada pimesi uskuda suur andmed.