Svake se godine oko 7 milijuna djece prijavi vlastima za zaštitu djece zbog mogućeg zlostavljanja, ali kako vlasti utvrđuju sviđaju li se djeci Gabriel Fernandez su u velikoj opasnosti i trebaju intervenciju?
Mnoge se službe za skrb o djeci oslanjaju na procjene rizika koje daju osoblje osposobljeno za upravljanje telefonskim linijama gdje se prijavljuje sumnja na zlostavljanje, no neki vjeruju da postoji bolji način.
'Postoji široka literatura za koju smo vidjeli da sugerira da ljudi nisu osobito dobre kristalne kuglice', Emily Putnam-Hornstein, direktorica Dječja podatkovna mreža i izvanredni profesor na USC-u, rekao je u novoj seriji dokumenata Neflix 'Ogledi Gabriela Fernandeza'. 'Umjesto toga, ono što govorimo je da osposobimo algoritam za utvrđivanje koja se od te djece uklapaju u profil gdje bi rizik od dugog luka sugerirao buduće sudjelovanje u sustavu.'
Fernandez je bio osmogodišnji dječak kojeg su njegovi pretukli i mučili do smrti majka i nju dečko , unatoč opetovanim pozivima svog učitelja i drugih vlastima koji prijavljuju sumnju na zlostavljanje. Nova šestodijelna serija ispituje Fernandezov život i stravičnu smrt, ali uzima i širi pogled sistemski problemi unutar sustava dobrobiti djece koji je mogao imati ulogu.
Putnam-Hornstein tvrdi da bi jedna strategija za učinkovitije prepoznavanje djece koja su u najvećem riziku mogla biti korištenje posebno stvorenih algoritama koji koriste administrativne zapise i rudarstvo podataka kako bi se utvrdili rezultati rizika za svako dijete.
'Zapravo imamo oko 6 ili 7 milijuna djece koja se svake godine prijavljuju zbog navodnog zlostavljanja ili zanemarivanja u SAD-u, a povijesno se način na koji smo donijeli neke od svojih odluka o probiranju temelji samo na procjenama crijeva', rekla je. 'Prediktivno modeliranje rizika samo govori:' Ne, ne, ne, zauzmimo sustavniji i empirijski pristup ovome. '
Putnam-Hornstein i Rhema Vaithianathan, suvoditeljica Centar za analitiku društvenih podataka , uspjeli su primijeniti tu ideju u praksi u okrugu Allegheny, Pennsylvania. Par je upotrijebio tisuće preporuka za zlostavljanje djece kako bi osmislio algoritam koji bi odredio ocjenu rizika za svaku obitelj prijavljenu županijskim službama za zaštitu djece, prema Centar za zdravstveno novinarstvo .
'Istražuje se stotinjak različitih čimbenika', objasnio je u seriji dokumenata Marc Cherna, direktor Odjela za ljudske usluge okruga Allegheny. 'Neki od osnovnih primjera su povijest dobrobiti djece, povijest roditelja, zasigurno uporaba droga i ovisnost, obiteljske mentalne bolesti, zatvor i osude, a posebno ako postoje napadi i slične stvari.'
Zbog velikog broja poziva, tijela za zaštitu djece u cijeloj zemlji imaju zadatak utvrditi treba li obitelj provjeriti radi istrage na temelju pritužbe ili će je provjeriti.
Prema podacima iz 2015. godine, 42% od 4 milijuna prijava zaprimljenih u cijeloj zemlji koje uključuju 7,2 milijuna djece New York Times .
Ipak, djeca i dalje umiru od zlostavljanja djece.
Sustav koji se koristi u okrugu Allegheny osmišljen je s ciljem preciznijeg predviđanja koje će obitelji vjerojatno biti uključene u sustav putem analize podataka.
'Ono što pregledači imaju puno podataka', rekao je Vaithianathan za The Times. “Ali, prilično je teško snalaziti se i znati koji su čimbenici najvažniji. Unutar jednog poziva C.Y.F. , mogli biste imati dvoje djece, navodnog počinitelja, imat ćete mamu, možda ćete imati još odraslu osobu u kućanstvu - svi će ti ljudi imati povijest u sustavu da osoba koja pregledava poziv može istražiti. Ali ljudski mozak nije toliko spretan u iskorištavanju i razumijevanju svih podataka. '
Alat za provjeru obitelji Allegheny koristi statističku tehniku nazvanu 'rudarenje podacima' kako bi proučio povijesne uzorke kako bi 'pokušao predvidjeti što bi se moglo dogoditi' u bilo kojem slučaju, rekla je u seriji Docu.
kentucky tinejdžerski vampiri gdje su sada
Svaki slučaj dobiva ocjenu rizika u rasponu od jedan do 20 - kategorizirajući svaki slučaj kao visokorizični, srednje rizični ili niskorizični.
Rachel Berger, pedijatrica iz Dječje bolnice u Pittsburghu, rekla je za The Times 2018. godine da ono što prediktivnu analizu čini vrijednom jest to što uklanja dio subjektivnosti koja obično ulazi u proces.
'Sva ta djeca žive u kaosu', rekla je. “Kako C.Y.F. odabrati koji su najugroženiji kad svi imaju čimbenike rizika? Ne možete vjerovati u količinu subjektivnosti koja ulazi u odluke o zaštiti djece. Zato volim prediktivnu analitiku. Napokon donosi neku objektivnost i znanost odlukama koje mogu tako nevjerojatno promijeniti život. '
No, bilo je i kritičara koji tvrde da se korištenje prediktivne analitike oslanja na podatke koji su možda već pristrani. Prošla istraživanja pokazala su da su manjine i obitelji s niskim prihodima često prezastupljene u podacima koji se prikupljaju, što potencijalno stvara pristranost prema afroameričkim obiteljima ili drugim manjinskim obiteljima, prema dokumentima iz serije.
“Ljudske pristranosti i pristranosti podatakaići ruku pod ruku jedni s drugima', Rekla je Kelly Capatosto, viša znanstvena suradnica na Kirwan institutu za proučavanje rase i etničke pripadnosti Sveučilišta Ohio State, prema Centru za zdravstveno novinarstvo. “Ovim odlukama razmišljamo o nadzoru i kontaktima sustava - s policijom, agencijama za skrb o djeci ili bilo kojim agencijama za socijalnu skrb. Bit će previše zastupljen u zajednicama (s niskim prihodima i manjinama). To nije nužno indikativno gdje se ti slučajevi događaju. '
Erin Dalton, zamjenica ravnatelja ureda za analizu, tehnologiju i planiranje u okrugu Allegheny, priznala je da je pristranost moguća.
“Sigurno je da u našim sustavima postoji pristranost. Mi zlostavljanje djece smatramo i naši podaci nisu funkcija stvarnog zlostavljanja djece, to je funkcija onoga tko će biti prijavljen ”, rekla je u seriji Netflix.
No, okrug je također rekao Centru za zdravstveno novinarstvo da je otkrio da primanje javnih naknada smanjuje ocjene rizika za gotovo sve njegove obitelji.
Tžupanija je 'vrlo osjetljiva' na tu zabrinutost i provodi kontinuiranu analizu sustava kako bi utvrdila jesu li skupine neproporcionalno ciljane, rekao je Cherna u serijalu dokumenata.
Sustav okruga Allegheny u vlasništvu je same županije, ali bilo je i nekih kritika na račun ostalih privatnih sustava za provjeru.
Odjel za djecu i obiteljske usluge u Illinoisu najavio je 2018. da više neće koristiti paket prediktivne analitike koji su razvili neprofitna organizacija Eckerd Connects i njegov profitni partner MindShare Technology, dijelom i zato što je tvrtka odbila pružiti detalje o čimbenicima su korištene u njihovoj formuli, prema The Timesu.
Sustav je navodno počeo određivati tisuće djece da trebaju hitnu zaštitu, dajući više od 4.100 djece iz Illinoisa 90 posto ili veću vjerojatnost smrti ili ozljede, Chicago Tribune prijavljeno 2017. godine.
Ipak, druga djeca koja nisu dobila ocjene visokog rizika i dalje su na kraju umirala od zlostavljanja.
'Prediktivna analitika (nije) predvidjela nijedan loš slučaj,' direktorica Odjela za djecu i obiteljske usluge Beverly 'B.J.' Walker je rekao za Tribune. 'Odlučio sam da neću nastaviti s tim ugovorom.'
Daniel Hatcher, autor knjige „ Industrija siromaštva: iskorištavanje najranjivijih građana Amerike ”Usporedio je neke analitičke sustave s„ crnom kutijom ”, rekavši u serijalu dokumenata da način na koji donose odluke nije uvijek jasan.
'Oni nikako ne mogu shvatiti kako zapravo odlučuju o razini skrbi koja ima ogroman utjecaj na pojedinca', rekao je.
Putnam-Hornstein priznala je da prediktivni analitički sustavi nisu u mogućnosti odrediti buduće ponašanje, ali vjeruje da je to dragocjen alat koji omogućava promatračima donošenje informiranijih odluka o tome koja bi djeca mogla biti u najvećem riziku.
'Nadam se da će ovi modeli pomoći našem sustavu da posveti više pažnje relativno malom podskupu preporuka u kojima je rizik posebno velik i moći ćemo preventivno posvetiti više sredstava toj djeci i obiteljima', rekla je, u Centar za zdravstveno novinarstvo. „Ne želim da itko pretjeruje s predviđanjem modeliranja rizika. To nije kristalna kugla. To neće riješiti sve naše probleme. Ali na margini, ako nam omogući da donesemo malo bolje odluke i identificiramo slučajeve s visokim rizikom te ih razdvojimo od slučajeva s niskim rizikom i prilagodimo u skladu s tim, ovo bi mogao biti važan razvoj događaja na terenu. '
