Un algoritmo può fare bene i calcoli e arrivare comunque a una decisione distorta.
In questo laboratorio non devi regolare formule o interpretare grafici complessi. Segui un caso alla volta, individua il dato problematico, fai un confronto tra due profili quasi identici e scopri da dove nasce il bias.
Ogni scenario si risolve sempre nello stesso modo.
Capisci che cosa il sistema deve decidere e quali informazioni sarebbero davvero pertinenti.
Tra quattro variabili, individua quella che può introdurre una distorsione.
Confronta due profili uguali in tutto tranne che per quel dato. Osserva se cambia l’esito.
Capisci se il problema nasce da proxy, dati storici, misura, campionamento o obiettivo.
Decidi quale intervento ridurrebbe davvero il problema.
I quattro dati disponibili
I cinque bias che incontrerai
Una variabile apparentemente neutra sostituisce indirettamente un’informazione più delicata o non pertinente.
Il modello impara decisioni del passato e rischia di riprodurne errori o disuguaglianze.
Il dato disponibile è soltanto un indicatore imperfetto di ciò che vorremmo davvero misurare.
I dati rappresentano bene alcuni studenti o situazioni e male altri.
Il sistema ottimizza una metrica che non coincide con il vero valore educativo da tutelare.