def Judge(human, AI_model, bias=True): print('Benvenuti nell\'era della perfetta ingiustizia')
Cosa succede quando i bug non causano solo un crash, ma distruggono vite umane? In un mondo che delega sempre più decisioni critiche agli algoritmi, il confine tra “ottimizzazione statistica” e “ingiustizia sistemica” è diventato pericolosamente sottile. In questo talk esploreremo il confine sottile tra errore cognitivo e bias computazionale, analizzando come la giustizia stia scivolando verso un’automazione opaca.
I punti chiave del talk:
- Errore Umano: analizzeremo i bias cognitivi che influenzano i tribunali reali. Attraverso studi e casi di cronaca documentati, vedremo come fattori ambientali e pregiudizi sistemici influenzino le decisioni dei giudici umani.
- Errore della Macchina: passeremo al setaccio casi reali di discriminazione algoritmica. Vedremo dove l’AI ha fallito (dal caso COMPAS al credit scoring fino ai sistemi di sorveglianza), decostruendo i problemi intrinseci del machine learning: dalla tossicità dei dataset alla mancanza di spiegabilità.
- Il Monito Distopico: utilizzeremo un caso emblematico per illustrare un rischio tanto pericoloso quanto sottile: la perdita del diritto di appello e dell’empatia. Cosa succede quando l’AI smette di essere uno strumento di supporto e diventa un giudice assoluto, inappellabile e privo di contesto?
Perché seguire questo talk: Questo talk invita a riflettere sulla responsabilità strutturale di chi scrive codice. L’obiettivo non è demonizzare la tecnologia, ma capire che in un sistema giudiziario “automatizzato”, un bug non è più solo un “ticket di assistenza”, ma una violazione di diritti fondamentali.
Punti chiave:
- Comprendere i bias umani che trasferiamo inconsciamente nei sistemi.
- Analizzare i fallimenti documentati dell’AI “giudicante” nel mondo reale.
- Comprendere il pericolo del determinismo tecnologico e riconoscere il ruolo dell’“human-in-the-loop” attraverso la cultura pop.
Relatore
