Risques des systèmes prédictifs policiers basés sur l'IA
La base de données Think Family contient des informations sensibles sur 500 000 habitants de Bristol. La police a développé 23 modèles prédictifs, dont certains ont été abandonnés en raison de leur manque de fiabilité. John Pegram, un militant local, a découvert qu'il figurait dans l'application sans en être informé.
« I essentially dump all that data in a big bucket and stir it with a data-science spatula, and we come out with a lovely risk score for everybody. » — Wired AI
Que faut-il retenir ?
- La base de données Think Family contient des informations sur 500 000 personnes.
- 23 modèles prédictifs ont été développés, dont certains abandonnés.
- John Pegram a découvert qu'il figurait dans l'application sans en être informé.
- 36 000 scores de performance montrent une "mauvaise performance prédictive".
Pourquoi cette nouvelle compte-t-elle ?
Cet article révèle les risques des systèmes prédictifs policiers basés sur l'IA, notamment le manque de transparence et de fiabilité. Cela soulève des questions éthiques et légales sur l'utilisation des données personnelles sans consentement. Les professionnels de l'IA et de la protection des données doivent en tenir compte.
500 000 personnes dans la base de données Think Family
💬 John Pegram, Leader d'un groupe de responsabilisation policière à Bristol
Public concerné : entreprises, développeurs
Quels sont les risques des systèmes prédictifs policiers basés sur l'IA ?
Les risques incluent le manque de transparence, la mauvaise performance prédictive et l'utilisation de données sensibles sans consentement. Cela peut miner la confiance du public et poser des problèmes éthiques.
