À l’image de la série culte Person of Interest, la ville de Bristol au Royaume-Uni a développé un système basé sur l’intelligence artificielle pour attribuer un score de risque criminel à ses résidents. Ce projet, qui combine surveillance et évaluation des risques sur un large panel de données personnelles, soulève des interrogations majeures en matière de prévention du crime et d’équité sociale. Entre promesses technologiques et résultats fragiles, cette initiative appelle à une réflexion approfondie sur l’usage et les limites des algorithmes décisionnels dans le cadre de la sécurité publique.
- Origine et fonctionnement de cette IA à Bristol inspirée de Person of Interest.
- Analyse des résultats des modèles d’évaluation des risques criminels mis en place.
- Enjeux éthiques et problématiques liées à la surveillance massive.
- Comparaison avec le déploiement national britannique prévu d’ici 2026.
- Impact potentiel sur les populations et pistes d’amélioration.
Découvrons ensemble les détails de cette technologie controversée et ses implications concrètes sur la vie des citoyens et les politiques de sécurité.
A voir aussi : IOS 27 : Quatre modèles d'iPhone tireront leur révérence en perdant la mise à jour
Sommaire
- 1 Le fonctionnement de l’IA à Bristol et ses inspirations issues de Person of Interest
- 2 Des scores de risque qui véhiculent des erreurs : bilan des performances des algorithmes à Bristol
- 3 Questions éthiques et enjeux de la surveillance algorithmique à Bristol
- 4 Le déploiement national britannique : ambitions et risques en 2026
- 5 Perspectives pour une intelligence artificielle éthique et fiable dans la prévention du crime
Le fonctionnement de l’IA à Bristol et ses inspirations issues de Person of Interest
L’initiative de Bristol repose sur une intelligence artificielle sophistiquée, conçue à l’instar du système fictif de la célèbre série Person of Interest. Là-bas, une base de données centralisée, la Think Family Database, rassemble des milliers d’informations issues de multiples services : police, social, santé mentale, logement et éducation. Cette masse de données alimente différents modèles prédictifs qui calculent un score de risque criminel individuel.
Entre 2016 et 2023, environ 500 000 citoyens ont vu leur comportement analysé en secret, sans leur consentement préalable. Ce dispositif tentait de prévoir des éventuels actes criminels tels que cambriolages, violences domestiques ou exploitation des mineurs, en attribuant un indicateur statistique censé refléter la probabilité qu’une personne commette un délit.
A lire en complément : Escroquerie au faux RIB : un notaire reconnu coupable après le détournement de 96 400 euros lors d'une transaction immobilière
Par exemple, des données sur la fréquentation scolaire, l’historique d’interventions policières ou encore les séjours en établissements psychiatriques, se combinaient pour construire un profil algorithmique. Comme dans la série, on retrouvait une logique d’anticipation dite « pré-crime », mais ici, dans une forme bien réelle. Le volet opaque et secret de cette surveillance accrue rappelle l’atmosphère tensionnelle de Person of Interest, où la machine espionne en permanence.
Cette utilisation de la technologie soulève immédiatement des questions sur l’impact de ce profilage automatisé, qui peut transformer des statistiques froides en décisions concrètes affectant la vie de centaines de milliers de personnes. Le défi est de taille pour garantir à la fois la sécurité publique et le respect des droits fondamentaux.
Des scores de risque qui véhiculent des erreurs : bilan des performances des algorithmes à Bristol
L’évaluation des scores produits par l’IA à Bristol révèle un tableau très mitigé voire inquiétant. Un audit indépendant réalisé par la société Eticas, après analyse de plus de 36 000 mesures issues de la police locale, a démontré que certains modèles généraient un taux de falses alarms (faux positifs) extrêmement élevé.
À titre d’exemple, l’algorithme destiné à détecter d’éventuels cambrioleurs n’a jamais dépassé une précision de 10 % sur une période de plus de trois ans. Cela signifie que moins d’une personne sur dix identifiée comme présentant un risque élevé a effectivement commis un cambriolage. Ce niveau de fiabilité pose d’importants risques d’erreurs judiciaires, de stigmatisation injustifiée et d’abus potentiels d’un système prétendument impartial.
De même, les modèles censés anticiper des cas d’exploitation criminelle envers les mineurs n’ont pas réussi à convaincre les intervenants sur le terrain. Les travailleurs sociaux, remarquant l’inefficacité des systèmes, ont fini par délaisser leur recours au score, mettant en avant un manque de confiance profonde dans ces chiffres. Cette perte d’adhésion exerce une pression forte sur la crédibilité du projet.
Voici un tableau synthétique des performances des principaux modèles utilisés à Bristol :
| Type de crime ciblé | Population évaluée | Précision moyenne | Nombre de faux positifs | Confiance des professionnels |
|---|---|---|---|---|
| Cambriolages | ~500 000 adultes | 9.2 % | Élevé (> 90 %) | Faible |
| Violences domestiques | Enfants et adultes | 12.5 % | Modéré | Modérée |
| Exploitation sexuelle de mineurs | Mineurs à risque | Non fiable | Très élevé | Quasi nulle |
Cet échec relatif ne freine pas pour autant le Royaume-Uni. L’État a décidé d’intégrer ces solutions dans un programme national nommé PoliceAI, qui vise à déployer ces outils dans 43 forces de police en Angleterre et au Pays de Galles.
Questions éthiques et enjeux de la surveillance algorithmique à Bristol
L’utilisation de cet outil à l’opacité totale pose des problèmes éthiques majeurs. La chercheuse Elle Pearson, spécialiste de cette technologie, relate que les autorités municipales n’ont jamais rendu transparente la nature exacte des données collectées ni les algorithmes choisis. Cette absence de contrôle citoyen aggrave la défiance envers un système où tout, ou presque, échappe au regard public.
La surveillance continue de centaines de milliers de personnes suscite des préoccupations sur le profilage social. Les modèles ignorent souvent les biais implicites liés à l’origine ethnique, au genre ou aux conditions socio-économiques. Le défaut de tests rigoureux pour détecter ces biais fait craindre que certains groupes soient systématiquement ciblés sur la base de stéréotypes numériques renforcés par l’algorithme.
Le problème est renforcé par la nature même des conséquences engendrées. Une personne identifiée à tort comme ayant un fort risque criminel peut voir ses droits restreints, subir un contrôle accru ou être soumise à des décisions judiciaires inéquitables. Ce type de situation rappelle des dérives passées où la technologie, utilisée sans garde-fous, a creusé les inégalités sociales.
Pour illustrer ces enjeux, voici une liste des risques associés à ce dispositif de surveillance algorithmique :
- Atteinte à la vie privée due à la collecte massive de données personnelles sans consentement.
- Stigmatisation sociale des individus sur la base de prédictions imparfaites.
- Renforcement des discriminations ethniques ou économiques par manque de contrôle des biais.
- Dégradation de la confiance des citoyens envers les institutions chargées de la sécurité.
- Impact psychologique sur les personnes ciblées par une surveillance injustifiée.
Ces questions exigent une gouvernance rigoureuse et la mise en place de limites claires à toute forme d’utilisation abusive des technologies de surveillance lors de la prévention de la criminalité.
Le déploiement national britannique : ambitions et risques en 2026
Fortes des expériences de Bristol, les autorités britanniques ont décidé d’amplifier leur recours à l’intelligence artificielle dans le domaine de la sécurité. L’initiative PoliceAI, lancée récemment, prévoit un déploiement rapide de ces outils dans l’ensemble des forces de police anglaises et galloises.
Cette généralisation vise à couvrir des millions d’habitants, en espérant améliorer la prévention du crime, rationaliser les effectifs policiers et diminuer la récidive, notamment dans des secteurs où l’intervention humaine est limitée. Pour atteindre ces objectifs, les bases de données intégrées seront nombreuses et complexes, mobilisant des paramètres allant de l’historique judiciaire aux comportements collectifs.
Il convient de suivre avec attention les premiers résultats de cette vague d’implémentation. Le risque demeure qu’une dépendance excessive à la machine engendre un profiling généralisé non seulement inefficace, mais aussi dommageable sur le plan social. Les experts recommandent de coupler ces solutions à des mécanismes transparents et à un contrôle humain accru.
Un autre enjeu lié est la lutte contre la fraude et les abus. Le recours à ces outils ne doit pas faire à lui seul foi pour engager des procédures : le secteur judiciaire rappelle l’importance d’investigations complémentaires et du respect de la présomption d’innocence, en gardant des marges contre les erreurs révélées dans certaines situations complexes comme les fraudes d’assurance ou le home-jacking. Plus d’informations sur ces problématiques peuvent être consultées dans notre article dédié à la fraude et assurance.
Perspectives pour une intelligence artificielle éthique et fiable dans la prévention du crime
Le cas de Bristol met en lumière la nécessité pressante de repenser les fondations sur lesquelles reposent les systèmes d’évaluation des risques via l’IA. Les expériences actuelles révèlent des erreurs structurantes qui, si elles ne sont pas corrigées, risquent de reproduire et d’amplifier les inégalités sociales et les mécanismes d’exclusion dans le futur.
Pour construire une IA au service de la sécurité publique et respectueuse des droits individuels, plusieurs leviers doivent être actionnés :
- Transparence totale : les citoyens doivent connaître les données utilisées et les critères adoptés.
- Tests rigoureux d’équité : mise en place de protocoles pour détecter et corriger les biais liés à l’origine, genre ou classe sociale.
- Implication humaine systématique : les décisions sensibles restent sous contrôle humain, avec recours possible.
- Contrôles indépendants réguliers par des autorités publiques ou des experts tiers.
- Dialogue avec les populations pour renforcer confiance et consentement.
En adoptant ces principes, il devient possible d’envisager une utilisation responsable des technologies d’intelligence artificielle dans la lutte contre la criminalité, tout en préservant les droits fondamentaux et la cohésion sociale.
