Fondateur d’une startup de développement intelligence artificielle Il y a des années, Megvii a même expliqué comment le système fonctionnait : la technologie analysait de grandes quantités de séquences de caméras de sécurité et recherchait des modèles de comportement répétitifs. S’il jugeait que quelqu’un se comportait étrangement, il le marquerait comme suspect et alerterait la police.

Ce serait un cas où, par exemple, quelqu’un passerait beaucoup de temps à la gare et il y aurait un risque de devenir un voleur à la tire. La police évaluera alors s’il faut enquêter sur la personne.

« Si quelqu’un était assis derrière la caméra, ce serait effrayant. Mais il y aurait un système assis là. C’est comme le moteur de recherche que nous utilisons tous les jours sur Internet – très neutre », a expliqué Jin Chi. Selon lui, « les criminels n’ont nulle part où se cacher » avec une telle technologie.

Des années plus tard, il transforme son plan, qui rappelle l’intrigue du livre de science-fiction et du film Minority Report, en réalité. La description de l’un des produits de Megvii indique qu’une base de données multidimensionnelle stocke des visages, des photos, des voitures ou des enregistrements d’accidents, et le logiciel les analyse ensuite pour « trouver des gens ordinaires à l’air innocent » et ainsi « arrêter les actes illégaux en premier lieu ».

Un journal américain a maintenant rapporté que le logiciel a été utilisé par la police chinoise L’heure de New York, qui a examiné plus de 100 000 documents au cours de l’année écoulée. On y trouve, par exemple, des demandes de gouvernements locaux chinois ou de la police qui recherchent des entreprises technologiques pour programmer des ordinateurs pour eux afin d’assurer la sécurité. Par exemple, la ville de Zhongshan voulait un logiciel qui analyserait la voix et le son capturés par des caméras de sécurité avec des microphones et une portée d’au moins 90 mètres. Le système doit alors être en mesure de donner des votes individuels à des personnes spécifiques.

Encadrement des malades mentaux et des dissidents

Ce système est difficile à échapper. En plus des rues, des caméras de sécurité sont également disponibles dans les centres commerciaux, les transports ou les hôtels. Des experts interrogés par le New York Times estiment que sur les milliards d’appareils photo dans le monde, plus de la moitié sont en Chine.

Les forces de sécurité vérifient également les mouvements des téléphones portables, scannent les iris ou prélèvent des échantillons d’ADN, même sur des Chinois sans antécédents criminels. La police n’a pas besoin d’autorisation pour collecter des données.

De plus, le système de Megvii est loin d’être unique en son genre. Beaucoup d’entre eux peuvent travailler intensivement avec des données et les relier les unes aux autres. Ainsi, si une personne est identifiée comme souffrant d’une maladie mentale et qu’elle s’approche en même temps de l’école, la police peut recevoir un avertissement concernant un comportement suspect. Il en va de même pour les personnes qui ont participé à des manifestations antigouvernementales dans le passé.

L’un des « fauteurs de troubles » sélectionnés était, par exemple, Zhang Yuqiao, 74 ans, qui a passé la majeure partie de sa vie à demander réparation pour les tortures que ses parents ont endurées pendant la Révolution culturelle au siècle dernier. Auparavant, dit-il, il lui suffisait d’éviter la route principale, et les caméras, et de se rendre dans la capitale. Désormais, ils doivent éteindre leurs téléphones portables, payer comptant partout ou embaucher un chauffeur privé qui sait se soustraire aux contrôles de police.

Et chaque fois qu’il éteignait son téléphone portable, la police venait le vérifier, a-t-il dit.

Une autre entreprise chinoise de technologie, Hikvision, qui est utilisée par la ville de Tianjin qui borde directement Pékin, s’est adressée aux candidats. Le programme recueille des informations sur les relations des personnes qui ont déposé des pétitions, examine leurs voyages passés en Chine et analyse leur situation personnelle. Par exemple, les policiers peuvent enregistrer des données sur l’humeur d’une personne – si elle semble irritable ou paranoïaque. Le système a alors pour tâche de prévoir l’apparition de manifestations, ce que Pékin veut surtout éviter.

Ils recherchent des étrangers et des personnes vivant avec le VIH

Un porte-parole de Megvii a déclaré que l’objectif de leur programme était de rendre la vie plus sûre et plus confortable. En même temps, ils nient qu’il s’agisse de « surveillance de certains groupes ou individus ». Cependant, cela est démenti par l’analyse des journaux américains. C’est un produit de cette société qui surveille plusieurs groupes bien définis – les personnes atteintes des problèmes mentaux mentionnés ci-dessus, mais aussi les personnes ayant un passé criminel ou des antécédents de consommation de drogue.

Ensuite, il y a une liste plus restreinte qui cible non seulement des dissidents spécifiques, mais aussi des minorités ethniques, des étrangers ou des personnes vivant avec le VIH. Ou le groupe opposé : le groupe que le programme doit ignorer.

« Les personnes qui ont besoin d’une protection de la vie privée ou d’une protection VIP », lit-on dans l’un des documents analysés. Dans d’autres, il est directement indiqué qu’il devrait s’agir d’un fonctionnaire du gouvernement.

« Les autorités ne résolvent pas vraiment le problème, mais elles feront tout pour faire taire ceux qui parlent de la question. C’est un énorme pas en arrière dans la société », a pensé le pétitionnaire Zhang.

Cage invisible

Et si l’intelligence artificielle se trompait ? Et comment peut-on savoir s’il ne s’agit en fait que de prédictions ? Maya Wang, de l’organisation de défense des droits humains Human Rights Watch, estime que même s’il est impossible de le savoir, le système aura le même effet sur les Chinois qu’il était autrefois pleinement efficace. Le nombre d’émeutes ainsi que la criminalité peuvent être réduits en raison de la peur de la population. « C’est une cage technologique invisible », a-t-il jugé.

Noam Yuchtman, qui se consacre à la Chine et surveille sa population, est d’accord. Selon lui, cela peut être un excellent outil d’intimidation. « La place de la dissidence, autrefois limitée, disparaît rapidement », conclut le New York Times.

Vidéo : Il faut faire attention où et ce que l’on dit, luger Geisenberger refuse de parler de la Chine