Nous utilisons des cookies sur nos sites web. Des informations sur les cookies et sur la manière dont vous pouvez vous opposer à leur utilisation à tout moment ou mettre fin à leur utilisation sont disponibles dans notre Déclaration de protection des données.

Opinion 3 min de lecture 3 Commentaires

Surveillance et État : l'IA a besoin de limites !

Oui, encore la Chine. Une fois de plus, c'est l'Empire du Milieu qui nous montre où le monde de la technologie moderne peut nous mener - cette fois dans un sens négatif. Deux exemples actuels montrent ce que les systèmes supportés par l'IA peuvent faire en Chine.

Dans de nombreuses villes chinoises, la circulation est surveillée par des caméras, qui sont de plus en plus équipées de reconnaissance faciale. Le système qui est en place garantit que les violations des règles dans de nombreux domaines, et pas seulement dans la circulation, sont automatiquement enregistrées dans leur dossier personnel. Pire encore : ces "pécheurs" sont exposés publiquement sur des écrans.

Dong Mingzhu, présidente d'une grande entreprise de climatisation et numéro un parmi les 100 premières femmes d'affaires chinoises l'an dernier selon Forbes, n'a probablement pas été très surprise lorsque sa photo, son nom et une partie de son numéro d'identification ont été vus dans une ville du sud de Shanghai. Qu'a-t-elle fait ? Elle a traversé le feu quand il était rouge. Sur la photo vous pouvez voir que Dong n'était pas là elle-même, mais que son portrait pouvait être vu sur une publicité dans un bus qui venait de traverser le passage clouté. Elle n'avait donc rien fait, n'était même pas là, mais elle a été punie automatiquement par l'IA.

La police responsable a ensuite admis son erreur sur Weibo et a supprimé du système ce problème judiciaire avec Dong. De plus, une mise à niveau a été faite pour que ce genre de situation ne se reproduise plus à l'avenir.

policeglasses
Des policiers chinois avec des lunettes de caméra. / Reuters

Le deuxième exemple est encore plus flagrant et touche des millions de personnes. Le gouvernement chinois a mis un nombre incalculable de personnes sur une soi-disant liste noire. Si vous avez atterri dessus, vous ne pouvez pas réserver de vols ou de trains. Pourquoi ? Ces millions de personnes sont des individus "non dignes de confiance", à qui l'on veut rendre difficile leur libre circulation. C'est difficile, d'autant plus qu'il n'est pas improbable que des gens qui n'ont rien à se reprocher aient pu se retrouver sur la liste à cause d'erreurs dans le système.

Sans limites, tout devient compliqué

Ces deux événements montrent qu'en tant que société, nous devons être extrêmement prudents lorsque nous développons une technologie aussi puissante que l'intelligence artificielle. Sans une réglementation et des limites raisonnables, tant en termes de compétences que de domaines d'application, les choses peuvent rapidement dégénérer. Il ne sert à rien de se mettre la tête dans le sable et d'espérer que cela se produira d'une manière ou d'une autre - surtout dans notre monde globalisé, où aucun développement ne peut être aussi facilement limité à un seul pays. Il est donc d'autant plus important que la France et l'Europe jouent un rôle important dans la recherche sur l'IA, mais aussi dans la réglementation.

Pensez-vous que ce genre de situations pourraient se produire en France ?

3 Commentaires

Ecrire un nouveau commentaire :
Tous les changements seront sauvegardés. Aucun brouillon n'est enregistré pendant l'édition

  • HFE depuis 3 jours Lien du commentaire

    L'IA permettra de finaliser certaines ambitions d'optimisations redoutables sur le plan humain et économique...


  • louis hory depuis une semaine Lien du commentaire

    Je ne crois pas que ce problème chinois soit dû à l'IA MAIS passe par l'IA.

    Le vrai problème c'est le gouvernement autoritaire du président qui vient d'être élu à vie par le comité central (son clan, en clair) et qui profite de son impunité assurée pour asseoir son pouvoir comme il l'entend.
    Pour autant je ne dédouane l'IA des mêmes problèmes qu'elle pourrait entraîner par une utilisation défaillante ou non.

    Heureusement en France le problème ne se pose pas de la même façon... au moins tant que de vrais républicains (qui se rappellent que le peuple est souverain, article 3 de la Constitution)

    Suivez mon regard du côté d'un certain Rassemblement...


  • Bien sûr que l'IA a besoin de limites, cet article en est la preuve éclatante, et je ne l'ai pas attendu pour penser cela. Et toute personne sensée sera d'accord avec moi.
    Heureusement, en France, ces usages là et dérapages n'existeront jamais, le peuple se soulèverait, comme c'est déjà le cas actuellement.

Articles recommandés