«Sans régulation, le système testé en Chine n'est pas impensable en Suisse»

Intelligence artificielleInterview de l'experte en cybersécurité Solange Ghernaouti, dans le cadre des discussions à Shanghai.

L'experte en cybersécurité Solange Ghernaouti.

L'experte en cybersécurité Solange Ghernaouti. Image: Keystone

Signaler une erreur

Vous voulez communiquer un renseignement ou vous avez repéré une erreur ?

En marge du sommet international sur l’intelligence artificielle à Shanghai, interview de Solange Ghernaouti, experte en cybersécurité, auteure de nombreux livres. La docteure en informatique et pionnière en pluridisciplinarité de la sécurité numérique dirige le Swiss Cybersecurity Advisory and Research Group de l’Université de Lausanne.

En ce moment a lieu la conférence internationale sur l’intelligence artificielle (IA) à Shanghai. Mais concrètement, en quoi consiste l’IA dans notre vie quotidienne?
Une des grandes caractéristiques de l’intelligence artificielle (IA) est son invisibilité. Nous l’utilisons souvent sans nous en rendre compte. L’IA, c’est de l’informatique, du traitement de données, elle existe depuis les années 80 mais est devenue plus importante avec l'essor du «big data». Elle sert essentiellement à réaliser des prises de décision ou à y contribuer.

Quels sont ses avantages?
Bien entendu, cela dépend des points de vue et de la finalité des applications de l’IA, et de ce qu’elle permet de faire que nous ne pourrions pas sans elle. Nous vivons dans une société de l’information. L’intelligence artificielle se situe dans le prolongement du transfert des capacités de l’humain vers la machine, pour le décharger d’une partie de ses tâches. Dans l’idéal, cette technologie devrait être utilisée pour créer de meilleures conditions de vie et du bien-être social pour tous.

Et ses inconvénients?
L’IA est souvent utilisée pour remplacer la décision humaine, davantage en substitution qu’en complémentarité. Le transfert de compétences de l’humain vers la machine induit pour les personnes une perte et génère une dépendance, voire une addiction au système.

Nous sommes de plus en plus poussés à suivre des recommandations produites par des applications et objets connectés, à noter et à être notés, à être surveillés et évalués. On va jusqu’à enregistrer nos propres données physiologiques. On répond à des stimuli électroniques et à des injonctions, comme cela peut être le cas de certains par exemple qui ne peuvent courir sans leur application ou montre connectée.

L’IA a été créée pour réduire l’erreur, supprimer l’incertain, ce qui aseptise la société.

La technologie nous propose des modes d’action et d’être, voire nous les imposent, comme peut le faire par exemple un robot ménager qui «aide» à cuisiner. Cela tend vers une «normalisation» des comportements, une perte d’autonomie et de libre arbitre de l’individu, mais aussi une perte de la diversité et à une uniformisation de la société. Or, c’est, en général, à la marge qu’émerge l’innovation. Beaucoup d’inventions sont nées d’erreurs. L’IA a été créée pour réduire l’erreur, supprimer l’incertain, ce qui aseptise la société.

Aujourd’hui, des applications courantes de l’IA sont utilisées, sous couvert de personnalisation de services, pour prédire et orienter des choix, pour consommer en ligne et dans le monde physique, pour faire faire. De ces prédictions naît une manipulation de masse des comportements.

«L’intelligence artificielle» est simplement un programme informatique qui a une finalité décidée et déterminée par ses concepteurs et propriétaires. Son mode opératoire, souvent incontrôlable, est opaque, sa qualité et sa sécurité pas forcément optimales. C’est une partie du problème.

Des États comme la Chine utilisent de plus en plus l’intelligence artificielle pour la reconnaissance faciale. À Hong Kong, on voit de plus en plus de manifestants se camoufler le visage afin d’éviter ces systèmes de reconnaissance. Quels sont les dangers de ces technologies?
Les Chinois ont une autre culture et philosophie politique que la nôtre, ce qui nous rapproche, c’est une certaine posture et action de sécurité, basée sur la surveillance technologique, qui s’est mise en place depuis 2001 dans le cadre de la lutte contre le terrorisme. On a également pu le voir en France, suite aux attentats de 2015 et lors des manifestations des «gilets jaunes», par exemple.

Avec la globalisation de l’économie, on assiste à un déploiement d’une pensée technologique unique en passe de devenir «universelle» pour un marché mondial. Les usages se propagent dans une logique de fuite en avant technologique et de toujours plus de contrôle. Le principe du «crédit social» (surveiller et noter les individus selon leur comportement, leur attribuer des récompenses ou les punir) testé en Chine peut également être exporté dans différents pays et décliné en fonctions des circonstances et objectifs. Sans vision politique et régulation, il n’est pas impensable qu’un tel système puisse être adapté et exister en Suisse, pour diverses finalités comme la sécurité ou la santé.

Un des problèmes est que les données ont déjà été collectées par des acteurs privés (Google, Amazon, Facebook, Twitter...) mais aussi par des agences gouvernementales. Par exemple, en 2009 quand les Suisses ont voté pour le passeport biométrique, ils ont aussi accepté le stockage de leurs données dans des systèmes informatiques. Aujourd’hui ce n’est plus uniquement notre pays qui les possède, mais aussi les différents pays qui les exigent, entre autres, pour entrer sur leur territoire.

Il y a aussi un enjeu commercial.
Oui. Par exemple, le plus grand fichier de reconnaissance faciale du monde est celui de Facebook (photos, selfies). Certains l’alimentent régulièrement et y mettent volontairement des renseignements qui sont exploités par des techniques de l’IA. Les acteurs économiques ont bâti leur profitabilité sur l’usage croissant du numérique et ils savent collecter et traiter les données. Il ne faut donc pas s’étonner qu’ils trouvent le moyen de les exploiter sans limites, tant qu’ils ne rencontrent aucune opposition légale ou provenant des consommateurs. À l’heure actuelle, peu de voix questionnent «l’innovation technologique» telle qu’elle est en train de se réaliser.

Le plus grand fichier de reconnaissance faciale du monde est celui de Facebook

Une vision politique de l’usage des technologies de l’information est nécessaire. Nous devons savoir dans quelle société nous voulons vivre. Il est également important de connaître à quelles fins est utilisée l’intelligence artificielle, quelle balance des intérêts et quels compromis sont réalisés, pour quels bénéfices et renoncements et pour qui. Ça ne sert à rien d’avoir un bulldozer pour écraser un moustique. Et nous devons considérer l’impact du contrôle des données pour les générations futures. Comme pour le changement climatique, c’est eux qui en paieront le prix.

Créé: 29.08.2019, 18h22

La rédaction sur Twitter

Restez informé et soyez à jour. Suivez-nous sur le site de microblogage

La rédaction sur Twitter

Restez informé et soyez à jour. Suivez-nous sur le site de microblogage

Publier un nouveau commentaire

Nous vous invitons ici à donner votre point de vue, vos informations, vos arguments. Nous vous prions d’utiliser votre nom complet, la discussion est plus authentique ainsi. Vous pouvez vous connecter via Facebook ou créer un compte utilisateur, selon votre choix. Les fausses identités seront bannies. Nous refusons les messages haineux, diffamatoires, racistes ou xénophobes, les menaces, incitations à la violence ou autres injures. Merci de garder un ton respectueux et de penser que de nombreuses personnes vous lisent.
La rédaction

Caractères restants:

J'ai lu et j'accepte la Charte des commentaires.

No connection to facebook possible. Please try again. There was a problem while transmitting your comment. Please try again.

L'actualité croquée par nos dessinateurs partie 7

Paru le 21 septembre 2019
(Image: Valott?) Plus...