Google dit «non» aux armes intelligentes

High TechGoogle fait face à une fronde de milliers d'employés, furieux de le voir travailler avec le Pentagone.

Le géant veut se doter d'une série de principes éthiques.

Le géant veut se doter d'une série de principes éthiques. Image: Keystone

Signaler une erreur

Vous voulez communiquer un renseignement ou vous avez repéré une erreur?

Sous la pression de milliers d'employés, Google s'est engagé jeudi à ce que ses travaux en matière d'intelligence artificielle (IA) ne servent pas à fabriquer des armes, sans pour autant renoncer à collaborer avec des gouvernements ou des militaires.

«Nous avons conscience qu'une technologie aussi puissante soulève aussi d'importantes questions à propos de son usage», a écrit sur le blog du groupe, le numéro un Sundar Pichai, en énumérant une série de principes sur l'usage de l'intelligence artificielle mais sans renoncer à toute collaboration avec des gouvernements et l'armée dans d'autres domaines.

Google fait face depuis plusieurs semaines à une fronde de nombreux employés, furieux de le voir travailler avec le Pentagone pour aider les drones à mieux distinguer les objets des humains grâce à l'intelligence artificielle, un projet baptisé «Maven».

La crainte de robots-tueurs

Plus de 4000 d'entre eux ont signé une pétition demandant à Sundar Pichai de rester en dehors du «commerce de la guerre» et de renoncer au contrat, évalué par la presse à environ 9 millions de dollars. Ils lui demandaient aussi «une politique claire disant que Google ou ses sous-traitants ne construiront jamais de technologie de guerre», contraire selon eux aux valeurs fondatrices de l'entreprise née il y vingt ans. Devant ce tollé, le groupe avait annoncé en interne la semaine dernière qu'il ne renouvellerait pas ce contrat en 2019.

Pour les organisations Electronic Frontier Foundation (EFF) ou le Comité international pour le contrôle des armes-robots (ICRAC), qui ont soutenu les pétitionnaires, l'apport de l'intelligence artificielle ouvre la voie à terme à la suppression de toute intervention humaine dans les missions des drones, posant selon elles un problème éthique majeur.

L'armée américaine, comme d'autres pays, utilise des drones (commandés à distance par des humains) pour des missions de reconnaissance, de renseignement ou procéder à des bombardements, en Afghanistan par exemple.

«Une grosse victoire pour les principes d'une IA éthique»

Des voix, comme celle du médiatique patron de Tesla et SpaceX Elon Musk ou encore l'ONU, mettent en garde régulièrement contre les usages abusifs de l'intelligence artificielle, craignant notamment l'avènement d'armes autonomes, ou «robots-tueurs». Dans un tweet jeudi, l'EFF a salué la décision de Google, évoquant «une grosse victoire pour les principes d'une IA éthique».

Google, comme d'autres entreprises technologiques, fait déjà partie de groupements comme «Partnership on Artificial Intelligence» promettant des usages éthiques de l'IA, mais les principes énoncés jeudi sont plus précis. M. Pichai promet que les travaux sur l'IA seraient uniquement conçus pour des usages qui sont «positifs pour la société» et tiendraient compte des principes de respect de la vie privée.

Il exclut donc des utilisations de l'IA pour élaborer des «armes» ou «autres technologies dont le but principal est de causer ou de faciliter directement des blessures». Le groupe rejette aussi plus globalement toute technologie «qui entraîne ou est susceptible de causer du mal» mais avec cette nuance: s'il y a un risque de «faire du mal, nous poursuivrons seulement (nos travaux) lorsque nous pensons que les bénéfices sont très supérieurs aux risques et apporterons les garde-fous appropriés».

Il exclut aussi de collaborer à des systèmes de «surveillance» mais seulement lorsqu'ils enfreignent «les normes acceptées de façon internationale». M. Pichai prend aussi soin de préciser que «si nous refusons de développer l'intelligence artificielle pour des armes, nous continuerons nos travaux avec des gouvernements et l'armée dans beaucoup d'autres domaines», comme la cyber-sécurité, la formation, le recrutement militaire ou les missions de sauvetage.

Le groupe marche sur des oeufs car il est, comme d'autres groupes comme Microsoft ou Amazon notamment, sur les rangs pour un énorme contrat de plusieurs milliards de dollars avec le gouvernement américain, dont le Pentagone, qui souhaite recourir au «cloud» informatique. Google emploie 85.000 personnes dans le monde. (afp/nxp)

Créé: 07.06.2018, 22h15

Articles en relation

L'intelligence artificielle au service des médias

Etats-Unis Grâce à l'intelligence artificielle, Google veut aider le journalisme via sa nouvelle application de News. Plus...

Google déploie sa plateforme en nuage en Suisse

Technologies Google va implanter en 2019 à Zurich une région Google Cloud Platform (GCP). Cette plateforme regroupe les différents services en nuage du groupe. Plus...

Les recettes publicitaires portent Google

Tech Alphabet, maison mère de Google, affiche au premier trimestre un bénéfice net en forte hausse, grâce à la pub. Plus...

Publier un nouveau commentaire

Nous vous invitons ici à donner votre point de vue, vos informations, vos arguments. Nous vous prions d’utiliser votre nom complet, la discussion est plus authentique ainsi. Vous pouvez vous connecter via Facebook ou créer un compte utilisateur, selon votre choix. Les fausses identités seront bannies. Nous refusons les messages haineux, diffamatoires, racistes ou xénophobes, les menaces, incitations à la violence ou autres injures. Merci de garder un ton respectueux et de penser que de nombreuses personnes vous lisent.
La rédaction

Caractères restants:

J'ai lu et j'accepte la Charte des commentaires.

No connection to facebook possible. Please try again. There was a problem while transmitting your comment. Please try again.