L’«algorithmisation» signe-t-elle la fin du libre arbitre?

Récemment, on apprenait qu’un algorithme allait se charger de l’enclassement des élèves zurichois. Son objectif (des plus nobles): la mixité sociale. Son postulat: le traitement de données par une machine serait plus objectif et équitable qu’une répartition faite par un humain. Car c’est bien connu: les humains peuvent se tromper et les chiffres, eux, ne mentent pas.

Cet exemple n’est que la pointe de l’iceberg d’une «algorithmisation» inquiétante. Ainsi, certaines entreprises confient à des algorithmes le recrutement du personnel. D’autres s’en servent pour licencier. Certains pays leur délèguent l’octroi des prestations sociales. D’autres aident les juges à «prédire» la récidive.

Malheureusement, les algorithmes se trompent aussi. D’une part, parce qu’ils sont conçus par des humains. D’autre part, parce qu’ils fondent leurs décisions sur des données, lesquelles, contrairement à ce que l’on croit souvent, contiennent des lacunes, des erreurs et sont toujours le fruit de choix humains, forcément subjectifs et parfois idéologiques.

«Celui qui délègue une décision aux algorithmes n’est pas un décideur; il ne fait qu’obéir»

Les conséquences sont effroyables: cela va de l’algorithme d’un système de paiement en ligne qui considère les femmes comme moins solvables que les hommes à celui qui sous-évalue le risque vital des patients afro-américains lors de leur hospitalisation. Et ces erreurs surviennent aussi en cas d’attribution de places de formation: l’algorithme français de répartition dans les hautes écoles «parcourssup», censé être plus équitable que l’ancien tirage au sort, a notamment aggravé les inégalités sociales.

Derrière cet essor des algorithmes se cache un danger qui va bien au-delà de la discrimination. Ce qui est en jeu, c’est notre libre arbitre. À titre individuel tout d’abord. Car celui qui délègue une décision aux algorithmes n’est en réalité pas un décideur; il ne fait qu’obéir.

Les algorithmes sont aussi une menace pour l’exercice collectif du libre arbitre: la démocratie. Car confier des décisions politiques à des formules mathématiques a pour conséquence de priver le peuple et ses élus de leur pouvoir de décision. Ces algorithmes politiques ne sont d’ailleurs pas forcément numériques, ni récents. Par exemple, fonder une politique budgétaire sur un «frein à l’endettement» revient à laisser décider l’algorithme en lieu et place des élus. Il en irait de même d’une formule définissant automatiquement l’âge de la retraite, par exemple en fonction de l’espérance de vie.

Que faire alors? Tout d’abord, renoncer aux décisions automatisées là où elles n’apportent aucune plus-value. Et lorsque c’est le cas, par exemple parce qu’il s’agit d’appliquer un grand nombre de fois une décision fondée sur des critères identiques, il faut des règles pour que les droits fondamentaux soient respectés. Cela ne sera le cas que lorsque les algorithmes seront explicables, «auditables», que leurs décisions seront susceptibles d’être réexaminées et qu’il y aura un humain qui en assume la responsabilité...

Créé: 21.11.2019, 06h47