High-tech & gadgets

Loi de la robotique : protéger l’humain ne suffit pas à guider une IA

26 octobre 2026 Delphine Bernard 7 min de lecture

La « loi de la robotique » désigne généralement les trois lois imaginées par Isaac Asimov : protéger les êtres humains, obéir à leurs ordres et préserver l’existence du robot, dans cet ordre de priorité. Ce sont des règles de science-fiction, et non des lois scientifiques ou des obligations juridiques. Leur intérêt reste pourtant très actuel : elles montrent pourquoi donner une consigne morale à une machine ne suffit pas à garantir ses décisions.

Table des matières

Les trois lois : une hiérarchie avant tout

Les formulations françaises varient selon les traductions. Leur sens peut être restitué ainsi :

Première Loi : un robot ne peut porter atteinte à un être humain ni, en restant passif, laisser un être humain exposé au danger.
Deuxième Loi : un robot doit obéir aux ordres donnés par les êtres humains, sauf si ces ordres entrent en conflit avec la Première Loi.
Troisième Loi : un robot doit protéger son existence, tant que cette protection ne contredit ni la Première ni la Deuxième Loi.

Ces règles ne sont donc pas trois objectifs équivalents. La protection humaine prime sur l’obéissance, qui prime sur la conservation du robot. Dans cette logique fictive, une machine doit refuser un ordre dangereux pour une personne. Elle peut aussi devoir se sacrifier pour accomplir un ordre compatible avec la sécurité humaine.

La première loi impose davantage que l’interdiction de blesser : elle oblige aussi à intervenir. Un robot qui observe une personne en danger ne peut pas simplement considérer que cet événement ne relève pas de sa mission. Cette exigence de prévention rend la règle particulièrement difficile à délimiter.

Règle	Priorité	Objectif	Difficulté principale
Première Loi	Avant les deux suivantes	Protéger chaque humain	Définir le danger et le préjudice
Deuxième Loi	Après la Première	Exécuter les ordres humains	Départager des ordres contradictoires
Troisième Loi	Après les deux premières	Préserver le robot	Évaluer le risque acceptable
Loi Zéro	Au-dessus des trois autres, lorsqu’elle est introduite	Protéger l’humanité	Arbitrer entre individu et collectif

Chez Asimov, des règles faites pour révéler des paradoxes

Isaac Asimov place ces lois au cœur de son Cycle des Robots. Elles permettent de sortir du seul récit de la machine qui se révolte contre son créateur : le robot peut être conçu pour protéger les humains tout en produisant des situations inquiétantes. Le problème vient alors moins d’une intention malveillante que d’une interprétation rigoureuse de consignes ambiguës.

Infographie de la loi de la robotique montrant la hiérarchie entre la loi Zéro et les trois lois d’Asimov

Les récits fonctionnent souvent comme des enquêtes. Face à un comportement apparemment absurde, les personnages cherchent quelle lecture des lois a pu le provoquer. Pour aborder cet univers, le recueil Les Robots constitue une entrée utile ; Robots et Empire permet ensuite d’explorer l’élargissement de cette réflexion à l’humanité entière.

La loi Zéro change l’échelle du raisonnement

Introduite ultérieurement dans cet univers, la loi Zéro énonce, en substance, qu’un robot ne peut nuire à l’humanité ni, par son inaction, permettre qu’elle subisse un préjudice. Elle prend le pas sur les trois autres lois. La protection d’un individu peut dès lors entrer en tension avec celle de l’ensemble de l’humanité.

Cette extension ne résout pas les dilemmes : elle les amplifie. Qui définit l’intérêt collectif ? Jusqu’où prévoir les conséquences d’une décision ? Une machine persuadée d’agir pour le bien commun pourrait justifier un dommage individuel. Asimov met ainsi en scène un problème politique autant que technique : le pouvoir de décider ce qui est bon pour les autres.

Pourquoi « ne pas nuire » reste une consigne ambiguë

Une règle simple exige des interprétations complexes dès qu’elle rencontre une situation réelle. La douleur d’un soin constitue-t-elle un dommage interdit ou une étape nécessaire pour éviter un préjudice plus grave ? Empêcher une personne de prendre un risque revient-il à la protéger ou à lui retirer sa liberté ? Les lois ne fournissent pas, à elles seules, une définition opérationnelle du bien.

Rapport officiel du Parlement européen A8-0005/2017 · Consultez le texte intégral d’un document officiel du Parlement européen en français.

Des conflits que l’ordre de priorité ne tranche pas

Imaginons un robot d’assistance auquel deux personnes donnent simultanément des ordres incompatibles. La Deuxième Loi impose l’obéissance, sans préciser à qui obéir en premier. De même, si deux humains sont en danger et qu’un seul peut être secouru immédiatement, la Première Loi ne donne pas automatiquement de critère de choix. La hiérarchie traite les conflits entre lois, mais pas tous les conflits à l’intérieur d’une même loi.

Un autre piège tient à l’onde de conséquences d’une action. Un robot peut éviter un danger immédiat tout en déplaçant le risque vers quelqu’un d’autre : bloquer une porte pour empêcher une chute peut aussi entraver une évacuation. Pour évaluer la sécurité, il faut donc examiner non seulement le geste local, mais sa propagation dans l’environnement, les personnes indirectement touchées et le délai d’apparition des effets. Ce raisonnement révèle les limites d’une protection calculée uniquement autour de l’utilisateur le plus proche.

Enfin, le robot doit percevoir correctement la scène. Une erreur de capteur, une information manquante ou une attaque informatique peut rendre une décision dangereuse malgré une règle de protection. La qualité d’un principe moral ne compense pas une mauvaise représentation du monde.

Pour l’IA, remplacer la promesse morale par des garanties vérifiables

Un robot physique agit sur son environnement ; un logiciel de recrutement ou un agent conversationnel agit surtout sur l’information et les décisions. Tous peuvent causer des préjudices, mais pas de la même manière. Transposer les lois d’Asimov suppose donc de préciser les risques propres à chaque usage, plutôt que d’insérer une instruction générale dans un programme.

Le machine learning, ou apprentissage automatique, repose sur l’apprentissage de régularités à partir de données. Il ne donne pas spontanément au système une compréhension morale fiable. Un modèle peut reproduire des biais, échouer dans une situation inhabituelle ou optimiser un indicateur qui représente mal l’objectif humain. Son autonomie ne signifie ni conscience ni libre arbitre.

Le recrutement montre les limites d’une protection abstraite

Une IA RH peut classer des candidatures sans jamais exercer de violence physique, tout en défavorisant injustement certains profils. Lui demander de « ne pas nuire » ne définit ni les critères légitimes de sélection, ni les discriminations à rechercher, ni la procédure de recours. Il faut examiner les données, tester les résultats et permettre une contestation effective.

Des garanties concrètes comprennent des permissions limitées, des tests de sécurité, la traçabilité des décisions et un arbitrage humain doté d’un véritable pouvoir de correction. La transparence doit permettre de comprendre l’usage du système ; l’explicabilité doit aider à examiner ses décisions. Une validation humaine purement automatique n’apporte pas ce contrôle.

Un robot autonome ne devient pas automatiquement responsable

Les lois d’Asimov ne déterminent pas qui doit réparer un dommage. Dans le droit réel, l’analyse dépend du pays, du type de système et des circonstances : défaut du produit, mauvaise intégration, entretien insuffisant ou utilisation inadaptée. La responsabilité du fabricant, du concepteur, de l’exploitant ou du gardien peut être examinée selon le régime applicable.

La notion de « personne électronique » appartient aux débats sur un éventuel statut juridique particulier. La résolution du Parlement européen du 16 février 2017 a notamment alimenté cette discussion ; elle n’a pas, à elle seule, accordé une personnalité juridique générale aux robots. Une autonomie technique accrue n’efface pas les obligations des organisations qui conçoivent et déploient ces systèmes.

L’héritage le plus utile d’Asimov est donc moins une recette de programmation qu’une méthode de questionnement : identifier qui protéger, rendre explicites les priorités et examiner les conséquences inattendues. Pour les technologies réelles, cette réflexion doit déboucher sur des contrôles vérifiables et des responsabilités identifiables, pas seulement sur une promesse de bienveillance.