Par Philippe Veber, avocat associé. Veber Associés
Robotique?: l’erreur sera-t-elle encore humaine??
Les robots s’immiscent dans notre vie quotidienne. Comme Internet chahute le droit des marques et la protection de la vie privée, la robotique risque de provoquer un réajustement de certains principes juridiques actuels. Avant de savoir si les robots gouverneront le monde et avant de s’attaquer à la «?matrice?», il est peut-être utile d’identifier certains problèmes juridiques futurs.
Certains associent le premier robot au mythe de Talos, 2000 ans avant J.C. La légende veut que «?ce géant de bronze, gardien de l’île de Crète, pouvait porter son corps à incandescence?». Ce qui relevait encore de la science-fiction il y a quelques dizaines d’années s’est transformé aujourd’hui en un marché en pleine expansion. L’enveloppe globale de la robotique devrait atteindre 25?milliards de dollars en 2013. Le chiffre de 100?milliards en 2020 a été avancé.
Si la Corée du Sud avance comme un acteur incontournable, certains pionniers français ont pris la mesure de cet enjeu majeur du monde de demain. Un salon international a vu le jour à Lyon et un fonds d’investissement doté de 60?millions d’euros dédié aux robots de service a été créé. Il est à souhaiter que la France ne rate pas ce tournant fascinant.
Il faut désormais s’interroger sur la présence des robots dans notre vie quotidienne. Des drones ont filmé pour la télévision la dernière descente de coupe du monde de ski alpin à Wengen. Le «?Rover Spy Tank?» est une sorte de «?robot espion?» grand public. Des patients virtuels sont utilisés par de futurs chirurgiens dans les facultés de médecine. Incontestablement, la robotique constitue une avancée dans de nombreux domaines. Les robots de compagnie pour les enfants malades, les robots éducatifs, les robots d’assistance aux personnes âgées ou aux personnes handicapées, les robots-chirurgiens, sont des exemples d’apports particulièrement bénéfiques.
Les robots vont immanquablement bouleverser nos habitudes comme les nouvelles technologies de l’information ont révolutionné, et révolutionnent encore, notre mode de vie. Au-delà des questions d’ordres éthique, philosophique et économique, des questions juridiques peuvent être posées. Le droit des robots a été envisagé. Une déclaration universelle des droits des robots a même été discutée. L’usage militaire de la robotique a suscité des débats. L’utilisation croissante des robots ne manquera pas un jour ou l’autre d’alimenter la chronique judiciaire au-delà des lois d’Assimov. Le «?droit de la robotique?» trouvera peut-être un jour sa place.
Comme dans toute aventure humaine il y a le côté lumineux et le côté obscur de la force… La jambe bionique conduira peut-être à une nouvelle forme de dopage et les micro-robots espions seront une occasion de plus de porter atteinte à l’intimité de notre vie privée. La robotique peut donc être vécue comme une chance ou comme une intrusion inquiétante. Sans être exhaustif, il est possible de recenser quelques interrogations juridiques, et pour l’avenir, la question centrale semble bien être celle de l’autonomie.
L’autonomie
La science-fiction a imaginé des robots qui ressemblent à l’homme. La science les a conçus. Les humanoïdes sont des machines à forme humaine. Mais au-delà de l’apparence qui n’est qu’habillage ou faux-semblant, c’est le cerveau humain qui fascine. D’ailleurs, l’expression «?intelligence artificielle?» contient peut-être en elle-même une certaine contradiction. Il paraît difficile de rendre les machines aussi intelligentes que l’homme et l’intelligence de l’homme est fatalement derrière la machine. L’homme rêve certainement de se recréer. Paradoxe qui déroute. Mais les chercheurs ont déjà dépassé le volet philosophique. La robotique offre aujourd’hui déjà beaucoup d’applications et une tendance s’affirme progressivement mais sûrement : la disparition de la main humaine. Les systèmes hybrides qui tentent de combiner le vivant et l’artificiel en sont la parfaite illustration.
L’enjeu est de savoir si l’homme arrivera à doter la machine d’une certaine forme de conscience en dehors de toute programmation. Mais avant ce stade ultime, avec notamment, la locomotion autonome, les capteurs sensoriels, qui accordent au robot une grande faculté d’indépendance, la question ne tardera pas à se poser. Qui sera responsable des faits et gestes d’un robot autonome ?
La responsabilité court-circuitée
Il est indéniable que le robot entraîne dans certains cas la disparition de l’action humaine. Le chirurgien qui aura certainement appuyé sur le bouton «?on?» sans pratiquer aucun geste chirurgical pourra-t-il encore être responsable ? On peut penser que l’on s’acheminera vers une suppression d’un ou de plusieurs étage(s) de responsabilité.
Qui sera responsable d’une atteinte corporelle portée à son utilisateur par un robot de compagnie, un robot éducatif ou d’assistance ? Quelle réponse juridique pour le robot qui se retourne contre la personne âgée qu’il est chargé d’assister ?
L’idée d’un contrôle externe par une main humaine conduit naturellement à placer le débat sur la responsabilité du fait des choses. D’ailleurs, notre droit écarte déjà la notion de discernement dans certains cas. Il existe aussi des présomptions pesant sur le propriétaire, sur l’utilisateur, en fonction des circonstances. Il est fait appel aux notions de garde de structure et de garde de comportement. Elles conduisent à d’autres concepts astucieux comme celui du dynamisme propre d’un objet poussant à retenir la responsabilité du fabricant. Les critères de la garde sont l’usage, la direction et le contrôle de la chose. Mais ces critères ne sont pas forcément transposables à l’univers des robots.
Le robot n’est pas une personne, certes. Mais est-il pour autant une chose dirigée et contrôlée ? Un robot qui s’active de manière indépendante n’est ni un chariot d’un grand magasin, ni une bouteille rangée sur une étagère de supermarché. Son autonomie semble écarter la garde du comportement de l’utilisateur justement assisté par son robot et paraît ne pas favoriser la garde de structure imputable au fabricant, ce dernier ayant perdu tout contact surtout en l’absence de vice technique. Recourir à la responsabilité des produits défectueux semble ramener au point de départ en cas d’absence de défaut lors de la mise en circulation.
Une réflexion pourrait être également menée en matière de responsabilité pénale dans le cas d’un «?robot tueur?». Il paraît improbable de retenir une responsabilité personnelle. Le premier réflexe consiste à se tourner vers la responsabilité pénale des personnes morales. Mais une condition risque de manquer ; la réalisation de l’infraction par un organe de direction.
La question délicate sera peut-être de savoir qui contrôle les organes internes du robot doué de liberté. L’autonomie paraît donc bien susceptible de malmener les concepts actuels. L’erreur restera-t-elle encore humaine ? Le droit fera-t-il appel à la fiction juridique ou à la science-fiction juridique ? L’avenir le dira.
Certains associent le premier robot au mythe de Talos, 2000 ans avant J.C. La légende veut que «?ce géant de bronze, gardien de l’île de Crète, pouvait porter son corps à incandescence?». Ce qui relevait encore de la science-fiction il y a quelques dizaines d’années s’est transformé aujourd’hui en un marché en pleine expansion. L’enveloppe globale de la robotique devrait atteindre 25?milliards de dollars en 2013. Le chiffre de 100?milliards en 2020 a été avancé.
Si la Corée du Sud avance comme un acteur incontournable, certains pionniers français ont pris la mesure de cet enjeu majeur du monde de demain. Un salon international a vu le jour à Lyon et un fonds d’investissement doté de 60?millions d’euros dédié aux robots de service a été créé. Il est à souhaiter que la France ne rate pas ce tournant fascinant.
Il faut désormais s’interroger sur la présence des robots dans notre vie quotidienne. Des drones ont filmé pour la télévision la dernière descente de coupe du monde de ski alpin à Wengen. Le «?Rover Spy Tank?» est une sorte de «?robot espion?» grand public. Des patients virtuels sont utilisés par de futurs chirurgiens dans les facultés de médecine. Incontestablement, la robotique constitue une avancée dans de nombreux domaines. Les robots de compagnie pour les enfants malades, les robots éducatifs, les robots d’assistance aux personnes âgées ou aux personnes handicapées, les robots-chirurgiens, sont des exemples d’apports particulièrement bénéfiques.
Les robots vont immanquablement bouleverser nos habitudes comme les nouvelles technologies de l’information ont révolutionné, et révolutionnent encore, notre mode de vie. Au-delà des questions d’ordres éthique, philosophique et économique, des questions juridiques peuvent être posées. Le droit des robots a été envisagé. Une déclaration universelle des droits des robots a même été discutée. L’usage militaire de la robotique a suscité des débats. L’utilisation croissante des robots ne manquera pas un jour ou l’autre d’alimenter la chronique judiciaire au-delà des lois d’Assimov. Le «?droit de la robotique?» trouvera peut-être un jour sa place.
Comme dans toute aventure humaine il y a le côté lumineux et le côté obscur de la force… La jambe bionique conduira peut-être à une nouvelle forme de dopage et les micro-robots espions seront une occasion de plus de porter atteinte à l’intimité de notre vie privée. La robotique peut donc être vécue comme une chance ou comme une intrusion inquiétante. Sans être exhaustif, il est possible de recenser quelques interrogations juridiques, et pour l’avenir, la question centrale semble bien être celle de l’autonomie.
L’autonomie
La science-fiction a imaginé des robots qui ressemblent à l’homme. La science les a conçus. Les humanoïdes sont des machines à forme humaine. Mais au-delà de l’apparence qui n’est qu’habillage ou faux-semblant, c’est le cerveau humain qui fascine. D’ailleurs, l’expression «?intelligence artificielle?» contient peut-être en elle-même une certaine contradiction. Il paraît difficile de rendre les machines aussi intelligentes que l’homme et l’intelligence de l’homme est fatalement derrière la machine. L’homme rêve certainement de se recréer. Paradoxe qui déroute. Mais les chercheurs ont déjà dépassé le volet philosophique. La robotique offre aujourd’hui déjà beaucoup d’applications et une tendance s’affirme progressivement mais sûrement : la disparition de la main humaine. Les systèmes hybrides qui tentent de combiner le vivant et l’artificiel en sont la parfaite illustration.
L’enjeu est de savoir si l’homme arrivera à doter la machine d’une certaine forme de conscience en dehors de toute programmation. Mais avant ce stade ultime, avec notamment, la locomotion autonome, les capteurs sensoriels, qui accordent au robot une grande faculté d’indépendance, la question ne tardera pas à se poser. Qui sera responsable des faits et gestes d’un robot autonome ?
La responsabilité court-circuitée
Il est indéniable que le robot entraîne dans certains cas la disparition de l’action humaine. Le chirurgien qui aura certainement appuyé sur le bouton «?on?» sans pratiquer aucun geste chirurgical pourra-t-il encore être responsable ? On peut penser que l’on s’acheminera vers une suppression d’un ou de plusieurs étage(s) de responsabilité.
Qui sera responsable d’une atteinte corporelle portée à son utilisateur par un robot de compagnie, un robot éducatif ou d’assistance ? Quelle réponse juridique pour le robot qui se retourne contre la personne âgée qu’il est chargé d’assister ?
L’idée d’un contrôle externe par une main humaine conduit naturellement à placer le débat sur la responsabilité du fait des choses. D’ailleurs, notre droit écarte déjà la notion de discernement dans certains cas. Il existe aussi des présomptions pesant sur le propriétaire, sur l’utilisateur, en fonction des circonstances. Il est fait appel aux notions de garde de structure et de garde de comportement. Elles conduisent à d’autres concepts astucieux comme celui du dynamisme propre d’un objet poussant à retenir la responsabilité du fabricant. Les critères de la garde sont l’usage, la direction et le contrôle de la chose. Mais ces critères ne sont pas forcément transposables à l’univers des robots.
Le robot n’est pas une personne, certes. Mais est-il pour autant une chose dirigée et contrôlée ? Un robot qui s’active de manière indépendante n’est ni un chariot d’un grand magasin, ni une bouteille rangée sur une étagère de supermarché. Son autonomie semble écarter la garde du comportement de l’utilisateur justement assisté par son robot et paraît ne pas favoriser la garde de structure imputable au fabricant, ce dernier ayant perdu tout contact surtout en l’absence de vice technique. Recourir à la responsabilité des produits défectueux semble ramener au point de départ en cas d’absence de défaut lors de la mise en circulation.
Une réflexion pourrait être également menée en matière de responsabilité pénale dans le cas d’un «?robot tueur?». Il paraît improbable de retenir une responsabilité personnelle. Le premier réflexe consiste à se tourner vers la responsabilité pénale des personnes morales. Mais une condition risque de manquer ; la réalisation de l’infraction par un organe de direction.
La question délicate sera peut-être de savoir qui contrôle les organes internes du robot doué de liberté. L’autonomie paraît donc bien susceptible de malmener les concepts actuels. L’erreur restera-t-elle encore humaine ? Le droit fera-t-il appel à la fiction juridique ou à la science-fiction juridique ? L’avenir le dira.
