Le 10 juin 2016, l'eurodéputée luxembourgeoise S&D, Mady Delvaux, est venue présenter à la Maison de l'Europe, à l'invitation de la Représentation du Parlement européen à Luxembourg, son projet de rapport sur les règles de droit civil concernant la robotique.

Ce rapport est le fruit des travaux menés au sein du groupe de travail sur la robotique et l'intelligence artificielle, mis en place il y a un an par la commission des affaires juridiques du Parlement européen et que l'eurodéputée préside. Il contient des recommandations adressées à la Commission européenne en vue de développer un cadre juridique qui encadre

"L'humanité est à l'aube d'une période durant laquelle des robots plus élaborés, des androïdes et d'autres manifestations d'intelligence artificielle semblent en mesure de déclencher une nouvelle révolution industrielle, qui devrait toucher toutes les couches de la société", prévient le projet de rapport. "Aucun aspect de la vie dans le futur ne sera pas concerné par la robotique", a complété Mady Delvaux durant la conférence de presse.

En 2014, il y avait déjà près de 1,5 million de robots industriels en activité dans le monde. Les ventes de robots sont en constante progression, à la faveur notamment de l'activité des constructeurs automobiles, qui développe de voitures intuitives sans chauffeur, et de l'industrie électrique/électronique.

Or, si la robotique ouvre de nouvelles opportunités économiques, elle pose un grand nombre de nouvelles questions éthiques, morales et juridiques. Six Etats membres ont déjà commencé à réfléchir sur des adaptations de la législation. Une action européenne éviterait la fragmentation de la législation et donnerait une certaine clarté pour l'industrie européenne de la robotique appelée à se développer.  

Mady Delvaux espère que le rapport et les discussions qu'il va entraîner permettront d'"objectiver ce débat" et, en démêlant le plausible du farfelu de "se préparer à ce qui peut arriver". Le rapport fait en tout une mise en garde explicite contre la sensibilité du sujet : "Il y a une possibilité qu'en l'espace de quelques décennies, l'intelligence artificielle puisse surpasser la capacité humaine intellectuelle d'une manière qui, si ce n'est pas anticipé, pose un défi à la capacité humaine de contrôler sa propre création, et, par conséquent, aussi sa capacité à être en charge de sa propre destinée et d'assurer la survie de l'espèce", y lit-on.

Les domaines d'action concernés

Le développement des robots et de l'intelligence artificielle implique des travaux législatifs dans de nombreux domaines.

Le domaine de la protection de la vie privée et des données personnelles constitue "un des sujets les plus difficiles", dit Mady Delvaux, puisque le robot a besoin d'un accès à des données pour fonctionner. Ainsi, des applications vont communiquer ensemble et avec des bases de données sans intervention humaine, et même parfois sans qu'aucun être humain ne soit au courant. Mady Delvaux signale que le groupe de travail a retenu que les principes de précaution, de nécessité et de proportionnalité soient pris en compte dans l'accès aux données. "Le robot ne doit prendre que ce dont il a besoin et les conserver pour une durée qui ne soit pas illimitée", dit-elle.

Ensuite, se posent des questions de sécurité physique, dès lors que les robots interagissent avec les hommes. "Un robot, par définition, est dangereux", dit l'eurodéputée. Il est lourd et puissant, et peut causer des dommages par exemple en cas de programmation défaillante ou de piratage, en cas de prises de décisions autonomes comme dans le cas de voitures ou de drones, et dans le cas de recours aux robots pour le maintien de l'ordre public.

Mady Delvaux cite encore les questions de droits d'auteur soulevées par le développement des robots, dès lors qu'un jour, ils seront en mesure eux-mêmes de créer. Dans le domaine de la santé, se posent des questions de définition et de statut de prothèses intelligents qui rendent l'homme plus fort, dit Mady Delvaux. Le rapport soulève aussi les questions de la formation et les problèmes d'autodiagnostic qui pourraient surgir.

Enfin, le rapport pose la question épineuse de la responsabilité juridique des robots, dès lors que le robot peut effectuer des taches de manière autonome et même prendre des décisions, il y a lieu de définir la responsabilité : que ce soit l'utilisateur ou le producteur. Le développement de caractéristiques cognitive - telle la capacité d'apprendre de l'expérience et de prendre des décisions indépendantes - les a rendus de plus en plus similaires à des agents qui interagissent avec leur environnement et sont capables de le modifier significativement. Il faut de nouvelles règles qui se concentrent sur comment une machine peut être tenue pour - partiellement ou entièrement - responsable de ses actes ou oublis", lit-on dans le rapport. Il y a encore des "discussions tendues", notamment avec les constructeurs automobiles qui ne veulent pas assumer la responsabilité, par exemple, pour les automobiles intuitives sans chauffeur, fait savoir Mady Delvaux. Ainsi, le rapport suggère-t-il la possibilité d'une obligation d'assurance des robots par les producteurs, semblable au fonctionnement de l'assurance des voitures.

Des craintes pour l'emploi

Cela permettrait par ailleurs de comptabiliser le nombre de robots en service mais aussi d'y voir un peu plus clair dans les conséquences du développement des robots sur l'emploi, sujet qui, dit Mady Delvaux, fait le plus peur aux citoyens.

Les avis d'experts divergent fortement en la matière. Ainsi, au vu de l'absence de données fiables qui ne facilite pas ces projections, Mady Delvaux a-t-elle lancé un "double appel". Elle souhaite que soit réalisé un suivi de l'évolution qui serait notamment facilité si les entreprises livraient davantage de données sur les robots qu'ils utilisent d'ores et déjà et sur l'impact qu'ils ont eu en termes d'emploi.

Ensuite, à la lecture de telles données, dans le cas de nombreuses pertes d'emploi, Mady Delvaux appelle à ce qu'une réflexion soit menée, comme par exemple sur la nécessité d'introduire un revenu minimum universel au cas où les pires projections de suppression d'emplois (jusqu'à plus de 50 %) se réaliseraient. Cela pourrait également impliquer la levée d'impôts sur les robots enregistrés au préalable, afin notamment de maintenir la durabilité du système de sécurité sociale, notamment cité dans le rapport.

Les recommandations du rapport

Le rapport contient une série de recommandations, parmi lesquelles Mady Delvaux distingue les suivants :

• Créer une agence européenne de la robotique et de l'agence artificielle. Une telle agence aurait pour rôle de suivre l'évolution du marché pour pouvoir fournir en expertises les acteurs publics nationaux et européens et de pouvoir accompagner l'industrie. Elle pourrait également suggérer des mesures réglementaires.

• Définir les principes auxquels les robots doivent correspondre. En la matière, l'UE a une sensibilité à faire valoir, différente de celle du Japon et de la Corée, dit l'eurodéputée. Le robot devrait être au service de l'être humain qui devrait pouvoir décider s'il veut ou non interagir avec le robot, tandis que la dignité devrait toujours être respectée. Par exemple, en cas de soins effectués par un robot, le patient devrait pouvoir le déconnecter. Le rapport mentionne également le principe de précaution qui doit guider la recherche en robotique afin que soient anticipés les dangers pour la sécurité et d'encourager le bénéfice pour la société et l'environnement. Mady Delvaux se dit très attaché aux principes de l'équité dans l'accès aux robots, pour que ce ne soit "pas seulement une élite qui puisse en profiter".

• Proposer une Charte de recommandations pour les comités d'éthiques. Mady Delvaux souligne l'importance que devraient jouer les comités d'éthiques indépendants, composés d'experts, de philosophes et de représentants de consommateurs. Il y aurait également une Charte de recommandations pour les constructeurs de robot.

Figurent encore parmi les recommandations : des licences pour les utilisateurs, la surveillance du  développement du marché du travail et l'élaboration d'une législation non rigide pour pouvoir s'adapter à l'évolution de la technologie et de l'innovation

Le rapport du groupe de travail suggère aussi que soit défini ce qu'est un robot intelligent en prenant en compte : sa capacité à acquérir une autonomie à travers des capteurs et/ou l'échange de données avec son environnement (inter-connectivité) et l'analyse de ces données ; sa capacité à apprendre à travers l'expérience et l'interaction ; sa forme du support physique du robot ; sa capacité d'adapter ses comportements et ses actions à son environnement

A noter que le rapport demande à la Commission du suivi le suivi de la résolution du Parlement européen du 29 octobre 2015 sur l'utilisation sûre des systèmes d'aéronefs télépilotés (RPAS), plus connus sous le nom de véhicules aériens sans pilote (UAV), dans le domaine de l'aviation civile. 

Des besoins de sensibilisation du consommateur

Après l'intervention de Mady Delvaux et dans le but d'illustrer l'impact de cette nouvelle technologie sur les consommateurs, Matthieu Farcot, conseiller juridique auprès de Security Made in LU est venue présenter des exemples concrets sur les aspects de sécurité et de droit des consommateurs, pour ce qui est de l'internet des objets. Il a mis en garde sur le manque de garanties apportées par les services web qui transforment les objets physiques en robots, capables de prendre des décisions autonomes (liées à une programmation préalable) et de récolter des données. Il a cité notamment les frigos intelligents capables de passer des commandes, les drones qui se mettent seuls en route ainsi que les robots humanoïdes qui ont de grandes capacités de récolte de données.

Dans  l'internet de l'objet, il y a trois composantes : un objet, une connexion et des données. Matthieu Farcot souligne le problème du consentement du consommateur. Celui-ci coche la case disant qu'il a lu les conditions générales sans en connaître un contenu qui peut le priver de toute maîtrise du traitement de ses données par la suite.

Si les droits associés à l'objet physique sont en général bien connus des consommateurs, ce n'est pas le cas des droits associés aux services web qui sont fournis sans garantie. Mathieu Farcot a cité des cas connus de poupées connectées reliés à des clouds informatiques, dont les données étaient stockées sans être codées et qui ont pu être piratées. Il a souligné le besoin de sensibilisation du consommateur en la matière.