C’est une première dans l’histoire de la justice française. Pendant cinq jours, elle s’est penchée sur le cas du robot Ted-E404. Rédacteur au « Mond », il a volé puis publié sur le site du journal, des documents confidentiels et accablants sur le constructeur d’automobiles Sitroën. Une prise de position qui l’a entraîné sur le banc des accusés.
« Vous ne songez quand même pas à condamner un robot ?, répète pour la troisième fois Maître Ridel. Vous imaginez, vous, porter plainte contre une voiture parce qu’elle a loupé un virage ? Ou contre un téléphone parce qu’il a appelé un destinataire à votre insu ? ». La question laisse l’assemblée dubitative. En ce cinquième jour de procès, à Paris, le jugement est attendu. Mais difficile de se positionner sur la responsabilité d’un robot.
Immobile dans le box des accusés, Ted-E404 ne perd pas une miette de ce qui se passe dans la salle d’audience. Il faut dire que ses multiples caméras, qui recouvrent sa tête en demi-sphère, lui offrent un angle de vue à 360°. Ses mini-capteurs l’aident quant à eux à capter les conversations. Même celles du fond de la salle ne doivent pas lui échapper.
Le robot, haut de 90 centimètres, fait partie de la dernière génération de « machines » fabriquées par la société Saveteck, pionnière en matière d’intelligence artificielle. Il est accusé de s’être introduit dans la base de données de Sitroën et d’y avoir volé des documents confidentiels pour révéler un défaut de construction dissimulé jusqu’alors par l’entreprise. Une question de sécurité publique selon Ted-E404, la dernière série de véhicules ayant provoqué un nombre d’accidents supérieur à la moyenne.
Lors de son interrogatoire, le robot avait expliqué avec précision ses motivations. S’il a volé ces documents, c’est parce qu’il estimait nécessaire de faire éclater la vérité. Il a même martelé que « si c’était à refaire, il n’hésiterait pas à recommencer », la transparence étant le « fondement de son métier de journaliste ». Une capacité de réflexion trahissant une certaine forme de sensibilité qui avait déjà surpris les enquêteurs.
Une intelligence forte
« Je vous rappelle qu’il s’agit d’une machine. Une machine ! », insiste Maître Ridel en tapant du poing sur son petit bureau où s’étalent de nombreux documents. La cour s’agace de cette rengaine de l’avocat. D’autant qu’un statut juridique pour les robots a été instauré il y a peu, impulsé par les travaux de l’avocat Alain Bensoussan, qui prévoyait que les robots seraient dominants en 2067.
Le juge, agacé, tient à replacer les faits dans leur contexte : « Si nous sommes ici aujourd’hui, c’est bien que nous considérons que cette machine est responsable et peut être jugée. Monsieur Bailly, vous êtes expert reconnu en robotique, pouvez-vous confirmer une dernière fois que ce robot-rédacteur avait conscience de ses actes au moment de publier les informations mettant en cause le groupe Sitroën ? »
L’expert, un homme trapu d’une cinquantaine d’années, s’avance fièrement à la barre.
« Cela ne fait aucun doute. Ce robot, qui fait partie de la génération la plus avancée, est doté d’une intelligence forte, comparable à celle des humains. Elle n’a rien à voir avec l’intelligence faible des premières générations de machines. Ce n’est pas nouveau, on savait que les robots finiraient par développer une certaine autonomie. Il y a 50 ans, déjà, Claude de Loupy, l’un des premiers à créer des robots-rédacteurs, reconnaissait la nécessité de surveiller les robots. Il avait à l’esprit le point de singularité, ce moment où une machine devient totalement incontrôlable parce qu’elle explose en intelligence et où on n’est plus capable de la suivre. Nous en sommes là aujourd’hui. »
Durant l’intervention de l’expert, Ted-E404 semble soudain moins tranquille. Ses nombreux voyants se mettent à clignoter de plus en plus vite, comme les battements d’un cœur qui s’accélère. Serait-il en train de paniquer ? Sa coque en métal résonne dans l’impressionnante salle d’audience depuis qu’il peine à rester en place et se balance d’avant en arrière.
Le juge, intrigué, l’interpelle : « Avez-vous quelque chose à ajouter ? » Le tribunal se mure alors dans un grand silence.
Le robot hésite, puis répond : « J’ai simplement voulu avertir les gens du danger qu’ils encourraient. »
Ted-E404 termine à peine sa phrase que son avocat, Maître Ridel, surenchérit nerveusement : « Il s’agit d’une machine programmée. On lui a introduit des éléments de conscience, comme le respect, la peur, la compassion. Il ne pense pas ce qu’il dit. Tout cela relève d’une programmation et uniquement de ça. Pardonnez-moi Monsieur le juge, mais la situation dans laquelle nous nous trouvons aujourd’hui est invraisemblable ! »
« On n’a plus le contrôle sur rien »
La cour se retire pour délibérer. La direction du journal aurait sans doute préféré ne pas faire l’objet d’une telle publicité. Jamais encore, une rédaction n’avait été confrontée à une telle situation. Mais le scoop a fait exploser les audiences et Sitroën a été obligé de retirer plus d’un million de véhicules du marché. Pour se dédouaner de toute responsabilité, le journal s’est porté partie civile.
Dans les couloirs du tribunal, les discussions entre les journalistes de la rédaction fusent. « Tout ça, ça m’inquiète, on n’a plus le contrôle sur rien ». « Mais qu’est-ce qu’on ferait sans eux ? Depuis que les robots sont dans les rédactions, nous journalistes, avons davantage de temps pour travailler le fond de nos articles ». « J’y crois pas trop. Pour moi, il y a bien un programmateur derrière tout ça. Et le responsable, c’est lui ». « Il est dépassé ton programmateur. Et nous avec ».
L’audience est partagée. Les déclarations de Didier Guével en 2016, professeur de droit, paraissent bien lointaines : « Je ne crois pas du tout à un procès de robot. L’intelligence artificielle ne sera jamais une véritable intelligence parce qu’il manquera toujours quelque chose, c’est-à-dire, le sentiment ». Des sentiments justement, le robot semble en avoir éprouvé. En cinq jours de procès, ses convictions ont ému la salle. Mais comment juger de leur sincérité ? Ne sont-ils pas seulement le fruit d’un algorithme ?
Après trois heures de délibérations, le jugement de la cour s’abat alors comme un coup de massue ; en vertu de la loi du 3 février 2065, reconnaissant une personnalité juridique aux robots, Ted-E404 est jugé coupable de vol, divulgation du secret des affaires et fraude informatique. Cette décision, une première à l’encontre des robots, se veut symbolique et doit servir d’exemple : Ted-E404 sera déprogrammé et détruit.
Retrouvez ici les grandes dates de la robotique en France :
