Le robot conversationnel Lucie a beaucoup fait parler de lui la semaine dernière… Non pas pour son efficacité mais pour son caractère éphémère ! L’accès à l’outil a en effet dû être coupé après seulement trois jours par ses concepteurs suite à de nombreuses hallucinations. Lucie, développé par la société Linagora en collaboration avec le CNRS et avec le soutien de l’État, a attiré les moqueries des internautes pour avoir par exemple évoqué «les œufs de vache» ou n’avoir pas réussi à compter le nombre de «r» dans «strawberry».

Présent au Grand Palais pour le Sommet pour l’Action sur l’IA, Alexandre Zapolsky, fondateur de Linagora, a tenu à revenir sur cet échec. «On invente par itération dans l'informatique, c'est jamais une invention en ligne droite, donc ça fait partie du processus open source que d'ouvrir, de tester et de demander aux gens de valider», explique-t-il à Maddyness. «Donc dans l'absolu, tout ça n'est pas grave. On l'assume à 100 %.»

Sauf peut-être lorsque Lucie se met à tenir des propos fascistes… «Certaines personnes ont eu un usage volontairement négatif de la plateforme et on demandé à Lucie de jouer le rôle d'Hitler et elle s'est exécutée», raconte Alexandre Zapolsky. Avant d'expliquer ce qu'il s'est passé pour aboutir à cette situation ubuesque : «Ce que je tiens à préciser parce que maintenant, on le sait, nos ingénieurs nous ont remonté l'information, c’est qu'il y avait finalement quelques filtres qui avaient été mis en place. Mais a priori, il y a un bot qui a joué des centaines de fois la question pour passer ces filtres. J'ai pris la décision, c'était ma responsabilité, de demander aux équipes de fermer l'accès à Lucie Chat.»

Toujours possible de s'inscrire sur la plateforme Lucie

Néanmoins, Linagora ne s’avoue pas vaincue et entend rouvrir la plateforme prochainement. «On peut toujours s’inscrire», assure le fondateur. «On a besoin de demander aux gens de poser des questions et de collecter les réponses de Lucie mais on va mieux expliquer et on va mettre tout ce qu’il faut de filtres et de garde-fous pour éviter ce type d’erreur.»

Alexandre Zapolsky s’attache en effet à défendre son alternative française et «réellement open source». «D’abord, ça veut dire qu'il n'y a pas de restriction d'usage, y compris d'un point de vue commercial. Deuxièmement, on partage notre recette d'entraînement, la fameuse 'secret sauce'. Et troisième point, et non des moindres, on fournit le dataset d'entraînement. Lucie est la seule IA qui réunit ces trois critères à ce stade», assure-t-il.

Et l’ouverture de Lucie au grand public faisait donc clairement partie du processus de construction de l’IA. «On ne veut utiliser que des données sur lesquelles on a des droits. Et quand les Big Tech font ça, ils utilisent différents moyens. Certains ont payé des sociétés qui, elles-mêmes, payaient des pauvres Kenyans pour produire de la question/réponse pour un salaire misérable, ce qui pose bien sûr un vrai problème éthique de notre point de vue. Et d'autres sont allés piquer la data provenant d'autres IA», affirme Alexandre Zapolsky. «Tout ça, on n'a pas souhaité le faire. On a préféré faire appel à la communauté.» Cette dernière sera donc appelée, une nouvelle fois, à tester Lucie… en espérant un redémarrage en douceur.