“L’intelligence des machines n’est pas l’intelligence humaine”

Republication du 27 septembre 2018

C'est au festival NOVAQ, à Bordeaux, que Maddyness a rencontré Étienne Klein, physicien, directeur de recherches au CEA et docteur en philosophie des sciences. Celui-ci, qui animait une conférence sur l'innovation au service du bien commun, est revenu pour Maddyness sur l'engouement général autour de l'intelligence artificielle, en France. 

 L'intelligence artificielle, est-ce vraiment un sujet aujourd'hui ?

On voit passer énormément de choses, aujourd'hui, sur la façon dont les machines envahissent nos vies, influencent nos comportements, ont un impact sur nos emplois, l’économie ou encore l’enseignement. Cependant, on a toutes sortes de débats dont certains sont à mon sens un peu hors sujet par le fait que l'expression "intelligence artificielle" est complètement erronée. En anglais, artificial intelligence désigne la quête de données, d’informations et leur traitement. À l'inverse, le mot "intelligence" en français est beaucoup plus vaste que ça, puisqu'il inclut la capacité d’auto-analyse, la capacité de dire ce par quoi on est intelligent, d’expliciter un raisonnement ou encore d’avoir un regard critique sur sa propre pensée. Les machines ne font pas ça... et en sont bien loin.

On traite aujourd'hui les machines comme si elles étaient intelligentes, au sens humain du terme. Je pense qu’on exagère, et il y a là un certain débat qui n’a pas lieu d’être. Les machines nous ridiculisent en effet dans certains domaines. Pourtant, une machine qui vous bat aux échecs, par exemple, ne saura rien faire d’autre que jouer aux échecs, tandis que vous, vous pouvez parler d’autres langues, jouer au tennis, interagir avec quelqu’un... L’intelligence des machines n’est pas l’intelligence humaine.

À terme, arrivera-t-on à doter les machines de qualités humaines ?

Les machines ont des capacités très impressionnantes sur des activités très spécialisées. Mais la question c’est " va-t-on pouvoir apprendre aux machines à avoir plusieurs autres spécialités que la leur ? ", comme par exemple jouer à plusieurs jeux différents ou bien acquérir ce que l’on appelle très vulgairement le sens commun. 

J’ai un peu de mal à penser qu’une machine, même très sophistiquée, dopée au deep learning, puisse acquérir une conscience d’elle-même. Est ce qu’une machine pourra avoir conscience qu’elle est une machine ? Je ne pense pas, à moins que les humains soient conscients d’eux-mêmes par l’effet d’un algorithme en eux, dont ils ignorent l'existence et qui produit cette impression de conscience...

Ce que je trouve intéressant dans les machines, c’est l’effet miroir : elles nous obligent à nous poser des questions sur nous-mêmes, sur nos actions mais aussi sur notre façon de penser.

L’intelligence artificielle pourrait-elle aider la recherche scientifique aujourd’hui ?

C’est une rupture, c’est sûr. Mais est-ce que c’est un vrai pas en avant ? Je ne pense pas. La physique moderne est née à une époque où les scientifiques n’avaient pas de données. Quand Galilée a dit que tous les corps tombaient à la même vitesse dans le vide, il avait raison. Quand Einstein a écrit la relativité générale en 1915, on ne savait rien sur l’univers et, pourtant, il avait les bonnes équations grâce auxquelles on a pu comprendre les données acquises par la suite (les données gravitationnelles par exemple).

Est-ce qu’aujourd’hui, finalement, nous n'allons pas être tentés d’exploiter les données au maximum et de se passer des théories physiques ? Il y a une sorte de basculement : on est passé d’une science qui finalement part de la réflexion plus que de l’observation, part de la théorisation et trouve les données qui prouvent qu’on est dans la bonne direction, à une science des données.

Est-ce que ce que l’on appelle l’IA pourrait remplacer à terme les scientifiques ?

Aujourd’hui, il y a déjà des reconversions chez les scientifiques, ils changent leur manière de travailler, mais cette évolution ne les fait pas pour autant disparaitre. Certaines activités, elles, disparaissent, comme la lecture des données qui était un travail de physicien. Désormais il y a des logiciels de deep learning qui font ce travail et les physiciens n’interviennent qu’au bout de la chaine. Ça change le profil des physiciens.

Quel statut allons-nous donner à la connaissance dans le futur ?

Il y a aujourd’hui une prolifération des connaissances qui est devenue difficile à maîtriser, en tout cas par un esprit humain. Ce sont les moteurs de recherche qui viennent désormais nous dire ce qui est pertinent pour nous. Et ça, ça retombe directement sur la façon dont les enseignants enseignent. Qu’est ce qu’on dit aujourd’hui à des étudiants hyper-connectés ? Qu’est ce qu’on va pouvoir leur dire qu’ils ne trouveront pas sur Internet ? C’est une question vraiment intéressante qui fait que l’avènement des machines, des banques de données, a un impact sur la manière d'enseigner des choses. On peut également se demander si les cours en amphithéâtre existeront encore dans 20 ans ou seront remplacés par un enseignement à distance.

Pour être efficace, l’enseignement doit se faire au " corps à corps ", c’est à dire en discutant face à face avec quelqu’un, en échangeant des regards, des idées, des arguments, des contre-arguments, et dans cette interaction les pensées de l’un et de l’autre évoluent. S’il n’y a plus cet échange, on est portés à aller voir les sites d’information qui sont conformes à ce que l’on pense déjà. Sur Internet, nous sommes dans un silo cognitif qui fait que l’on est rarement porté à éprouver la contradiction de ce que l’on pense. On fabrique des bulles cognitives qui nous enferment dans ce que l’on pense déjà. Or penser, c’est dire non à sa propre pensée. Penser, c’est constamment interroger ce que l’on pense pour savoir si on a raison de le penser. Une pensée qui n’est jamais interrogée devient une croyance.

J’ai peur que les connaissances, que la pensée, deviennent de plus en plus homogènes à des systèmes de croyances qu’à des systèmes de connaissances. Notre esprit a besoin de confort psychique, il ira malheureusement là ou il aura des réponses qui conforteront ce qu’il pense déjà.