L'oracle des réseaux neuronaux

/ in , / by
Reading Time: 4 minutes


Pouvons-nous vraiment confier la responsabilité de parties importantes de notre vie à des réseaux neuronaux d'intelligence artificielle ? Pouvons-nous vraiment traiter ces choses comme des conseillers humains, ou ne devrions-nous pas plutôt les considérer comme les oracles d'autrefois, donnant leurs étranges prononciations et prédictions qui, bien que vraies, ne peuvent être remises en question ou expliquées ?

Dans ce blog, Richard Develyn, directeur technique de CloudTrade, souligne certaines des principales différences entre le raisonnement humain et celui des réseaux neuronaux et suggère que, si les réseaux neuronaux peuvent avoir leur place dans la société, nous ne devrions pas trop nous emballer et commencer à imaginer qu'ils vont devenir « plus importants que le feu ». 

Je me souviens d'une nuit, il y a plusieurs années, où un groupe d'amis a décidé de me jouer un tour.

« Tu as fait un rêve très vif la nuit dernière », m'ont-ils dit, « et bien que tu ne t'en souviennes pas toi-même, il était si fort qu'il s'est propagé dans toutes nos têtes. Pose-nous des questions fermées et nous te décrirons lentement ce que c'était. »

Comme j'étais prêt à tout, je me suis lancé, en remarquant qu'ils répondaient tous simultanément par « oui » ou par « non », sans qu'il y ait eu de consultations apparentes entre eux. Je ne croyais pas à l'histoire du rêve télépathique, bien sûr, je pensais simplement qu'ils avaient dû convenir d'un scénario entre eux avant le début du jeu et j'avais hâte de découvrir lequel.

Ce n'était pas du tout le cas. Le jeu fonctionne en ce sens que chacun répond « oui » ou « non » selon que la question que vous lui posez se termine par un mot contenant la lettre « e » ou non. Le scénario qui se déroule dépend entièrement de ce que vous choisissez de demander, avec des conséquences potentiellement embarrassantes/révélatrices par conséquent !

Si j'avais eu une once de bon sens, j'aurais peut-être commencé à chercher le tour. Ce n'est pas un tour difficile, après tout, et je pense que n'importe quel être humain à qui l'on pose un nombre raisonnable de questions et de réponses devrait être capable de le découvrir, s'il s'était rendu compte qu'un tour était en train d'avoir lieu.

Un réseau neuronal à qui l'on présenterait une série de questions et les réponses correspondantes (oui ou non) commencerait, le moment venu, à prédire avec une précision croissante (mais jamais à 100 %) la bonne réponse avant qu'elle ne soit donnée. Ce qu'il ne ferait jamais, en revanche, c'est déduire la règle simple qui détermine l'algorithme, c'est-à-dire répondre « oui » si le dernier mot contient un « e », de la même manière qu'un être humain le ferait. Il y a deux raisons à cela.

Premièrement, un réseau neuronal n'a pas la capacité de traduire les millions de chiffres qu'il contient dans sa base de connaissances en une déclaration logique. Les réseaux neuronaux ne « comprennent » pas la logique, les mathématiques ou quoi que ce soit d'autre. Je suppose que nous ne savons pas comment nous comprenons ces choses nous-mêmes, mais d'une manière ou d'une autre, nous pouvons fonctionner et communiquer à ces niveaux de raisonnement plutôt qu'en échangeant des photographies de la composition chimique de nos cerveaux au moment où ils expriment une idée. La façon dont nous pouvons passer d'une bouillie neuronale organique à une déclaration logique que nous savons être vraie est une partie étonnante de ce que nous sommes, et non quelque chose qu'un réseau neuronal peut reproduire.

La deuxième raison est notre capacité à sortir des sentiers battus. C'est quelque chose que nous faisons tout le temps - en fait, nous avons plus de mal à nous concentrer sur un problème qu'à le contourner. Lorsqu'on nous présente une situation, notre esprit a tendance à la contourner, ce qui est naturel puisque nous avons découvert que nous ne vivons pas dans une réalité mathématiquement propre, mais plutôt dans une réalité désordonnée où tout semble être lié à tout le reste. Si nous déduisons les règles du jeu « de rêve », c'est en partie parce que nous savons que les personnes qui dirigent le jeu ne feront rien de trop compliqué, et nous chercherons donc une réponse facile.

Ces avantages deviennent des inconvénients lorsque le problème à résoudre exige à la fois de la concentration et une capacité à aller au-delà de ce qui peut être décrit par la simple logique ; en d'autres termes, lorsque la réponse au problème est tellement alambiquée qu'il faut simplifier au maximum ce que l'on cherche et ne pas se contraindre à la trouver en découvrant sa logique sous-jacente. C'est dans ces cas-là, lorsque vous acceptez de ne pas pouvoir résoudre le problème de manière satisfaisante sur le plan mathématique ou logique, que les réseaux neuronaux se distinguent.

À l'instar des oracles d'antan, les réseaux neuronaux peuvent fournir des conseils sur ce genre d'énigmes insolubles, bien que, comme ces oracles, ils ne puissent le faire qu'à l'aide de déclarations étranges que nous n'avons aucun moyen de vérifier ou de comprendre. Cependant, lorsque les énigmes sont insolubles, nous n'avons pas d'autre choix.

Je pense qu'il y a une place dans le monde pour les oracles des réseaux neuronaux, mais il y a beaucoup d'endroits où ils n'ont pas leur place. Leur opacité les rend gênants : vous ne pouvez pas remonter de leurs conclusions à leurs suppositions, vous ne savez pas sur quels faits ils travaillent ni même si ces faits sont les bons et n'ont pas été trafiqués. Si vous ne vous préoccupez pas de ces choses, et s'ils semblent faire du bon travail, quel que soit ce que vous leur avez demandé de faire, alors vous pouvez tout aussi bien faire confiance à leurs conclusions - dans la mesure où vous êtes prêt à le faire.

Certaines décisions, cependant, ne peuvent pas être prises sur la base de la confiance, et pour cela vous avez besoin de quelque chose qui peut s'expliquer de manière logique, en ayant eu les moyens d'arriver à une conclusion logique en premier lieu. Les réseaux neuronaux ne sont pas d'un grand secours à cet égard, mais d'autres formes d'IA pourraient l'être, comme les moteurs logiques déductifs qui ont constitué la base de l'IA dans le passé. Toutefois, à mon humble avis, aucun de ces systèmes ne remplacera jamais les êtres humains.

Je doute que les réseaux neuronaux soient considérés comme plus importants que le feu (!), mais ils auront certainement un rôle à jouer pour nous aider dans des situations où nous ne nous préoccupons pas de la logique sous-jacente, ou lorsque nous avons accepté que cette logique nous dépasse. Si un réseau neuronal aide à prédire l'apparition précoce de la maladie d'Alzheimer, pourquoi devrions-nous nous soucier de la manière dont il y parvient ? Les gestionnaires de fonds spéculatifs utilisent des réseaux neuronaux pour jouer sur le marché boursier, ce qui est parfaitement logique : il s'agit d'un spread bet, et il n'y a aucune logique derrière les actions et les parts, pour autant que l'on puisse en juger. Pour d'autres décisions, en revanche, vous devez comprendre le raisonnement qui sous-tend les conseils, par exemple lorsque vous prenez des décisions d'achat importantes, des décisions de carrière, des décisions médicales, etc. Dans ces cas, vous ne pouvez pas vous contenter d'écouter un oracle, même celui d'un réseau neuronal.