La semaine dernière, une intelligence artificielle nommée NooK a réussi à battre huit joueurs champions du monde au bridge. Que des algorithmes puissent surpasser les humains pourrait sembler banal. En effet, l’IA Deep Blue d’IBM avait déjà battu le champion du monde d’échecs Garry Kasparov en 1997, tout comme AlphaGo de Google qui avait vaincu un grand maître de Go en 2016. Un an plus tard, l’IA Libratus avait dominé quatre stars du poker. Cependant, les applications concrètes de ces technologies restent limitées. Stephen Muggleton, un informaticien, avance que cela est dû au fait qu’elles fonctionnent comme des « boîtes noires » capables d’apprendre mieux que les humains, mais incapables d’exprimer et de communiquer cet apprentissage.
La méthode innovante de NooK
NooK, développé par la startup française NukkAI, se distingue par sa méthode. Il a gagné en formulant des règles plutôt qu’en se basant uniquement sur des calculs de force brute. Le bridge diffère des échecs ou du Go, qui sont des jeux à deux joueurs reposant sur un ensemble de faits entièrement connus. Le bridge est un jeu pour quatre joueurs répartis en deux équipes, impliquant collaboration et compétition avec des informations incomplètes. Chaque joueur ne voit que ses propres cartes et doit collecter des informations sur les mains des autres joueurs. Contrairement au poker, où il y a également des informations cachées et du bluff, au bridge, un joueur doit révéler à ses adversaires les informations qu’il transmet à son partenaire.
Les avancées de l’IA dans le bridge
Cette caractéristique du bridge a permis à NooK d’expliquer comment il prenait ses décisions de jeu, ce qui représente un avancement significatif pour l’IA. Lorsqu’un humain est confronté à un nouveau jeu, il a tendance à apprendre les règles puis à s’améliorer en lisant des livres, par exemple. En revanche, les IA « boîtes noires » s’entraînent par apprentissage profond : elles jouent à un jeu des milliards de fois jusqu’à ce que l’algorithme ait compris comment gagner. Il reste mystérieux de savoir comment ce logiciel tire ses conclusions – ou comment il échoue.
Réflexions sur l’avenir de l’IA
NooK fait référence aux travaux du pionnier britannique de l’IA, Donald Michie, qui a raisonné que l’état le plus avancé de l’IA serait de développer de nouvelles idées et de les enseigner aux humains, ce qui améliorerait leurs performances au-delà de celles d’un individu étudiant par lui-même. Michie considérait que l’apprentissage machine « faible » consistait simplement à améliorer les performances de l’IA en augmentant la quantité de données traitées.
Son intuition a été confirmée alors que les limites de l’apprentissage profond ont été mises en lumière. Les voitures autonomes restent un rêve lointain. Les radiologues n’ont pas été remplacés par l’IA l’an dernier, comme cela avait été prédit. Les humains, contrairement aux ordinateurs, parviennent souvent à traiter rapidement des tâches compliquées et à enjeux élevés. Heureusement, la société humaine n’est pas constamment surveillée par des diagnostics. Mais cela signifie souvent qu’il n’y a pas suffisamment de données disponibles pour l’IA, et celles-ci contiennent fréquemment des biais cachés et socialement inacceptables. L’impact environnemental est également une préoccupation croissante, car on prévoit que l’informatique représentera 20 % de la demande mondiale en électricité d’ici 2030.
Les implications éthiques de l’IA
Les technologies établissent une confiance si elles sont compréhensibles. Il existe toujours un risque que l’IA boîte noire résolve un problème de manière incorrecte. Plus un système d’apprentissage profond devient puissant, plus il peut devenir opaque. Cette semaine, le comité de justice de la Chambre des Lords a déclaré que de telles technologies ont des implications sérieuses pour les droits humains et a mis en garde contre des condamnations et des emprisonnements basés sur une IA qui ne pourrait pas être comprise ou contestée. NooK pourrait changer la donne si elle tient sa promesse de résoudre des problèmes complexes et d’expliquer comment elle le fait.