Echec et Mat pour l’IA et les Services Clients ? Quand connaître les règles ne suffit plus !

L’analogie entre une partie d’échecs et une interaction client-agent (humain) d’un service client, peut paraître surprenante mais en regardant de près les différents niveaux d’interactions, l’analogie peut être pertinente :

Si les objectifs de chaque interaction restent radicalement différents (échec et mat Vs CSat & solution à un problème), la montée progressive en complexité des 2 interactions présente en effet quelques similitudes :


Parallèles conceptuels

Partie d’échecsInteraction Call CenterSignification / Analogie
Stratégie d’ouvertureOuverture d’appel / accueil.Donner le ton et prendre le contrôle dès le début.
Combinaison tactiqueTraitement des objections.Réflexion rapide pour renverser les situations.
Précision en fin de partieClôture de l’appel.Assurer la résolution et la satisfaction avant de terminer.
SacrificeOffrir une compensation ou geste commercial.Perte à court terme pour un gain à long terme (fidélité ou rétention).
Échec et matSatisfaction du client et résolutionAtteindre le résultat escompté de manière efficace.
Erreur critiqueErreur de communication / violation des règlesUne erreur coûteuse qui affecte les résultats.
Pat (blocage)Impasse / escaladeAucune des deux parties n’atteint son objectif.
Pression du tempsPériodes de fort volume d’appelsDécisions sous tension ; Compromis entre l’efficacité et la précision.

Maintenant que le parallèle entre les 2 activités est clarifié, le comportement de l’IA sur ces interactions devient intéressant à observer :

Un exemple illustratif des limites des LLM (grands modèles de langage) provient d’expériences documentées avec les échecs.

En mars 2024, Chess.com a organisé une confrontation entre ChatGPT et Gemini de Google, où les deux systèmes pouvaient parfaitement expliquer les règles des échecs lorsqu’on leur demandait directement, mais ont ensuite violé ces mêmes règles à plusieurs reprises pendant le jeu. Les deux bots ont constamment tenté d’effectuer des mouvements illégaux, et lorsqu’ils ont été informés de l’erreur, ils ont continué à proposer des mouvements invalides.

Nikola Greb, un scientifique des données NLP et ancien champion d’échecs junior ELO 2000+, a joué plusieurs parties contre ChatGPT-4 en janvier 2024 et a documenté que le modèle jouait « comme un grand maître » dans les premiers coups d’ouverture, mais se détériorait considérablement au fur et à mesure que le jeu progressait. ChatGPT-4 a commencé à halluciner, proposant des mouvements impossibles même après avoir été averti. Greb a conclu que la note globale du système était inférieure à 1500, et a observé quelque chose de crucial : “Aucun apprentissage implicite des règles n’a eu lieu – ChatGPT-4 hallucine toujours aux échecs, et continue d’halluciner après l’avertissement sur l’hallucination. C’est quelque chose qui ne peut pas arriver à un humain.

Ce décalage entre ce qu’un LLM peut « dire » et ce qu’il peut « faire » révèle une limitation fondamentale : ils n’ont pas de véritables modèles mentaux du monde. Dans le contexte du service client, cela signifie qu’un bot peut parfaitement réciter la politique de l’entreprise mais l’appliquer de manière incorrecte dans des situations spécifiques, ou qu’il peut expliquer le fonctionnement d’un produit sans être en mesure de diagnostiquer un problème avec celui-ci.

Le tournoi d’échecs chatbot 2025

En janvier 2025, un tournoi d’échecs par chatbot diffusé sur la chaîne GothamChess a opposé le moteur d’échecs professionnel Stockfish à sept chatbots d’IA générative, dont ChatGPT, Gemini de Google et Grok de X. Les résultats ont été exactement ce à quoi on pouvait s’attendre lorsque les modèles de langage essaient de jouer aux échecs : des coups d’ouverture décents suivis de tentatives de plus en plus chaotiques pour contourner les lois du jeu. Le chatbot Snapchat a décidé que les pions pouvaient se déplacer latéralement comme une tour, et lorsque l’erreur a été signalée, il a refusé à plusieurs reprises de continuer à dire « Je suis désolé. Je ne peux pas m’engager dans une telle conversation. Gardons notre conversation respectueuse ».

Le problème de la mémoire et du contexte

Les LLM ont des limites de mémoire strictes. Bien que les modèles plus récents offrent des fenêtres de contexte plus larges, ils traitent toujours chaque conversation comme relativement isolée. Cela signifie qu’ils peuvent « oublier » des informations cruciales fournies au début d’une longue conversation, obligeant les clients à se répéter.

Nous verrons dans un des articles suivants comment éviter de mettre le client en échec tout en utilisant au mieux les capacités indéniables des IA…