Torras.ai

En 1979, Pink Floyd a sorti son album emblématique The Wall, une exploration troublante de l'isolement psychologique. Son personnage central, Pink, construit un mur métaphorique autour de lui, brique par brique, alors qu'il souffre de traumatismes et d'aliénation. Chaque expérience - de l'école oppressante à la perte personnelle - ajoute une nouvelle couche à sa barrière psychologique impénétrable. L'album résonne avec quiconque s'est déjà senti piégé par ses propres peurs, doutes ou passé non résolu. En tant que récit, il parle de la tendance humaine à construire des barrières mentales à la fois comme un bouclier et une prison.

Étrangement, un parallèle peut être établi avec l'état de l'intelligence artificielle aujourd'hui. Autant l'IA est une histoire de percées remarquables, c'est aussi un récit de limitations et des murs que nous construisons lorsque nous sommes confrontés à ces limitations. Comme le mur de Pink, le domaine de l'IA a été construit brique par brique, chaque étape célébrée comme un triomphe, seulement pour de nouveaux défis à surgir. Nous nous trouvons à un moment de l'histoire où le mur de l'IA est sur le point de s'effondrer, révélant un nouveau monde courageux, ou de grandir, renforçant les limites de nos aspirations.

La Brique de la Raison : Étude d'Apple sur les LLM

Récemment, des chercheurs chez Apple ont mené une étude fascinante sur les Large Language Models (LLMs), révélant une faille fondamentale dans leurs capacités de raisonnement. L'expérience a montré que tandis que des LLMs comme GPT-4o peuvent générer un texte cohérent et contextuellement approprié, ils échouent souvent aux tâches nécessitant une cohérence logique ou un raisonnement abstrait. Par exemple, ils peuvent avoir du mal avec des problèmes de base impliquant un raisonnement à plusieurs étapes, exposant une limitation flagrante : ces modèles ne pensent pas vraiment.

Les conclusions d'Apple soulignent le fossé entre les performances de surface de l'IA et les capacités cognitives plus profondes que nous associons à l'intelligence humaine. Ce n'est pas que les LLMs sont inutiles ; plutôt, ils excellent dans des tâches ressemblant à une "mimétisme linguistique" tout en étant incapables de véritablement comprendre. Cette distinction est cruciale alors que les entreprises se tournent de plus en plus vers ces outils pour des tâches telles que l'interaction avec les clients, la résumé de documents et la prise de décision.

Alors que les LLMs se sont révélés transformateurs, l'étude sert de rappel sérieux : l'architecture actuelle pourrait ne pas être celle qui nous propulsera vers l'Intelligence Générale. Cela nous amène à une préoccupation plus large concernant la trajectoire du développement de l'IA.

Le Ralentissement des Améliorations de GPT

OpenAI a reconnu un ralentissement du taux d'amélioration de leurs modèles. Selon ce rapport Opentools, OpenAI modifie sa stratégie en raison de rendements décroissants de la mise à l'échelle de l'architecture Transformer - l'épine dorsale de la plupart des LLMs modernes. Les premières itérations de GPT ont montré des avancées significatives en ajoutant plus de données et de plus grandes tailles de modèles. Mais maintenant, les rendements de ces investissements diminuent.

Cette trajectoire de ralentissement soulève des questions existentielles sur le domaine de l'IA. Si la mise à l'échelle seule n'est plus suffisante, que vient-il ensuite ? Avons-nous besoin de nouveaux paradigmes entièrement pour briser le mur qui sépare l'IA étroite du rêve insaisissable de l'Intelligence Générale ? Ou allons-nous, comme le suggère le Théorème de Tesler, reléguer ces avancées au banal, cessant de les considérer comme de l'IA ?

La Pyramide de l'IA : Un Cadre de Compréhension

Pour mieux comprendre où nous en sommes dans le voyage de l'IA, il est utile de visualiser le domaine comme une pyramide. La "Pyramide de l'IA", tout comme la hiérarchie des besoins de Maslow, délimite la progression de l'intelligence artificielle à travers cinq niveaux :

1. Calcul : La base de l'IA, comprenant la puissance de calcul brute et les algorithmes nécessaires pour traiter les données. Sans cela, aucun système d'IA ne pourrait exister.
2. Automatisation : Ce niveau englobe les systèmes qui effectuent des tâches spécifiques basées sur des règles de manière efficace et sans intervention humaine. Pensez à l'automatisation des processus robotiques ou aux chatbots de base.
3. IA Faible : Ici, les systèmes d'IA démontrent une intelligence limitée adaptée à des domaines spécifiques. Les LLMs et les systèmes de vision par ordinateur entrent dans cette catégorie, excellant dans leurs tâches désignées mais incapables de généraliser au-delà.
4. Intelligence Artificielle Générale (AGI) : L'objectif aspirant de la recherche en IA, l'AGI posséderait des capacités cognitives semblables à celles des humains, capables de raisonner, d'apprendre et de s'adapter à différents domaines sans réentraînement.
5. Superintelligence : Le pinacle hypothétique de l'IA, où les machines surpassent l'intelligence humaine de toutes les manières concevables, transformant potentiellement la société de manière que nous pouvons à peine imaginer.

Actuellement, nous oscillons entre les niveaux 3 et 4. Les LLMs comme GPT-4 représentent l'apogée de l'IA Faible, mais ils restent limités par le "mur" du raisonnement et de la compréhension.

L'Effet IA et le Théorème de Tesler

Un phénomène curieux imprègne la recherche en IA : dès qu'un système d'IA atteint une compétence dans une tâche particulière, cette tâche cesse d'être considérée comme de l'IA. Cela est encapsulé par le Théorème de Tesler - "L'IA est tout ce qui n'a pas encore été fait" et le mot de John McCarthy, "Dès que cela fonctionne, personne ne l'appelle plus de l'IA." La vérification orthographique, autrefois saluée comme une merveille de l'IA, n'est maintenant qu'une fonctionnalité routinière des traitements de texte. Le même sort pourrait attendre les LLMs.

Le risque ici n'est pas seulement sémantique. Si les avancées en IA deviennent normalisées en tant que technologies banales, le financement et l'enthousiasme pour la recherche révolutionnaire pourraient diminuer. Les entreprises pourraient se contenter d'améliorations progressives, étouffant la quête de l'AGI. Cela souligne l'importance de maintenir une approche visionnaire du développement de l'IA.

Un Carrefour Historique

Nous nous trouvons à un moment crucial. Soit l'architecture Transformer, avec ses vastes ensembles de données et sa puissance de calcul, évoluera pour améliorer les capacités de raisonnement, nous propulsant vers l'AGI, soit elle stagnera. Dans le second cas, la société pourrait s'habituer aux LLMs comme de simples outils, cessant de les considérer comme emblématiques de l'intelligence artificielle. Un tel résultat refléterait le mur métaphorique de Pink Floyd : une structure construite à partir de limitations et de potentiel non réalisé.

Mais ce n'est pas une vision pessimiste. Même dans les contraintes de l'IA Faible, les possibilités d'applications en entreprise sont stupéfiantes. De l'automatisation du support client à la découverte d'informations dans des données non structurées, les LLMs n'ont que gratté la surface de leur potentiel. Les entreprises qui exploitent ces outils de manière créative débloqueront non seulement de la valeur, mais ouvriront également la voie à des avancées futures.

Démolir le Mur !

La trajectoire du développement de l'IA est loin d'être certaine. Nous pourrions être à l'aube d'une percée monumentale ou faire face à l'accumulation lente de limitations. L'issue dépend non seulement de l'innovation technologique, mais aussi de la volonté sociale, de l'investissement et de l'application créative des outils existants.

La chanson de Pink Floyd The Wall se termine de manière ambiguë, le mur du protagoniste étant démoli, ne le laissant que vulnérable et incertain. Le mur de l'IA, lui aussi, doit être démantelé - non dans le désespoir, mais avec l'espoir que ce qui se trouve au-delà en vaudra la peine. Que nous atteignions l'AGI ou redéfinissions les limites de l'IA, l'histoire est loin d'être terminée. Il nous appartient de veiller à ce que ce chapitre de l'histoire technologique ne soit pas juste une autre brique dans le mur.