La "percée" de l'IA d'Anthropic révèle les limites de la reconnaissance de formes en science

Lorsque le géant de l'IA Anthropic a annoncé que son système Claude avait identifié un nouveau système enzymatique chez les bactériophages, les transcriptases inverses associées aux réseaux (ART), la nouvelle a été présentée comme une découverte biologique majeure initiée par l'IA. Pourtant, la réponse de la communauté scientifique est loin d'être unanime, basculant rapidement vers un scepticisme prudent qui révèle une distinction cruciale: qu'est-ce qui constitue une véritable percée scientifique par rapport à un exploit impressionnant de reconnaissance de modèles par une machine ?

Le rapport d'Anthropic, qui n'a pas encore fait l'objet d'un examen par les pairs, a détaillé comment les agents de Claude avaient signalé un réseau de répétitions de type CRISPR que des chercheurs humains avaient précédemment négligé dans les données existantes, selon Anthropic. L'entreprise affirme que l'IA a reconnu un système biologique plus vaste, comprenant l'enzyme, des séquences d'ADN répétées et une protéine partenaire potentielle. Cependant, une partie importante de cette "découverte" a impliqué la réanalyse de données déjà publiées par d'autres équipes de recherche en 2022, comme le rapporte StudyFinds.

Le scepticisme est renforcé par la question non résolue soulevée par le biologiste computationnel Mario Rodríguez Mestre, qui étudiait des enzymes similaires depuis 2022 et aurait partagé sa thèse et ses ébauches de manuscrits avec Claude. Bien qu'Anthropic nie que son modèle ait été entraîné sur les transcriptions des utilisateurs ou que son équipe de biologistes y ait eu accès, la demande de brevet de Mestre de juillet 2023 pour des "retrons" modifiés documente déjà des travaux antérieurs sur les transcriptases inverses des jumbo-phages, le type de virus central à l'annonce d'Anthropic. Cette situation met en lumière les eaux troubles de la contribution intellectuelle dans un paysage de recherche assisté par l'IA.

La définition insaisissable de la "découverte"

Au cœur du débat se trouve ce que signifie pour l'IA de "découvrir" quelque chose. La méthode scientifique, pierre angulaire du progrès humain, exige plus que la simple identification de modèles. Elle nécessite un scepticisme rigoureux, des tests d'hypothèses, une validation expérimentale et, finalement, une compréhension mécanistique de la façon dont quelque chose fonctionne, comme le décrit Wikipedia. L'annonce d'Anthropic, tout en identifiant une question biologique intéressante, est insuffisante sur ces points. Les chercheurs eux-mêmes admettent qu'ils ne savent pas encore ce que fait le nouveau système enzymatique, ni n'ont démontré qu'il est actif ou qu'il copie des molécules d'ARN en ADN, selon Smithsonian Magazine. La ressemblance avec CRISPR est notée, mais c'est une possibilité à étudier, pas une application prouvée.

De plus, le processus de "découverte" lui-même a montré les limites de l'IA autonome. Lors de dix recherches supplémentaires, les agents d'Anthropic auraient manqué le réseau de répétitions. Bien que certains modèles aient pu le reconnaître lorsqu'on leur a donné les séquences pertinentes, identifier un modèle fourni est intrinsèquement différent de le trouver de manière indépendante. Cela suggère que Claude a excellé dans le tri et la connexion de données existantes, une capacité puissante de l'IA, mais peut-être pas dans le lancement d'une exploration véritablement nouvelle comme l'intuition humaine pourrait le faire.

L'élément humain indispensable

Le rôle de l'IA dans la découverte scientifique est indéniablement transformateur. Elle excelle dans le traitement d'immenses ensembles de données, la détection de modèles complexes au-delà des capacités humaines, la génération d'hypothèses et l'automatisation des processus expérimentaux. Nous constatons son potentiel pour accélérer la recherche en mathématiques, physique, chimie et sciences de la vie, permettant une analyse de données plus efficace et améliorant la modélisation prédictive, comme l'ont noté divers experts, y compris dans un récent chapitre de Cambridge University Press.

Cependant, cela ne diminue pas l'élément humain. Au lieu de cela, cela le recadre. L'IA fonctionne mieux lorsqu'elle est guidée par des experts humains, transformant les questions biologiques en code, interprétant les résultats et développant des analyses documentées que d'autres scientifiques peuvent vérifier et reproduire, comme l'a partagé un chercheur dans StudyFinds. Le "pourquoi" crucial derrière l'identification de modèles par une IA reste le domaine du raisonnement humain complexe. L'IA explicable (XAI) cherche à combler cette lacune, permettant aux experts du domaine de formuler des hypothèses basées sur les informations de la machine, enrichissant ainsi la connaissance humaine plutôt que de l'entraver, un point soulevé dans un article sur arXiv.org.

En fin de compte, l'épisode Anthropic sert de puissant rappel que si l'IA est un outil extraordinaire pour amplifier l'intellect humain, elle ne remplace pas le processus complet, itératif et souvent désordonné de validation scientifique. Les véritables percées exigent non seulement l'identification de nouveaux modèles, mais aussi le travail minutieux d'établissement de leur fonction, de leur mécanisme et de leur signification par des expériences et un examen rigoureux par les pairs. Le crédit, dans ces cas, devrait également reconnaître les chercheurs humains qui ont produit les données originales, identifié les composants sous-jacents et, finalement, seront responsables de prouver ce que ces nouveaux systèmes font réellement.