El "avance" de la IA de Anthropic muestra los límites del reconocimiento de patrones

Cuando el gigante de la IA Anthropic anunció que su sistema Claude había identificado un novedoso sistema enzimático, las transcriptasas inversas asociadas a matrices (ARTs), en bacteriófagos, la noticia se posicionó como un significativo descubrimiento biológico iniciado por IA. Sin embargo, la respuesta de la comunidad científica ha estado lejos de ser celebratoria, virando rápidamente hacia un escepticismo cauteloso que revela una distinción crítica: qué constituye un verdadero avance científico frente a una impresionante proeza de reconocimiento de patrones por parte de una máquina.

El informe de Anthropic, que aún no ha sido revisado por pares, detallaba cómo los agentes de Claude detectaron una matriz de repetición similar a CRISPR que los investigadores humanos habían pasado por alto anteriormente en los datos existentes, según Anthropic. La compañía afirma que la IA reconoció un sistema biológico más grande, que incluye la enzima, secuencias de ADN repetidas y una posible proteína asociada. No obstante, una parte significativa de este "descubrimiento" implicó reanalizar datos ya publicados por otros equipos de investigación en 2022, como informa StudyFinds.

El escepticismo se agrava por la cuestión sin resolver planteada por el biólogo computacional Mario Rodríguez Mestre, quien había estado investigando enzimas similares desde 2022 y, según se informa, compartió su disertación y borradores de manuscritos con Claude. Si bien Anthropic niega que su modelo fuera entrenado con transcripciones de usuarios o que su equipo de biología tuviera acceso a ellas, la solicitud de patente de Mestre de julio de 2023 para "retrones" modificados ya documenta trabajos anteriores sobre transcriptasas inversas de 'jumbo-fagos', el tipo de virus central en el anuncio de Anthropic. Esta situación pone de manifiesto las turbias aguas de la contribución intelectual en un panorama de investigación asistido por IA.

La elusiva definición de "descubrimiento"

En el centro del debate está lo que significa para la IA "descubrir" algo. El método científico, piedra angular del progreso humano, exige más que solo identificar patrones. Requiere escepticismo riguroso, prueba de hipótesis, validación experimental y, en última instancia, una comprensión mecanicista de cómo funciona algo, como se describe en Wikipedia. El anuncio de Anthropic, si bien identifica una interesante cuestión biológica, se queda corto en estos frentes. Los propios investigadores admiten que aún no saben qué hace el recién descubierto sistema enzimático, ni han demostrado que esté activo o que copie moléculas de ARN en ADN, según Smithsonian Magazine. Se señala la semejanza con CRISPR, pero es una posibilidad a investigar, no una aplicación probada.

Además, el propio proceso de "descubrimiento" mostró las limitaciones de la IA autónoma. En diez ejecuciones de búsqueda adicionales, los agentes de Anthropic, según se informa, no encontraron la matriz de repetición. Si bien algunos modelos pudieron reconocerla cuando se les dieron las secuencias relevantes, identificar un patrón suministrado es intrínsecamente diferente de encontrarlo de forma independiente. Esto sugiere que Claude se destacó en filtrar y conectar datos existentes, una capacidad poderosa de la IA, pero quizás no en iniciar una exploración verdaderamente novedosa como lo haría la intuición humana.

El indispensable elemento humano

El papel de la IA en el descubrimiento científico es innegablemente transformador. Sobresale en el procesamiento de inmensos conjuntos de datos, la detección de patrones complejos más allá de la capacidad humana, la generación de hipótesis y la automatización de procesos experimentales. Vemos su potencial para acelerar la investigación en matemáticas, física, química y ciencias de la vida, permitiendo un análisis de datos más eficiente y mejorando el modelado predictivo, como han señalado varios expertos, incluso en un reciente capítulo de Cambridge University Press.

Sin embargo, esto no disminuye el elemento humano. En cambio, lo replantea. La IA funciona mejor cuando es guiada por expertos humanos, convirtiendo preguntas biológicas en código, interpretando resultados y desarrollando análisis documentados que otros científicos pueden verificar y repetir, como compartió un investigador en StudyFinds. El crucial "porqué" detrás de la identificación de patrones por parte de una IA sigue siendo el dominio del razonamiento complejo humano. La IA explicable (XAI) busca cerrar esta brecha, permitiendo a los expertos del dominio formular hipótesis basadas en las percepciones de la máquina, enriqueciendo así el conocimiento humano en lugar de impedirlo, un punto señalado en un artículo en arXiv.org.

En última instancia, el episodio de Anthropic sirve como un poderoso recordatorio de que, si bien la IA es una herramienta extraordinaria para amplificar el intelecto humano, no sustituye el proceso exhaustivo, iterativo y a menudo desordenado de la validación científica. Los verdaderos avances exigen no solo la identificación de patrones novedosos, sino también el arduo trabajo de establecer su función, mecanismo y significado a través de experimentos y una rigurosa revisión por pares. El crédito, en estos casos, debe reconocer por igual a los investigadores humanos que produjeron los datos originales, identificaron los componentes subyacentes y, en última instancia, serán responsables de demostrar lo que realmente hacen estos sistemas recién descubiertos.