La 'scoperta' AI di Anthropic rivela i limiti del pattern recognition in scienza

Quando il gigante dell'IA Anthropic ha annunciato che il suo sistema Claude aveva identificato un nuovo sistema enzimatico, le trascrittasi inverse associate ad array (ART), nei batteriofagi, la notizia è stata presentata come una significativa scoperta biologica avviata dall'IA. Eppure, la risposta della comunità scientifica è stata tutt'altro che celebrativa, virando rapidamente verso uno scetticismo cauto che rivela una distinzione critica: cosa costituisce una vera svolta scientifica rispetto a un'impressionante dimostrazione di riconoscimento di schemi da parte di una macchina.

Il rapporto di Anthropic, che non è ancora stato sottoposto a revisione paritaria, descriveva come gli agenti di Claude avessero segnalato un array di ripetizioni simile a CRISPR che i ricercatori umani avevano precedentemente trascurato nei dati esistenti, secondo Anthropic. L'azienda sostiene che l'IA abbia riconosciuto un sistema biologico più ampio, inclusi l'enzima, sequenze di DNA ripetute e una potenziale proteina partner. Tuttavia, una parte significativa di questa 'scoperta' ha comportato la rianalisi di dati già pubblicati da altri team di ricerca nel 2022, come riporta StudyFinds.

A complicare lo scetticismo è la questione irrisolta sollevata dal biologo computazionale Mario Rodríguez Mestre, che indagava enzimi simili dal 2022 e avrebbe condiviso la sua tesi di dottorato e le bozze del manoscritto con Claude. Sebbene Anthropic neghi che il suo modello sia stato addestrato sulle trascrizioni degli utenti o che il suo team di biologi vi abbia avuto accesso, la domanda di brevetto di Mestre del luglio 2023 per "retroni" ingegnerizzati documenta già lavori precedenti sulle trascrittasi inverse dei jumbo-fagi, il tipo di virus centrale all'annuncio di Anthropic. Questa situazione evidenzia le acque torbide del contributo intellettuale in un panorama di ricerca assistito dall'IA.

La sfuggente definizione di "scoperta"

Al centro del dibattito c'è cosa significhi per l'IA "scoprire" qualcosa. Il metodo scientifico, una pietra angolare del progresso umano, richiede più della semplice identificazione di schemi. Richiede rigoroso scetticismo, verifica delle ipotesi, validazione sperimentale e, in ultima analisi, una comprensione meccanicistica di come qualcosa funziona, come delineato da Wikipedia. L'annuncio di Anthropic, pur identificando un'interessante questione biologica, è carente su questi fronti. Gli stessi ricercatori ammettono di non sapere ancora cosa faccia il sistema enzimatico appena scoperto, né hanno dimostrato che sia attivo o che copi molecole di RNA in DNA, secondo Smithsonian Magazine. La somiglianza con CRISPR è notata, ma è una possibilità da investigare, non un'applicazione provata.

Inoltre, il processo di "scoperta" stesso ha mostrato i limiti dell'IA autonoma. In dieci ulteriori esecuzioni di ricerca, gli agenti di Anthropic avrebbero mancato l'array di ripetizioni. Mentre alcuni modelli potevano riconoscerlo quando venivano fornite le sequenze pertinenti, identificare un modello fornito è intrinsecamente diverso dal trovarlo autonomamente. Ciò suggerisce che Claude ha eccelso nel setacciare e connettere dati esistenti, una potente capacità dell'IA, ma forse non nell'avviare un'esplorazione veramente nuova nel modo in cui l'intuizione umana potrebbe fare.

L'indispensabile elemento umano

Il ruolo dell'IA nella scoperta scientifica è innegabilmente trasformativo. Eccelle nell'elaborare immensi set di dati, nel rilevare schemi complessi oltre la capacità umana, nel generare ipotesi e nell'automatizzare i processi sperimentali. Vediamo il suo potenziale di accelerare la ricerca in matematica, fisica, chimica e scienze della vita, consentendo un'analisi dei dati più efficiente e migliorando la modellazione predittiva, come hanno notato vari esperti, anche in un recente capitolo della Cambridge University Press.

Tuttavia, ciò non diminuisce l'elemento umano. Invece, lo ridefinisce. L'IA funziona al meglio quando è guidata da esperti umani, trasformando le questioni biologiche in codice, interpretando i risultati e sviluppando analisi documentate che altri scienziati possono verificare e ripetere, come ha condiviso un ricercatore su StudyFinds. Il cruciale "perché" dietro l'identificazione di schemi da parte di un'IA rimane il dominio del complesso ragionamento umano. L'IA esplicabile (XAI) cerca di colmare questa lacuna, consentendo agli esperti di dominio di formulare ipotesi basate sulle intuizioni della macchina, arricchendo così la conoscenza umana piuttosto che impedendola, un punto sollevato in un articolo su arXiv.org.

In ultima analisi, l'episodio di Anthropic serve come un potente promemoria che, sebbene l'IA sia uno strumento straordinario per amplificare l'intelletto umano, non è un sostituto del processo completo, iterativo e spesso disordinato della validazione scientifica. Le vere scoperte richiedono non solo l'identificazione di nuovi schemi, ma anche il minuzioso lavoro di stabilire la loro funzione, meccanismo e significato attraverso esperimenti e una rigorosa revisione paritaria. Il merito, in questi casi, dovrebbe riconoscere equamente i ricercatori umani che hanno prodotto i dati originali, identificato i componenti sottostanti e, in definitiva, saranno responsabili di dimostrare cosa facciano effettivamente questi sistemi appena scoperti.