Anthropic KI-„Durchbruch“ offenbart Grenzen der Mustererkennung in der Wissenschaft

Als der KI-Riese Anthropic bekannt gab, dass sein Claude-System ein neuartiges Enzymsystem, die Array-assoziierten reversen Transkriptasen (ARTs), in Bakteriophagen identifiziert hatte, wurde die Nachricht als eine bedeutende, von KI initiierte biologische Entdeckung positioniert. Doch die Reaktion der wissenschaftlichen Gemeinschaft war alles andere als euphorisch; sie schwenkte schnell zu einer vorsichtigen Skepsis um, die einen entscheidenden Unterschied offenbart: Was ist ein echter wissenschaftlicher Durchbruch und was eine beeindruckende Leistung der Mustererkennung durch eine Maschine?

Anthropecs Bericht, der noch nicht peer-reviewed wurde, beschreibt, wie Claude-Agenten eine CRISPR-ähnliche Wiederholungssequenz markierten, die menschliche Forscher zuvor in bestehenden Daten übersehen hatten, so Anthropic. Das Unternehmen behauptet, die KI habe ein größeres biologisches System erkannt, das das Enzym, wiederholte DNA-Sequenzen und ein potenzielles Partnerprotein umfasst. Ein signifikanter Teil dieser „Entdeckung“ umfasste jedoch die Neuanalyse von Daten, die bereits 2022 von anderen Forschungsteams veröffentlicht wurden, wie StudyFinds berichtet.

Die Skepsis wird durch die ungelöste Frage verstärkt, die der Computerbiologe Mario Rodríguez Mestre aufwarf. Er hatte seit 2022 ähnliche Enzyme untersucht und Berichten zufolge seine Dissertation und Manuskriptentwürfe mit Claude geteilt. Obwohl Anthropic bestreitet, dass sein Modell mit Benutzerprotokollen trainiert wurde oder dass sein Biologieteam darauf zugriff, dokumentiert Mestres Patentanmeldung vom Juli 2023 für entwickelte „Retrone“ bereits frühere Arbeiten an Jumbo-Phagen-Reversen Transkriptasen, dem Virustyp, der im Mittelpunkt von Anthropecs Ankündigung steht. Diese Situation beleuchtet die undurchsichtigen Gewässer intellektueller Beiträge in einer KI-unterstützten Forschungslandschaft.

Die schwer fassbare Definition von „Entdeckung“

Im Mittelpunkt der Debatte steht, was es bedeutet, wenn KI etwas „entdeckt“. Die wissenschaftliche Methode, ein Eckpfeiler des menschlichen Fortschritts, erfordert mehr als nur die Identifizierung von Mustern. Sie erfordert rigorose Skepsis, Hypothesentests, experimentelle Validierung und letztendlich ein mechanistisches Verständnis, wie etwas funktioniert, wie Wikipedia darlegt. Anthropecs Ankündigung, obwohl sie eine interessante biologische Frage aufwirft, bleibt in diesen Punkten hinter den Erwartungen zurück. Die Forscher geben selbst zu, dass sie noch nicht wissen, was das neu gefundene Enzymsystem tut, noch haben sie gezeigt, dass es aktiv ist oder RNA-Moleküle in DNA kopiert, so Smithsonian Magazine. Die Ähnlichkeit mit CRISPR wird festgestellt, aber es ist eine Möglichkeit, die es zu untersuchen gilt, keine bewiesene Anwendung.

Darüber hinaus zeigte der „Entdeckungsprozess“ selbst die Grenzen der autonomen KI auf. Bei zehn zusätzlichen Suchläufen sollen die Anthropic-Agenten die Wiederholungssequenz übersehen haben. Während einige Modelle sie erkennen konnten, wenn ihnen die relevanten Sequenzen gegeben wurden, unterscheidet sich das Identifizieren eines gelieferten Musters grundlegend vom unabhängigen Finden. Dies deutet darauf hin, dass Claude beim Durchsuchen und Verbinden vorhandener Daten hervorragend war – eine mächtige Fähigkeit der KI –, aber vielleicht nicht beim Initiieren einer wirklich neuartigen Erkundung, wie es die menschliche Intuition tun würde.

Das unverzichtbare menschliche Element

Die Rolle der KI in der wissenschaftlichen Entdeckung ist unbestreitbar transformativ. Sie ist hervorragend darin, immense Datensätze zu verarbeiten, komplexe Muster jenseits menschlicher Kapazitäten zu erkennen, Hypothesen zu generieren und experimentelle Prozesse zu automatisieren. Wir sehen ihr Potenzial, die Forschung in Mathematik, Physik, Chemie und Biowissenschaften zu beschleunigen, eine effizientere Datenanalyse zu ermöglichen und die prädiktive Modellierung zu verbessern, wie verschiedene Experten, unter anderem in einem kürzlich erschienenen Kapitel der Cambridge University Press, festgestellt haben.

Dies schmälert jedoch das menschliche Element nicht. Stattdessen rahmt es es neu ein. KI funktioniert am besten, wenn sie von menschlichen Experten geleitet wird, die biologische Fragen in Code umwandeln, Ergebnisse interpretieren und dokumentierte Analysen entwickeln, die andere Wissenschaftler überprüfen und wiederholen können, wie ein Forscher in StudyFinds mitteilte. Das entscheidende „Warum“ hinter der Musteridentifizierung einer KI bleibt der Bereich des komplexen menschlichen Denkens. Erklärbare KI (XAI) versucht, diese Lücke zu schließen, indem sie es Domainexperten ermöglicht, Hypothesen auf der Grundlage der Erkenntnisse der Maschine zu formulieren und so das menschliche Wissen zu bereichern, anstatt es zu behindern, ein Punkt, der in einem Papier auf arXiv.org gemacht wurde.

Letztendlich dient die Anthropic-Episode als eindringliche Erinnerung daran, dass KI zwar ein außergewöhnliches Werkzeug zur Verstärkung des menschlichen Intellekts ist, aber kein Ersatz für den umfassenden, iterativen und oft chaotischen Prozess der wissenschaftlichen Validierung. Echte Durchbrüche erfordern nicht nur die Identifizierung neuartiger Muster, sondern auch die mühsame Arbeit, deren Funktion, Mechanismus und Bedeutung durch Experimente und rigorose Peer-Reviews zu etablieren. Die Anerkennung sollte in diesen Fällen gleichermaßen die menschlichen Forscher berücksichtigen, die die Originaldaten produziert, die zugrunde liegenden Komponenten identifiziert und letztendlich dafür verantwortlich sein werden, zu beweisen, was diese neu gefundenen Systeme tatsächlich tun.