KI als autonomer Wissenschaftler: Grenzen und Möglichkeiten

2023 charakterisierte das Modell AlphaMissense von DeepMind die Pathogenität von 71 Millionen genetischen Varianten, 2024 begannen vergleichbare Tools autonom mit der Planung chemischer Experimente und der Überprüfung ihrer Ergebnisse ohne Forscherbeteiligung. Das Jahr 2025 brachte die ersten Systeme hervor, die – in einem mikrobiologischen Labor – einen vollständigen Zyklus durchliefen: Hypothese, Synthese des Reagenz, Messung, Interpretation, neue Hypothese. Die Frage „Wird KI den nächsten bahnbrechenden Artikel schreiben?“ ist nicht mehr rhetorisch. Heute fragen wir nach etwas Praktischerem: Welche Bedingungen benötigt ein solches System, um vertrauenswürdig zu sein.

Es lohnt sich, zwischen dem zu unterscheiden, was reproduzierbar funktioniert, und dem, was noch Experiment ist.

Literaturrecherche und Synthese. Das Modell durchsucht Zehntausende von Publikationen, identifiziert Lücken und Widersprüche, zeigt Zitate auf, die entfernte Fachgebiete verbinden. Die Zeit, die ein Forscher für die Literaturrecherche aufwendet, verkürzt sich von Wochen auf Stunden. Dies ist eine Aufgabe, bei der KI regelmäßig menschliche Benchmarks übertrifft.

Datenextraktion aus unstrukturierten Quellen. Laborberichte, experimentelle Protokolle, Rohmessdaten in PDFs – das Datenextraktionsmodell wandelt sie in strukturierte Tabellen um, die zur Analyse bereitstehen. Dasselbe, was ein Forscher manuell über viele Stunden erledigt, nur ohne Übertragungsfehler.

Hypothesengenerierung basierend auf Mustern in Daten. RAG-Systeme mit einem großen domänenspezifischen Korpus zeigen Kombinationen von Faktoren auf, die in einer menschlichen Durchsicht unsichtbar wären. Nicht jede Hypothese ist zutreffend, aber die Auswahl von sogar 5 % nützlichen aus 200 generierten ist schneller als das Erfinden von Grund auf.

Experimentdesign und Simulationen. In der computergestützten Chemie, Genomik und Materialwissenschaft simulieren KI-Modelle die Ergebnisse von Experimenten in silico, bevor das Reagenz in das Reagenzglas gelangt. Dies ermöglicht die vorläufige Eliminierung von Varianten mit geringer Erfolgswahrscheinlichkeit.

Einschränkungen, die nicht ignoriert werden können. KI besitzt kein kausales Weltmodell. Korrelation in Trainingsdaten ist keine Implikation in der Natur. Systeme eignen sich für Interpolation (neuer Punkt in einem gut erforschten Raum), versagen jedoch bei Extrapolation (Phänomen außerhalb der Trainingsverteilung). Deshalb muss jedes auf KI basierende Forschungssystem eine experimentelle Überprüfungsebene haben.

Wissenschaft basiert auf Falsifizierbarkeit. Wenn man nicht versteht, warum ein Modell genau dieses Ergebnis vorhersagt, kann man kein Experiment entwerfen, das diese Vorhersage überprüft.

Moderne Forschungssysteme verwenden mehrere Schichten der Erklärbarkeit:

Attention Maps und Saliency. Modelle zeigen an, welche Teile der Eingabedaten (Gensequenz, Protokollausschnitt, Sensormesswerte) den größten Einfluss auf das Ergebnis hatten. Dies ist keine vollständige kausale Erklärung, bietet aber einen Ausgangspunkt für die Überprüfung.

Begründungen in natürlicher Sprache. Ein an das Vorhersagemodell angebundener LLM generiert eine Begründung im Stil: „Diese Substituentenkombination korreliert in 94 % der analogen Strukturen im Trainingsdatensatz mit hoher Toxizität.“ Der Forscher kann beurteilen, ob der Mechanismus biologisch plausibel ist.

Konfidenzintervalle und Distributional Shift. Ein gutes Forschungssystem liefert nicht nur das Ergebnis, sondern auch ein Konfidenzintervall und warnt, wenn die Eingabedaten von der Trainingsverteilung abweichen. Dies ist ein Signal: „Ich bin mir nicht so sicher wie sonst.“

Bei CashCrown durchläuft jedes Vorhersagemodell im Kundensystem einen Router mit Guardrails, der nicht nur das Ergebnis, sondern auch das Konfidenzniveau und die Konsistenz mit dem Kontext überprüft. Eine Antwort, bei der das Modell unsicher ist, wird nicht ohne Annotation an den Nutzer weitergegeben. Dasselbe Muster ist im Forschungskontext sinnvoll: Eine unsichere Hypothese benötigt ein Label, keine Verheimlichung.

Trainingsdaten für wissenschaftliche Modelle sind nicht neutral. Sie replizieren Fehler der Vergangenheit: Überrepräsentation bestimmter Populationen in klinischen Studien, Veröffentlichung positiver Ergebnisse bei gleichzeitiger „Schubladisierung“ negativer Ergebnisse, Konzentration von Entdeckungen auf gut finanzierte Bereiche.

Ein auf solcher Literatur trainiertes Modell reproduziert diese Verzerrungen als „wissenschaftliche Fakten“. Im Kontext der Arzneimittelentdeckung bedeutet dies das Risiko, therapeutische Ziele zu übersehen, die in bisherigen Studien unterrepräsentiert waren. In der Genomik – die Reproduktion von Schlussfolgerungen, die hauptsächlich aus Proben europäischer Herkunft abgeleitet wurden.

Minderungsmaßnahmen sind möglich, erfordern jedoch eine bewusste Designentscheidung:

• Audit des Trainingsdatensatzes vor der Implementierung: Welche Populationen, Sprachen, Jahre, Zeitschriften sind überrepräsentiert?
• Aktive Anreicherung der Daten um historisch ausgeschlossene Quellen.
• Monitoring von Drift nach der Implementierung: Weichen die Modellergebnisse systematisch für bestimmte Untergruppen ab?

Gemäß dem AI Act unterliegen KI-Systeme, die in der Forschung eingesetzt werden und direkt medizinische oder regulatorische Entscheidungen beeinflussen, den Anforderungen für Hochrisikosysteme: Register, Konformitätsbewertung, Risikomanagementplan und die Möglichkeit eines Audits durch die Aufsichtsbehörde.

Autonomie der KI in der Forschung bedeutet nicht das Fehlen von Aufsicht – sie bedeutet die durchdachte Gestaltung von Punkten, an denen der Mensch in den Prozess eingreift.

Das Muster, das wir bei der Implementierung analytischer Agenten anwenden, unterscheidet drei Arten von Kontrollpunkten:

Dies ist keine Verlangsamung des Prozesses. Es ist ein Schutz vor dem, was in der Systemtechnik als „Automation Bias“ bezeichnet wird: die Tendenz des Menschen, Ergebnisse automatisierter Systeme unkritisch zu akzeptieren, wenn sie schnell und sicher wirken.

Das Human-Gate in unseren Agenten funktioniert nach genau diesem Prinzip: Jede irreversible Aktion (Berichtsversand, Start eines Produktionsprozesses, Datenbankmodifikation) erfordert eine Bestätigung mit signiertem Token. In der Forschung entspricht dies der Anforderung, das Protokoll vor dem physischen Experiment zu genehmigen.

Wenn KI Hypothesen generiert, Experimente entwirft und Ergebnisse synthetisiert, wird die Frage der Autorenschaft zu einem realen rechtlichen und ethischen Problem, nicht nur zu einer akademischen.

Stand 2026 in den wichtigsten Jurisdiktionen: KI kann nicht als Autor einer wissenschaftlichen Veröffentlichung aufgeführt werden (Richtlinien von ICMJE, Nature, Science). Der Forscher, der die Arbeit unterzeichnet, ist für jede Aussage verantwortlich, unabhängig davon, welches Tool sie generiert hat. Die Nutzung von KI als „autonomer Forschungsassistent“ ohne Dokumentation ihres Beitrags kann als Verstoß gegen die wissenschaftliche Integrität gewertet werden.

Praktische Ansätze, die wir in führenden Institutionen beobachten:

• Deklaration im Methodenteil, welche Schritte durch KI unterstützt wurden und mit welchem Tool.
• Führung eines Protokolls der Prompts und Modellergebnisse als Teil der Forschungsdokumentation.
• Überprüfung jeder zentralen Aussage durch den Menschen vor der Aufnahme in das Manuskript.

Dies ist keine bürokratische Belastung. Es ist der Standard der Reproduzierbarkeit, ohne den Wissenschaft keine Wissenschaft mehr ist.

Statt deklarativer Aussagen über eine „Revolution“ lohnt sich ein Blick auf konkrete Veränderungen von Tempo und Kosten:

Das Muster ist reproduzierbar: KI verkürzt drastisch die Zeit für die Vorauswahl und Generierung von Kandidaten. Das Laborexperiment oder die empirische Beobachtung bleiben jedoch unverzichtbar für die Bestätigung. Ein Wissenschaftler, der diese Struktur versteht, gewinnt einen enormen Produktivitätsmultiplikator. Ein Wissenschaftler, der das Modellergebnis ohne Überprüfung als Fakt behandelt, geht ein Risiko ein.

Nein, im rechtlichen und ethischen Sinne. Die Richtlinien der wichtigsten Verlage (Nature, Science, ICMJE) schließen KI explizit als Autor aus. Der Forscher, der die Arbeit unterzeichnet, ist für jede Aussage verantwortlich – unabhängig davon, welches Tool sie generiert hat. KI-Systeme können jeden Schritt des Forschungsprozesses unterstützen, aber die Verantwortung und Überprüfung bleiben beim Menschen.

Das Modell selbst beseitigt keine Verzerrungen – es kann sie höchstens aufdecken und quantifizieren. Ein gutes auf KI basierendes Forschungssystem erfordert ein Audit des Trainingsdatensatzes vor der Implementierung, die aktive Anreicherung von Daten um unterrepräsentierte Quellen und die Überwachung der Ergebnisse auf systematische Unterschiede zwischen Untergruppen. Der AI Act für Hochrisikosysteme verlangt die Dokumentation solcher Maßnahmen im Risikomanagementplan.

Nur, wenn das System mit Fokus auf Reproduzierbarkeit designed ist: deterministischer Seed, Versionierung von Modell und Trainingsdaten, Protokollierung von Prompts und Ergebnissen. Generative Modelle mit Standard-Randomisierung (Temperature > 0) produzieren bei gleicher Eingabe unterschiedliche Ergebnisse – was für wissenschaftliche Standards problematisch ist. Deshalb verwenden Forschungssysteme in der Regel Temperature = 0 oder speichern den Seed für jeden Aufruf.

Der AI Act verbietet nicht den Einsatz von KI in der Wissenschaft, legt aber Pflichten proportional zum Risiko fest. Systeme, die medizinische, regulatorische oder sicherheitsrelevante Entscheidungen beeinflussen, werden als Hochrisiko klassifiziert: Sie erfordern eine Registrierung in der EU AI Act Database, eine Konformitätsbewertung, technische Dokumentation und Überwachung nach der Implementierung. Systeme, die Literaturrecherche oder die Vorauswahl von Hypothesen unterstützen und keine direkten Hochrisiko-Entscheidungen beeinflussen, unterliegen milderen Anforderungen. Details unter: AI Act und DSGVO 2026.

Ja, und oft profitieren sie proportional stärker als große Organisationen, da sie keine umfangreichen Analyseteams haben. Ein RAG-Assistent auf der eigenen Wissensbasis, ein Pipeline zur Datenextraktion aus Berichten und Dokumenten, automatische Zusammenfassungen branchenspezifischer Literatur – das sind Aufgaben, die auch für Unternehmen ohne Data-Science-Abteilung zugänglich sind. Die Implementierung erfordert jedoch eine durchdachte Architektur: Wie man eine KI-Implementierung plant, damit die Effekte messbar sind und nicht nur ein Demo bleiben.

Themen wie Sicherheit von KI-Agenten, Begrenzung von Halluzinationen und Schutz vor Prompt Injection sind direkt mit dem Design vertrauenswürdiger Forschungssysteme verbunden. Wenn Sie planen, KI in die Analyseprozesse Ihres Unternehmens zu implementieren, hilft Ihnen das Tool zur Bewertung der Einsatzbereitschaft, Lücken zu identifizieren, bevor Sie mit dem Aufbau beginnen.