Die Zukunft der wissenschaftlichen Arbeit: Die sich wandelnde Rolle des Forschers im Zeitalter der KI

Im Jahr 2022 nahm ein Literaturreview für einen Übersichtsartikel einem Forschungsteam vier bis acht Wochen in Anspruch. Im Jahr 2025 dauert dieselbe Aufgabe mit einem RAG-Assistenten auf einem indexierten Fachkorpus nur noch wenige Tage. Der Forscher entscheidet weiterhin, welche Zitate in das Manuskript aufgenommen werden und ob die Schlussfolgerungen biologisch plausibel sind. Doch der Schwerpunkt hat sich verschoben: Statt Zeit mit der Suche zu verbringen, wird sie nun mit Bewertung und Verifizierung verbracht.

Bei Cashcrown beobachten wir dieses Muster bei Kunden aus der pharmazeutischen Industrie, den Materialwissenschaften und der Umweltanalytik. Der Wandel ist nicht einheitlich und nicht schmerzfrei. Deshalb beschreiben wir ihn ehrlich, ohne deklarative Versprechungen von einer „Revolution“.

Die Trennung zwischen dem, was reproduzierbar funktioniert, und dem, was weiterhin Experiment bleibt, ist der erste Schritt für eine sinnvolle Implementierung.

Literaturrecherche und Synthese. LLM mit Zugriff auf eine Publikationsdatenbank durchsucht Zehntausende von Artikeln, identifiziert Lücken und Widersprüche und verknüpft Zitate aus entfernten Fachgebieten. Die Zeit für ein systematic review verkürzt sich von mehreren Monaten auf wenige Tage. Dies ist eine Aufgabe, bei der KI regelmäßig mehr Material verarbeitet, als einem menschlichen Team im realistischen Zeitrahmen zur Verfügung stünde.

Hypothesengenerierung aus Datenmustern. Systeme, die große Fachkorpora analysieren, zeigen Kombinationen von Faktoren auf, die im menschlichen Review unsichtbar bleiben. Nicht jede Modellvorschlag ist treffend, aber die Auswahl selbst weniger Prozent nützlicher Hypothesen aus einem größeren Pool ist schneller als deren Generierung von Grund auf. Entscheidend: Der Forscher bewertet, welche Hypothesen ins Experiment einfließen.

Datenextraktion aus unstrukturierten Quellen. Laborberichte, experimentelle Protokolle, Rohmessungen in PDFs, Transkriptionen klinischer Interviews. Das Modell wandelt sie in strukturierte Tabellen um, die zur Analyse bereitstehen, und eliminiert Übertragungsfehler. Dennoch ist eine Überprüfung der Ergebnisse durch den Forscher erforderlich, insbesondere bei kritischen Daten.

In-silico-Simulationen. In der computergestützten Chemie, Genomik und Materialwissenschaft schätzen KI-Modelle die Eigenschaften von Kandidaten vor dem physischen Experiment ab. Dies ermöglicht es, Varianten mit geringer Erfolgswahrscheinlichkeit vorab auszuschließen und die Laborressourcen auf die vielversprechendsten Richtungen zu konzentrieren.

Grenzen, die nicht verschwiegen werden dürfen. KI besitzt kein kausales Weltmodell. Korrelation in den Trainingsdaten ist keine Implikation in der Natur. Systeme bewähren sich bei der Interpolation, also der Schätzung neuer Punkte in einem gut erforschten Raum, und versagen bei der Extrapolation, also bei Phänomenen außerhalb der Trainingsverteilung. Jedes auf KI basierende Forschungssystem muss eine experimentelle Verifizierungsebene haben. Ohne sie ist das Modellergebnis eine Hypothese, kein Fakt.

Ein konkretes Bild der Veränderungen zeigt sich erst auf der Ebene einzelner Aufgaben. Die folgende Übersicht basiert auf der Beobachtung von Implementierungen aus den Jahren 2024–2025:

Das Muster ist konsistent: KI verkürzt die Zeit für Selektion und Generierung von Kandidaten um eine Größenordnung. Experiment oder empirische Beobachtung bleiben unverzichtbar zur Bestätigung. Der Forscher, der diese Struktur versteht, gewinnt einen realen Produktivitätsmultiplikator. Der Forscher, der das Modellergebnis ohne Verifizierung als Fakt behandelt, geht ein Risiko ein.

Human-oversight in Forschungsprozessen ist kein bürokratisches Verfahren. Es ist die Antwort auf einen konkreten Fehlermechanismus: automation bias, also die Tendenz, Ergebnisse automatisierter Systeme ohne kritische Überprüfung zu akzeptieren, wenn das System sicher und schnell arbeitet.

Das Muster, das wir bei der Implementierung analytischer Systeme anwenden, unterscheidet drei Arten von Kontrollpunkten:

Verifizierung der Hypothesenliste. KI generiert Kandidaten, der Forscher entscheidet, welche ins Experiment einfließen. Die Entscheidung ist nicht technisch, sondern wissenschaftlich: Sie erfordert eine Bewertung der Glaubwürdigkeit des Mechanismus und des Fachkontexts.

Genehmigung des Protokolls. KI schlägt ein Experimentdesign vor, der Forschungsleiter genehmigt es vor der Durchführung. Dies gilt insbesondere für Experimente mit biologischem Material oder irreversiblen Konsequenzen.

Validierung vor der Veröffentlichung. KI erstellt einen Entwurf, das gesamte Team überprüft jede Aussage vor der Einreichung zur Begutachtung. Autorenschaft und wissenschaftliche Verantwortung werden nicht auf das Modell übertragen.

Eine detaillierte Diskussion darüber, warum Intuition und Kontext des Forschers unersetzlich sind, findest du im Artikel über die Rolle des Menschen im Loop.

Trainingsdaten wissenschaftlicher Systeme sind nicht neutral. Sie replizieren Fehler der Vergangenheit: Überrepräsentation bestimmter Populationen in klinischen Studien, das „Schubladisieren“ negativer Ergebnisse, Konzentration von Entdeckungen auf gut finanzierte Bereiche und Sprachen.

Ein auf einer solchen Literatur trainiertes Modell reproduziert diese Verzerrungen als „wissenschaftliche Muster“. Bei der Arzneimittelentdeckung bedeutet dies das Risiko, therapeutische Ziele zu übersehen, die in der bisherigen Literatur unterrepräsentiert sind. In der Genomik bedeutet es die Reproduktion von Schlussfolgerungen, die hauptsächlich aus Proben europäischer Herkunft abgeleitet wurden.

Mehr über diesen Mechanismus und Methoden zur Minderung schreiben wir im Artikel über algorithmische Verzerrung in der wissenschaftlichen Forschung.

Minderungsmaßnahmen sind möglich, erfordern jedoch eine bewusste Designentscheidung vor der Implementierung:

• Audit des Trainingsdatensatzes: Welche Populationen, Sprachen, Jahre und Zeitschriften sind überrepräsentiert.
• Aktive Anreicherung der Daten mit historisch unterrepräsentierten Quellen.
• Überwachung der Ergebnisse nach der Implementierung hinsichtlich systematischer Unterschiede zwischen Untergruppen.

Wissenschaft basiert auf Falsifizierbarkeit. Wenn man nicht versteht, warum ein Modell genau dieses Ergebnis vorhersagt, kann man kein Experiment entwerfen, das diese Vorhersage überprüft.

Explainability in Forschungssystemen nimmt mehrere praktische Formen an:

Attention maps und Saliency. Das Modell zeigt an, welche Teile der Eingabedaten den größten Einfluss auf das Ergebnis hatten. Dies ist keine vollständige kausale Erklärung, aber ein Ausgangspunkt für die Überprüfung durch den Forscher.

Begründungen in natürlicher Sprache. Ein an das prädiktive Modell angeschlossenes LLM generiert eine Begründung: „Diese Kombination von Substituenten korreliert in 94 % der analogen Strukturen im Trainingsdatensatz mit hoher Toxizität.“ Der Forscher bewertet, ob der Mechanismus biologisch plausibel ist.

Konfidenzintervalle und Distributional-Shift-Signal. Ein gutes Forschungssystem gibt nicht nur ein Ergebnis aus, sondern auch den Grad der Sicherheit und warnt, wenn die Eingabedaten von der Trainingsverteilung abweichen. Dies ist ein Signal: „Ich schätze mit geringerer Sicherheit als üblich.“ Der Forscher entscheidet, was mit diesem Signal zu tun ist.

Eine vollständige Diskussion des Black-Box-Mechanismus und der Erklärbarkeitsebenen findest du im Artikel über Transparenz von KI-Systemen.

Wenn KI Hypothesen generiert, Experimente entwirft und Ergebnisse synthetisiert, wird die Frage der Autorenschaft zu einem realen rechtlichen und ethischen Problem.

Stand 2026: KI kann nicht als Autor einer wissenschaftlichen Veröffentlichung genannt werden. Die Richtlinien von ICMJE, Nature und Science schließen dies eindeutig aus. Der Forscher, der die Arbeit unterzeichnet, ist für jede Aussage verantwortlich, unabhängig vom verwendeten Tool.

Dies bedeutet, dass der Einsatz von KI als Forschungsassistent ohne Dokumentation ihres Beitrags als Verstoß gegen die wissenschaftliche Integrität gewertet werden kann. Die in führenden Institutionen beobachtete Praxis umfasst:

• Deklaration im Methodenteil, welche Schritte durch KI unterstützt wurden und mit welchem Tool.
• Führung eines Logs der Prompts und Modellergebnisse als Teil der Forschungsdokumentation.
• Überprüfung jeder zentralen Aussage durch den Menschen vor der Aufnahme in das Manuskript.

Dies ist keine administrative Belastung. Es ist der Standard der Reproduzierbarkeit, ohne den Wissenschaft keine Wissenschaft mehr ist.

Der Wandel der Rolle besteht nicht im Ersatz durch KI, sondern in der Verschiebung der Schwerpunkte. Die bei den Vorphasen eingesparte Zeit schafft Raum für Aufgaben, die das Modell nicht übernehmen kann: die Bewertung der Glaubwürdigkeit von Mechanismen und die Verantwortung für Schlussfolgerungen.

Kompetenzen, die an Bedeutung gewinnen:

• Kritische Bewertung von Modellergebnissen: Verständnis, wann man vertraut, wann man hinterfragt und wie man verifiziert.
• Prompt Engineering für Forschungskontexte: Formulierung von Anfragen, die das Risiko von Halluzinationen minimieren.
• Management von Trainingsdaten: Wissen darüber, was das Modell „gelernt“ hat, ist Voraussetzung für die Interpretation seiner Ergebnisse.
• Dokumentation und Reproduzierbarkeit: Versionierung des Modells, Logging von Prompts, deterministische Seeds.

Der Artikel über LLM als Hypothesengenerator diskutiert detailliert, wo eine solche Aufsicht unerlässlich ist.

Nein, nicht im ganzheitlichen Sinne. KI ersetzt konkrete Aufgaben wie Literaturrecherche, initiale Kandidatenselektion oder die Generierung von Hypothesen zur Überprüfung. Aufgaben, die die Bewertung der Glaubwürdigkeit von Mechanismen, das Design von Experimenten mit hohem Informationsgehalt und die Verantwortung für Schlussfolgerungen erfordern, bleiben beim Forscher. Es verändert sich das Verhältnis der Zeit, die für einzelne Tätigkeiten aufgewendet wird, nicht die Rolle des Menschen.

Der AI Act verbietet den Einsatz von KI in der Wissenschaft nicht, legt jedoch Pflichten fest, die dem Risiko angemessen sind. Hochrisiko-Systeme (z. B. solche, die medizinische, regulatorische Entscheidungen oder solche mit Auswirkungen auf die menschliche Sicherheit beeinflussen) erfordern eine Konformitätsbewertung, technische Dokumentation und menschliche Aufsicht. Die Pflicht zur Eintragung in die öffentliche EU-Datenbank gilt für Systeme aus Anhang III; Systeme, die eine Sicherheitskomponente von Produkten sind, die unter sektorales Recht aus Anhang I fallen (z. B. KI in Medizinprodukten unter der MDR), unterliegen dem sektoralen Regime und nicht der Eintragung in diese öffentliche Datenbank. Wichtig für die Wissenschaft: Der AI Act nimmt KI-Systeme, die ausschließlich zu Zwecken der wissenschaftlichen Forschung und Entwicklung erstellt und genutzt werden, von seinem Anwendungsbereich aus (Art. 2 Abs. 6, Erwägungsgrund 25) — Pflichten entstehen erst, wenn ein solches System für den realen Einsatz bereitgestellt wird. Systeme, die Literaturrecherche oder die initiale Hypothesenselektion unterstützen und keine direkten Hochrisiko-Entscheidungen beeinflussen, unterliegen milderen Anforderungen.

Nur, wenn das System mit Blick auf Reproduzierbarkeit designed ist: deterministischer Seed, Versionierung von Modell und Trainingsdaten, Logging von Prompts und Ergebnissen. Generative Modelle mit Standard-Randomisierung produzieren bei gleicher Eingabe unterschiedliche Ergebnisse, was für wissenschaftliche Standards problematisch ist. Forschungssysteme verwenden in der Regel eine Temperature von null oder speichern den Seed für jeden Aufruf.

Eine Hypothese aus dem Modell ist ein Ausgangspunkt, kein Schluss. Die Verifizierung erfordert: Überprüfung, ob die Hypothese falsifizierbar ist, Design eines Experiments mit messbarem Endpunkt, Bewertung, ob der Mechanismus biologisch oder physikalisch plausibel ist, und den Abgleich mit der bestehenden Literatur. Eine detaillierte Diskussion des Verifizierungsdesigns findest du im Artikel über KI als autonomen Wissenschaftler.

Der von führenden Verlagen (Nature, Science, ICMJE) angenommene Standard verlangt eine Deklaration im Methodenteil: welche Schritte durch KI unterstützt wurden und mit welchem Tool. Das Log der Prompts und Modellergebnisse sollte Teil der Forschungsdokumentation sein, die auf Anfrage des Gutachters verfügbar ist. Autorenschaft und Verantwortung für jede Aussage bleiben beim menschlichen Forscher.