Von Interaktion zu Kollaboration: Aufbau einer Partnerschaft mit KI in der Forschung

Jahrelang war das Muster einfach: Der Forscher stellt eine Frage, die KI antwortet, der Forscher bewertet die Antwort. Jede Interaktion war isoliert. In den Jahren 2025 und 2026 arbeiten Labore, die reproduzierbare Ergebnisse mit KI-Assistenten erzielen, anders: Sie behandeln das Modell als festen Bestandteil des Forschungsprozesses mit definierter Rolle, Grenzen und Punkten, an denen der Mensch eingreifen muss. Es geht nicht um einen „besseren Prompt“, sondern um die Architektur der Zusammenarbeit.

Wenn man einen LLM einmalig etwas fragt, erhält man eine Antwort und bewertet deren Wert selbst. Das ist Interaktion. Kollaboration bedeutet, dass das Modell eine Funktion innerhalb eines Zyklus hat: Es durchsucht Literatur in einem bestimmten Themenfenster, generiert Hypothesen-Kandidaten nach vorgegebenen Kriterien, fasst Ausgangsdaten aus Protokollen in einem definierten Format zusammen. Der Forscher bewertet nicht jede Antwort von Grund auf, weil er weiß, wofür dieser Schritt dient und welche Grenzen er hat.

Der praktische Unterschied ist folgender: Bei der Interaktion steigt die Zeit für die Bewertung der Ergebnisse proportional zur Anzahl der Abfragen. Bei der Kollaboration ist die Bewertungszeit auf der Ebene des Kontrollpunkts konstant, während die KI das Volumen übernimmt.

Drei Merkmale, die Kollaboration von Interaktion unterscheiden:

• Die Rolle ist definiert. Das Modell erhält eine konkrete Aufgabe mit einem bestimmten Ausgabeformat, keine allgemeine Frage.
• Die Grenzen sind transparent. Der Forscher kennt die Klassen von Fällen, in denen das Modell versagt (Extrapolation außerhalb der Trainingsverteilung, seltene Sprachen, ältere Datensätze).
• Der Kontrollpunkt ist geplant. Bevor das Ergebnis des Modells eine Forschungsentscheidung beeinflusst, durchläuft es eine Überprüfung.

Nicht jede Aufgabe im Forschungsprozess profitiert gleichermaßen von der Unterstützung durch KI. Es lohnt sich, ein klares Bild davon zu haben, wo das Verhältnis „Geschwindigkeit/Glaubwürdigkeit“ günstig ist und wo das Fehlerrisiko die Zeitersparnis überwiegt.

Das Muster in der Tabelle wiederholt sich: KI ist schnell und nützlich, wo Fehler vom Menschen leicht erkannt werden können und nicht zu irreversiblen Entscheidungen führen. Je näher man an experimentelle Entscheidungen oder Aussagen in einem Manuskript kommt, desto wichtiger wird die Rolle des Menschen.

Wissenschaft erfordert Falsifizierbarkeit. Wenn man nicht versteht, warum das Modell eine bestimmte Hypothese vorgeschlagen oder zwei Phänomene verknüpft hat, kann man kein Experiment planen, das dies überprüft.

Bei Cashcrown durchläuft jeder analytische Assistent eine Erklärbarkeits-Schicht, bevor das Ergebnis an den Nutzer weitergegeben wird. Im Forschungskontext bedeutet das drei Dinge:

Quellenangabe. Ein auf einer Literaturdatenbank basierender Assistent verweist auf konkrete Artikel, aus denen jede Aussage abgeleitet wird. Der Forscher kann auf das Original zugreifen und bewerten, ob die Zitierung korrekt ist.

Sicherheitsbewertung. Ein gutes System liefert nicht nur ein Ergebnis. Es markiert, wenn Eingabedaten von der Trainingsverteilung abweichen: „Diese Kombination von Variablen ist im Datensatz schlecht repräsentiert, das Ergebnis ist weniger sicher.“ Das ist ein Signal zur Vorsicht, kein Grund zur Ablehnung.

Begründung in natürlicher Sprache. Ein generatives Modell, das an ein prädiktives System angeschlossen ist, erklärt, welche Muster in den Daten zu der Schlussfolgerung geführt haben. Der Forscher bewertet, ob der Mechanismus biologisch oder physikalisch plausibel ist.

Erklärbarkeit ist keine Komfortfunktion. Sie ist eine notwendige Bedingung, damit ein KI-Ergebnis in ein Protokoll oder Manuskript einfließen kann. Eine Blackbox, die „gute Ergebnisse liefert“, erfüllt nicht den Standard wissenschaftlicher Reproduzierbarkeit. Mehr zum Problem der fehlenden Erklärbarkeit im Kontext von KI-Systemen.

Human-Oversight ist keine Vorsichtsmaßnahme. Es ist eine Architektur, die vor „Automation Bias“ schützt: der Tendenz, Ergebnisse eines schnellen, scheinbar zuverlässigen Systems unkritisch zu akzeptieren.

In der Praxis der Partnerschaft mit KI in der Forschung unterscheiden wir drei Klassen von Kontrollpunkten:

Selektion von Kandidaten. KI generiert einen Satz von Hypothesen, identifiziert Muster, schlägt experimentelle Varianten vor. Der Forscher prüft die Liste und entscheidet, was weitergeht. Dieser Schritt ist schnell, aber erforderlich. Ohne ihn wird jede generierte Hypothese automatisch aktiv.

Freigabe des Protokolls. Vor dem Start eines physischen Experiments überprüft der Forschungsleiter den von einem KI-Assistenten vorgeschlagenen Entwurf. Das Modell kennt die Labor-spezifischen Gegebenheiten, die Verfügbarkeit von Reagenzien oder lokale Sicherheitsbeschränkungen nicht.

Überprüfung vor der Veröffentlichung. Jede Aussage in einem Manuskript, die von KI generiert oder unterstützt wurde, muss vor der Aufnahme in den Text vom Forscher überprüft werden. Die Richtlinien von ICMJE, Nature und Science sind in dieser Hinsicht seit 2023 eindeutig: KI ist kein Autor, und der Forscher ist für jede Aussage verantwortlich, unabhängig von ihrer Quelle.

Denselben Ansatz verfolgen wir bei Agenten, die bei Kunden implementiert werden: irreversible Aktionen erfordern eine Bestätigung mit signiertem Token. In der Forschung entspricht dies der Anforderung einer Freigabe vor jedem Schritt, der nicht rückgängig gemacht werden kann.

Die Nutzung von KI im Forschungsprozess ohne Dokumentation dieses Beitrags ist ein Problem der wissenschaftlichen Integrität, nicht nur eine ästhetische Entscheidung. Fehlende Dokumentation macht Reproduzierbarkeit, Audits und die Bewertung durch Gutachter unmöglich.

Das praktische Minimum, das wir in Institutionen beobachten, die dies richtig machen:

• Im Abschnitt Methods: welche Schritte durch KI unterstützt wurden, welches Tool, welche Modellversion.
• In der Forschungsdokumentation: Log der Prompts und Modellergebnisse als Teil der Forschungsartefakte.
• Im internen Protokoll: wer jeden Schritt mit KI-Beteiligung freigegeben hat und auf welcher Grundlage.

Modell, Version und Aufrufdatum sind wichtig, weil sich Modelle weiterentwickeln. Ein Ergebnis von GPT-4o im Dezember 2024 kann sich von einem Ergebnis desselben Modellnamens im Juni 2025 unterscheiden. Fehlende Versionsverwaltung macht das Ergebnis nicht reproduzierbar.

Für KI-Systeme, die in der Forschung eingesetzt werden und medizinische oder regulatorische Entscheidungen beeinflussen, legt der AI Act zusätzliche Anforderungen als Hochrisikosysteme fest: Register, Konformitätsbewertung und Auditierbarkeit.

Bei der einfachen Nutzung ist jede Interaktion isoliert, und der Forscher bewertet jedes Ergebnis von Grund auf neu. Eine Partnerschaft bedeutet, dem Modell eine konkrete Rolle im Prozess zuzuweisen, mit definiertem Ausgabeformat, transparenten Grenzen und geplanten Punkten, an denen der Mensch eingreift. Die Überprüfungszeit ist konstant und vorhersehbar, sie steigt nicht mit jeder Abfrage.

Drei Schichten, die zusammenwirken: ein RAG-Assistent mit Quellenangabe (der Forscher kann auf das Original zugreifen), ein System zur Kennzeichnung von Unsicherheiten (das Modell informiert, wenn Eingabedaten von der Trainingsverteilung abweichen), eine Begründung in natürlicher Sprache, die erklärt, welche Muster zu der Schlussfolgerung geführt haben. Ohne diese Schichten erfüllt das Modellergebnis nicht den Standard wissenschaftlicher Falsifizierbarkeit. Mehr zur Erklärbarkeit von KI-Systemen und ihrer Rolle für die Glaubwürdigkeit.

Fehlende Dokumentation macht die Reproduzierbarkeit der Forschung unmöglich, verstößt gegen die Richtlinien der wichtigsten Verlage (ICMJE, Nature, Science) und kann als Verstoß gegen die wissenschaftliche Integrität gewertet werden. Praktisches Minimum: Deklaration im Abschnitt Methods, welche KI-Tools in welcher Version verwendet wurden, Log der Prompts und Ergebnisse als Forschungsartefakte, Namen der Forscher, die jeden Schritt freigegeben haben. Kontext im Artikel über die Rolle des Menschen im Loop.

Ja, und im Forschungskontext ist das ein besonders ernstes Problem: Das Modell kann nicht existierende Artikel zitieren oder falsche Affiliationen echten Autoren zuordnen. Die Eindämmung erfordert einen RAG-basierten Assistenten (Antworten nur aus indizierten Datenbanken), die Überprüfung jedes Zitats durch den Forscher und die Regel: Eine Aussage ohne Zitat im Protokoll gilt als nicht verifiziert. Mehr zur Begrenzung von Halluzinationen im Artikel Wie man KI-Halluzinationen begrenzt.

Der niedrigste Einstiegskostenpunkt ist ein RAG-Assistent auf der eigenen Wissensbasis: indizierte Artikel, Protokolle und Berichte aus Projekten. Ein solches System liefert Antworten mit Zitaten und erfordert keine eigene GPU-Infrastruktur. Zweiter Schritt: Definieren Sie einen konkreten Schritt in Ihrem Prozess, der viel Zeit in Anspruch nimmt und messbare Ergebnisse liefert (Durchsicht von Abstracts, Datenextraktion). Testen Sie diesen Schritt mit einer kontrollierten Stichprobe und vergleichen Sie die Ergebnisse mit menschlicher Überprüfung. Erst dann entscheiden, ob Sie erweitern. Der Artikel Wissenschaftler mit KI besser als Wissenschaftler ohne KI zeigt konkrete Veränderungen in Tempo und Kosten in verschiedenen Disziplinen.

Eine detaillierte Diskussion zur Hypothesengenerierung durch LLM als Hypothesengeneratoren ergänzt diesen Artikel aus technischer Sicht. Wenn Sie die Implementierung von KI in analytischen Prozessen Ihres Unternehmens oder Ihrer Institution in Betracht ziehen, hilft Ihnen das Tool zur Bewertung der Einsatzbereitschaft, Lücken zu identifizieren, bevor Sie mit dem Aufbau beginnen.