KI in den Sozialwissenschaften: Datenanalyse, Bildung und Psychologie

Ein Soziologe, der 50.000 qualitative Interviews analysiert, verbringt Monate mit thematischer Kodierung. Ein Sprachmodell erledigt einen ersten Durchlauf in wenigen Stunden. Die Frage lautet nicht mehr „ob KI für die Sozialwissenschaften geeignet ist“, sondern „wo die Nützlichkeit des Modells endet und die Verantwortung des Forschers beginnt“.

Bei Cashcrown arbeiten wir mit Institutionen zusammen, die KI für die Analyse von Umfragedaten, Bildungssupport-Systeme und psychologische Vorabdiagnostik einsetzen. Im Folgenden beschreiben wir, was funktioniert, was scheitert und wo human-oversight verpflichtend, nicht optional ist.

Sozialwissenschaften arbeiten mit drei Datentypen: Text (Interviews, offene Umfragen, soziale Medien), quantitative Daten (Skalen, demografische Indikatoren, Testergebnisse) und Verhaltensdaten (Beobachtungen, Interaktionsprotokolle). KI hat in jedem Bereich einen unterschiedlichen Nutzen.

Textanalyse. Ein LLM mit gutem System-Prompt klassifiziert offene Antworten schneller nach thematischen Kategorien als zwei Kodierer zusammen. Wir verwenden hier einen mehrstufigen Ansatz: Das Modell schlägt Codes vor, der Forscher genehmigt oder korrigiert das Schema, das Modell kodiert den Rest des Korpus nach dem genehmigten Schema. Entscheidend: Der Forscher definiert die Codes, nicht das Modell.

Quantitative Daten. Klassisches maschinelles Lernen (Regression, Random Forests, Gradient Boosting) wird seit Jahren in den Sozialwissenschaften für die Vorhersage sozialer Risiken, Wahlmodellierung oder Segmentierung eingesetzt. KI hat hier nichts Neues erfunden. Sie beschleunigt die Iteration und erleichtert die Erklärbarkeit von Modellen (SHAP, LIME), wo früher das Ergebnis „aus der Blackbox“ kam.

Verhaltensdaten. Die Analyse von Protokollen einer Bildungsplattform, Antwortmustern in Tests oder Transkripten therapeutischer Gespräche ist ein Bereich, in dem KI als Klassifikator für schwer manuell erfassbare Signale fungiert. Dieselben Daten sind jedoch sensibel und unterliegen strengeren DSGVO-Anforderungen als eine Umfrage mit deklarativer Einwilligung.

Adaptive Bildungssysteme sind einer der ausgereiftesten Anwendungsbereiche von KI in den Sozialwissenschaften. Die Logik ist einfach: Das Modell analysiert die Antwortsequenz eines Schülers, identifiziert Lücken und passt die nächsten Aufgaben an das gemessene Kompetenzniveau an.

In der Praxis funktionieren diese Systeme gut bei Aufgaben mit klar definierter Richtigkeit (Mathematik, Grammatik, Fremdsprachenvokabular). Bei der Bewertung offener Denkprozesse, Argumentation oder Kreativität schneiden sie schlechter ab. Ein Maschinenfehler in diesem Bereich ist kostspielig: Ein als „schwach“ im Denken eingestufter Schüler könnte aufhören, es zu versuchen.

Das größte Risiko in Bildungssystemen ist die Verstärkung von Ungleichheiten. Ein Modell, das hauptsächlich mit Daten aus gut ausgestatteten Einrichtungen trainiert wurde, kann systematisch die Bewertungen von Schülern mit anderem kulturellen oder sprachlichen Hintergrund unterbewerten. Ein Audit auf demografischen Drift ist vor der Implementierung verpflichtend, nicht danach.

Klinische und Forschungspsychologie ist ein Bereich, in dem KI gleichzeitig die größten Erwartungen und die größten Bedenken weckt. Modelle, die Daten aus Fragebögen (z. B. PHQ-9, GAD-7), Interview-Transkripten oder Sprachmustern verarbeiten, können Risiken für Störungen mit einer Wirksamkeit signalisieren, die mit einer ersten Screening-Bewertung durch einen Kliniker vergleichbar ist. Das hat einen realen Wert in Kontexten, in denen der Zugang zu Spezialisten begrenzt ist.

Einige Einschränkungen, die nicht ignoriert werden dürfen:

Modelle halluzinieren. Im medizinischen oder psychologischen Kontext hat eine falsche Klassifizierung ein anderes Gewicht als in einer Anwendung zur Unternehmenswissensverwaltung. Ein System, das jemanden fälschlicherweise als „geringes Risiko“ einstuft, kann eine Intervention verzögern.

Trainingsdaten aus klinischen Studien sind historisch nicht repräsentativ. Die Überrepräsentation bestimmter demografischer Gruppen in den Trainingsdatensätzen führt zu einer geringeren Wirksamkeit des Modells für andere Gruppen.

Der AI Act in Polen (als Teil der EU-Regulierung) klassifiziert KI-Systeme, die zur psychologischen Bewertung und Gesundheitsdiagnostik eingesetzt werden, als Hochrisikosysteme (Anhang III). Dies bedeutet die Pflicht zur Registrierung, Dokumentation und menschlichen Aufsicht bei jeder personenbezogenen Entscheidung.

KI in den Sozialwissenschaften ersetzt nicht die methodische Werkzeugkiste. Sie erweitert deren Möglichkeiten, verstärkt aber auch deren Schwächen.

Fehlendes kausales Modell. Eine Korrelation in Umfragedaten zwischen Variable X und Y ist keine Implikation. Das Modell unterscheidet nicht zwischen kausaler und konfundierender Abhängigkeit. Die Interpretation liegt beim Forscher.

Vererbung von Vorurteilen. Der Internet-Korpus, mit dem die meisten LLMs trainiert wurden, spiegelt Ungleichheiten in der Repräsentation wider: geografisch, sprachlich, demografisch. Die Analyse sozialer Phänomene durch ein solches Modell reproduziert diese Ungleichheiten, wenn keine aktiven Gegenmaßnahmen ergriffen werden.

Reproduzierbarkeit. Generative Modelle mit Standard-Zufälligkeit liefern unterschiedliche Ergebnisse für dieselbe Eingabe. Der Reproduzierbarkeitsstandard in den Sozialwissenschaften erfordert ein deterministisches Umfeld: feste Seed, Modellversionierung, Protokollierung der Prompts. Ohne dies ist das Ergebnis nicht wiederholbar und damit nicht widerlegbar.

Verantwortung für die Schlussfolgerung. Unabhängig davon, ob die These vom Forscher oder vom Modell stammt, unterzeichnet der Forscher den Artikel. Kein wissenschaftlicher Verlag akzeptiert KI als Mitautor, der für Aussagen verantwortlich ist. Dies bedeutet die Überprüfung jeder zentralen Schlussfolgerung vor der Aufnahme in das Manuskript.

Ein Muster bei der Gestaltung analytischer Systeme für Forschungseinrichtungen sieht drei menschliche Eingriffspunkte im Prozess vor: Genehmigung des Kodierungsschemas vor der Massenanalyse, Überprüfung einer Stichprobe der Ergebnisse vor der Verallgemeinerung, ethische Bewertung vor der Veröffentlichung sensibler personenbezogener Daten.

DSGVO stellt besondere Anforderungen an sensible Daten, zu denen Daten über den psychischen Gesundheitszustand, ethnische Zugehörigkeit oder politische Ansichten gehören. Sozialforschung berührt oft genau diese Kategorien.

Vier Fragen, die vor Beginn jedes KI-Forschungsprojekts gestellt werden müssen:

Können die Daten zur Identifizierung einer Person verwendet werden, auch indirekt? Deklarative Anonymisierung reicht bei hochdimensionalen Daten nicht aus.

Wird das Modell Entscheidungen treffen, die Personen betreffen (Risikobewertung, Selektion, Empfehlungen)? Wenn ja, ist eine Datenschutz-Folgenabschätzung (DPIA) und eine Rechtsgrundlage für die Verarbeitung erforderlich.

Verstehen die Teilnehmer, dass ihre Daten in ein KI-Modell einfließen? Eine informierte Einwilligung zur Analyse durch Algorithmen ist nicht dasselbe wie die Einwilligung zur Teilnahme an einer Umfrage.

Werden die Ergebnisse des Modells als Schlussfolgerungen ohne Angabe von Unsicherheitsgrenzen präsentiert? Das Fehlen sichtbarer Modellunsicherheit im Bericht ist ein methodischer und potenziell ethischer Fehler.

Mehr zur Architektur verantwortungsvoller Forschungssysteme in KI und verantwortungsvolle Innovation und im Artikel über die Rolle des Menschen im Prozess.

Nein, im methodischen Sinne. KI kann einen ersten Durchlauf der thematischen Kodierung durchführen, was die Arbeitszeit erheblich verkürzt, aber das Codeschema muss vom Forscher definiert und genehmigt werden. Die Qualität der resultierenden Analyse hängt von der Qualität des Prompts und der kritischen Bewertung der Modellvorschläge ab. Die Behandlung der Modellausgabe als fertige Analyse ohne Validierung ist ein methodischer Fehler.

Anonymisierte (nicht pseudonymisierte) Daten mit aggregierten Bewertungen, ohne Möglichkeit der Zuordnung zu einer bestimmten Person. Identifizierbare Daten zum psychischen Gesundheitszustand erfordern eine DPIA, eine Rechtsgrundlage nach Art. 9 DSGVO und in der Regel die Zustimmung einer Ethikkommission. KI-Systeme, die individuelle Entscheidungen treffen (diagnostisch, therapeutisch), unterliegen dem AI Act als Hochrisikosysteme.

Drei Schritte: Audit des Trainingsdatensatzes vor der Implementierung (welche Gruppen sind überrepräsentiert), Validierung der Modellergebnisse an demografischen Teilstichproben (ob sich der Fehler gleichmäßig verteilt) und Überwachung der Ergebnisse nach der Implementierung auf systematische Abweichungen. Dies ist kein einmaliger Schritt, sondern ein kontinuierlicher Prozess.

Der AI Act unterscheidet das Risiko des Systems, nicht die Verwendungsabsicht. KI-Systeme, die zur psychologischen Bewertung, Bildungsselektion oder sozialen Risikobewertung eingesetzt werden, werden als Hochrisikosysteme eingestuft. Sie erfordern eine Registrierung in der EU-Datenbank, eine Konformitätsbewertung, technische Dokumentation und Aufsicht nach der Implementierung. Systeme, die ausschließlich zur Literaturrecherche oder Hypothesengenerierung ohne personenbezogene Entscheidungen dienen, haben mildere Anforderungen.

Die wichtigsten Verlage (Nature, Science, ICMJE) akzeptieren KI nicht als Mitautor. Standard ist eine Erklärung im Methodenteil: welches Tool, für welche Phase, wie die Ergebnisse überprüft wurden. Die Protokolle der Prompts und Modellergebnisse sollten Teil der Forschungsdokumentation sein, die für Gutachter zugänglich ist. Der Forscher haftet für jede Aussage in der Arbeit, unabhängig von ihrer Quelle.

Mehr über die Grenzen von Sprachmodellen in der Forschung: LLM als Hypothesengenerator und KI als autonomer Wissenschaftler. Die Zukunft der Forschungsarbeit diskutieren wir separat.