Eine Reanalyse von 74 Studien durch ein internationales Forschungsteam um Julian Berger und Stefan Herzog vom Max-Planck-Institut für Bildungsforschung in Berlin legt nahe, dass Mensch-KI-Teams besser abschneiden als bislang angenommen – sofern Menschen die Möglichkeit erhalten, zu lernen. Die Studie, erschienen in den Proceedings of the National Academy of Sciences, stellt frühere Befunde infrage, wonach die Zusammenarbeit von Mensch und Maschine im Schnitt schlechter ausfällt als die Leistung des jeweils besseren Partners allein. Der entscheidende Faktor: Die menschliche Lernfähigkeit wurde in fast allen bisherigen Untersuchungen systematisch unterschätzt oder überhaupt nicht berücksichtigt.
Negative Synergieeffekte dominieren bisherige Forschung
Eine Übersichtsstudie aus dem Jahr 2024 hatte 74 Publikationen zur Mensch-KI-Interaktion ausgewertet und ein ernüchterndes Bild gezeichnet: Der Synergie-Effekt war im Schnitt negativ. Untersucht wurden KI-Systeme für unterschiedliche Aufgaben – von der Klassifizierung von Bildern über die Vorhersage von Immobilienpreisen bis zum Programmieren. In allen Fällen erzielten Mensch und KI gemeinsam schlechtere Ergebnisse als der jeweils bessere Partner allein. Das nährte Zweifel an der Sinnhaftigkeit der Mensch-Maschine-Kollaboration und warf die Frage auf, ob KI-Systeme besser autonom operieren sollten.
Lerneffekte wurden in den meisten Studien nicht untersucht
Die Forschenden des Max-Planck-Instituts für Bildungsforschung nahmen die 74 Studien erneut unter die Lupe und konzentrierten sich dabei auf die Art der Mensch-KI-Interaktion. Sie untersuchten, ob das Bild anders aussieht, wenn KI-Systeme ihre Ergebnisse erklären oder wenn Menschen nach jeder Entscheidung Feedback erhalten und dadurch lernen können, sich auf den Algorithmus einzustellen. Die erste überraschende Erkenntnis: Nur 10 der 74 Studien gaben den Teilnehmenden überhaupt Feedback, keine variierte es experimentell. Julian Berger, der sich im Rahmen seiner Doktorarbeit mit diesem Thema auseinandergesetzt hat, resümiert: „Lerneffekte sind in der Mensch-Maschine-Interaktion noch nahezu unerforscht."
Kombination aus Feedback und Erklärungen zeigt positive Effekte
Mittels Meta-Regression verglichen die Forschenden Studien mit und ohne Feedback und berücksichtigten dabei, ob die KI ihre Empfehlungen erklärte. Das Ergebnis: Hatten die Versuchspersonen Zugang zu Feedback und Erklärungen, schnitt das Tandem aus Mensch und KI tendenziell besser ab als der bessere Partner allein. Deutlich war das Gegenstück: Erklärungen ohne Feedback gingen mit klar negativer Synergie einher. Entscheidend scheint die Kombination beider Elemente zu sein. Ohne Erklärungen machte Feedback keinen klar erkennbaren Unterschied.
Die Wissenschaftler interpretieren dieses Ergebnis so: „Dieses Ergebnis deutet darauf hin, dass Erklärungen Synergieeffekte vor allem dann verstärken, wenn Menschen lernen können, die Zuverlässigkeit der KI durch Feedback zu überprüfen." Menschen müssen demnach nicht nur verstehen, wie ein KI-System zu einer Empfehlung kommt, sondern auch erfahren, ob diese Empfehlung tatsächlich zutreffend war. Erst durch die Rückmeldung über die Richtigkeit der Entscheidung entsteht ein Lernprozess, der die Zusammenarbeit verbessert.
Offene Fragen: Kausalität und generative KI
Da keine der 74 Studien Lernmöglichkeiten innerhalb desselben Experimentes variiert hatte, wurden verschiedene Studien anhand ihrer Studiendesigns verglichen. Für klare, kausale Schlussfolgerungen seien nun Experimente erforderlich, welche direkt die Lernmöglichkeiten variieren, betonen die Forscher. Offen ist auch die Übertragbarkeit der Ergebnisse auf generative KI und Large Language Models. Stefan Herzog, Senior Research Scientist am Forschungsbereich Adaptive Rationalität des Max-Planck-Instituts für Bildungsforschung, erläutert: „Die sprachliche Interaktion mit Chatbots könnte es einfacher machen, Menschen personalisiert Feedback und Erklärungen zu geben und damit das Lernen anzustoßen. Voraussetzung ist aber auch dort, dass Menschen erfahren, was tatsächlich richtig ist; die Antworten eines Chatbots können selbst ja falsch sein und stellen noch kein unabhängiges Feedback dar."
Herzog weist zudem auf neue Risiken hin: „Auf der anderen Seite entstehen neue Risiken durch das kognitive ´Offloading´, also die Delegierung von Denkarbeit an die KI. Das könnte mittel- und langfristig den Lernerfolg gefährden oder sogar den Verlust von Fertigkeiten fördern."
Paradigmenwechsel in der Forschung gefordert
Die Wissenschaftler fordern einen Paradigmenwechsel in der Forschung zur Mensch-KI-Interaktion, um das menschliche Lernen explizit zu berücksichtigen. Sie betonen, dass die Unterstützung des menschlichen Lernens – insbesondere durch Feedback und KI-Erklärungen – ein unterschätzter und bislang wenig erforschter, aber vielversprechender Hebel zur Steigerung der Synergie zwischen Mensch und KI sei. Für die Praxis bedeutet dies: KI-Systeme müssen von Anfang an menschgerecht gestaltet werden. Herzog formuliert die zentrale Empfehlung: „Wir müssen den Menschen beim Design von KI-Systemen und der Interaktionen mit ihnen von Anfang an als lernendes Wesen mitdenken." Erst dann lasse sich das volle Potenzial der Interaktion nutzen.
Das zentrale Fazit der Studie lautet, dass das Potenzial der Mensch-KI-Zusammenarbeit unterschätzt wird. Für Unternehmen, die KI-Systeme einführen, folgt daraus eine klare Handlungsempfehlung: Die bloße Bereitstellung von KI-Tools reicht nicht aus. Mitarbeitende benötigen strukturierte Lernumgebungen, in denen sie durch Feedback und nachvollziehbare Erklärungen verstehen lernen, wann sie der KI vertrauen können und wann nicht.
