Du möchtest auf eine schwierige Nachricht antworten und lässt dir von einer KI helfen. Ihr Vorschlag klingt ruhig, verständlich und vernünftig. Du änderst zwei Wörter und schickst ihn ab. Mit dem Text übernimmst du allerdings auch eine Haltung. Die KI hat vorgeschlagen, wo du nachgibst, welche Forderung du stellst und welchen Konflikt du übergehst. Vielleicht entspricht das genau deiner Absicht. Vielleicht hattest du deine Absicht selbst noch gar nicht geklärt. Du wolltest Unterstützung beim Formulieren und hast zugleich einen Vorschlag dafür erhalten, wie du dich gegenüber einem anderen Menschen verhalten solltest.
Mich beschäftigt daran die Leichtigkeit, mit der wir von einer Formulierung zu einer fertigen Position gelangen. Man muss keine Entscheidung bewusst abgeben. Es reicht, einen Vorschlag zu übernehmen, weil er vernünftig klingt und man gerade anderes zu tun hat. Im einzelnen Fall ist das oft harmlos. Als Gewohnheit verdient es unsere Aufmerksamkeit, denn wir können weiterhin jede Empfehlung ablehnen, müssen dafür aber erkennen, welche Maßstäbe in ihr stecken und ob wir sie teilen. Eine Gesellschaft könnte ihren Bürgern sämtliche Freiheiten lassen, während diese immer weniger Gebrauch davon machen können. Dafür müsste ihnen niemand das Entscheiden verbieten. Es würde genügen, wenn sie kaum noch verstünden, worüber sie entscheiden, ihre Ziele ungeprüft übernähmen oder mit ihrem Widerspruch nichts mehr bewirken könnten.
Freiheit mit Hilfsmitteln
Die Entlastung durch KI ist willkommen. Wer Verantwortung trägt, kennt die Erschöpfung durch lückenhafte Informationen und widersprüchliche Erwartungen. Ein System, das Möglichkeiten vergleicht und einen brauchbaren Vorschlag macht, kann helfen. Menschen übersehen Hinweise, überschätzen ihre Erfahrung und verteidigen gelegentlich eine schlechte Idee, weil sie ihre eigene war. Es wäre seltsam, ausgerechnet das unbeholfene Entscheiden zum Beweis unserer Freiheit zu erklären. Wir verlassen uns auf Ärzte, Steuerberater und die Erfahrung von Kollegen. Niemand muss sämtliche Kenntnisse persönlich besitzen, von denen sein Leben abhängt. Die Psychologen Evan Risko und Sam Gilbert beschreiben unter dem Begriff Cognitive Offloading, wie Menschen geistige Anforderungen mithilfe äußerer Handlungen und Hilfsmittel verringern. Wer einen Termin im Smartphone speichert, entlastet sein Gedächtnis. Solche Hilfen gehören zum menschlichen Denken.
Auch eine Fähigkeit zu verlieren, muss kein Unglück sein. Wenn wir eine Routine seltener üben und dafür anspruchsvollere Aufgaben bewältigen, können wir insgesamt gewinnen. Wer sich mithilfe einer KI erstmals verständlich gegen eine ungerechte Behandlung wehren kann, hat durch die Unterstützung mehr Handlungsmöglichkeiten. Der stärkste Einwand gegen die Sorge vor geistiger Abhängigkeit lautet deshalb, dass wir eine neue Form menschlicher Leistungsfähigkeit womöglich mit den Maßstäben der alten beurteilen. Diesen Einwand halte ich für berechtigt. Wir müssen nicht jede geistige Tätigkeit konservieren. Ein hochgebildeter Mensch kann fremdbestimmt leben, während ein anderer auf umfangreiche Hilfe angewiesen ist und sein Leben nach eigenen Vorstellungen gestaltet.
Entscheidend ist, welche Fähigkeiten wir brauchen, um unsere Unterstützung sinnvoll zu nutzen. Ich muss die Arbeit eines Fachmanns nicht vollständig nachmachen können. Ich sollte allerdings erkennen können, wann eine zweite Meinung sinnvoll ist, welche Interessen jemand verfolgt und ob seine Empfehlung überhaupt mein Problem beantwortet. Bei KI müssen wir klären, wie wir zu einem solchen Urteil kommen. Dazu brauchen wir ausreichend Verständnis, um wichtige Grenzen zu erkennen, und die Gelegenheit, unsere eigenen Ziele zu prüfen. Schließlich müssen wir nach unserem Urteil handeln können. Wer zwar widersprechen darf, aber keine Alternative hat, verfügt über eine andere Freiheit als jemand, der sich weitere Hilfe suchen und den vorgeschlagenen Weg verlassen kann.
Wir haben die Paywalls abgeschafft. Jede Woche veröffentlichen wir neue Essays und Podcast-Folgen, auf die du kostenlos zugreifen kannst.
Wenn du unsere Arbeit unterstützen möchtest, freuen wir uns über ein bezahltes Abo. Damit kannst du auch an unseren Podcast Live-Talks teilnehmen, im Live-Chat mitdiskutieren und dich im Substack Community Chat austauschen. Zugleich hilfst du uns, weitere Essays zu schreiben und spannende Podcast-Gäste einzuladen.
Die Aufgabe ist fertig. Was wurde gelernt?
Für Kinder ist diese Frage schwieriger als für Erwachsene. Wer ein Fach bereits beherrscht, kann mit KI auf vorhandenes Wissen zurückgreifen. Wer es gerade erst lernt, muss dieses Wissen aufbauen. Ein Feldversuch von Hamsa Bastani und Kollegen zeigt, wie leicht wir beides verwechseln können. Fast tausend Schülerinnen und Schüler an einer Schule in der Türkei nahmen an einer Untersuchung zum Mathematikunterricht teil. Eine Gruppe nutzte eine gewöhnliche GPT-4-Chatoberfläche, eine zweite einen didaktisch gestalteten KI-Tutor. Eine Kontrollgruppe arbeitete ohne generative KI. Während der Übungen verbesserten beide KI-Varianten die Ergebnisse. Im anschließenden Test ohne Hilfsmittel schnitt die Gruppe mit der gewöhnlichen Chatunterstützung jedoch schlechter ab als die Kontrollgruppe. Beim didaktischen Tutor, der unter anderem Hinweise statt fertiger Lösungen geben sollte, verschwanden diese Nachteile weitgehend. Einen zusätzlichen Vorteil im eigenständigen Test fanden die Forschenden für diese Gruppe nicht.
Die Hefte können also besser aussehen, während die Schüler weniger gelernt haben. Eine fertige Lösung war schon immer ein unvollkommener Beleg für Verständnis; mit KI wird sie als Beleg noch unsicherer. Allerdings zeigt der Versuch keinen dauerhaften Verlust zuvor vorhandener Fähigkeiten. Etwas noch nicht gelernt zu haben, ist etwas anderes, als es zu verlernen. Auch eine Befragung von Wissensarbeitern durch Hao-Ping Lee und Kollegen liefert keinen solchen Nachweis. Größeres Vertrauen in generative KI hing dort mit geringerem selbst berichtetem Aufwand für kritisches Denken zusammen. Das beschreibt einen Zusammenhang, keinen langfristigen Abbau der Denkfähigkeit. Diese Unterscheidung ist wichtig, weil wir sonst aus einzelnen Befunden eine Verfallsgeschichte zusammensetzen, die sie nicht belegen.
Zugleich gibt es ermutigende Ergebnisse. Eine randomisierte Untersuchung im Physikunterricht an Harvard fand mit einem gezielt gestalteten KI-Tutor größere unmittelbare Lernzuwächse als im untersuchten Unterricht mit aktivem Lernen, bei geringerem Zeitaufwand. Es kommt darauf an, was zwischen Frage und Antwort passiert. Ein Schüler kann eine Lösung übernehmen oder einen eigenen Versuch erklären, einen Hinweis erhalten und seinen Fehler verstehen. Beides lässt sich mit KI organisieren. Ich würde deshalb von einer Schule wissen wollen, woran sie erkennt, dass ein Kind etwas verstanden hat, und welche Gelegenheiten sie ihm gibt, die eigene Entwicklung zu erleben: Ich konnte das zunächst nicht, jetzt kann ich es. Diese Erfahrung sollten wir jungen Menschen nicht aus Bequemlichkeit ersparen. Sie brauchen genügend Wissen, um Aussagen einzuordnen, und die Erfahrung, eine Schwierigkeit durch eigene Arbeit überwinden zu können.
Vielleicht wolltest du gar nicht aufsteigen
Doch selbst ein Mensch mit Erfahrung und Fachwissen kann sich in seinen Entscheidungen beeinflussen lassen. Unsere Wünsche stehen nicht vor jedem Gespräch fertig fest. Wir entwickeln sie im Austausch mit anderen, und ein guter Rat kann dazu führen, dass wir etwas anderes wollen als zuvor. Wenn KI zu einem regelmäßigen Gesprächspartner wird, wirkt sie daran mit. Sie hilft dann auch, die Ziele zu formulieren, für die sie uns anschließend einen Plan anbietet. Stellen wir uns jemanden vor, der über einen beruflichen Wechsel nachdenkt. Die KI vergleicht Einkommen und Aufstiegschancen, empfiehlt eine Weiterbildung und entwirft die nächsten Schritte. Der Plan ist schlüssig. Nur wollte die Person ursprünglich vielleicht weniger arbeiten. Im Verlauf des Gesprächs wurde aus Unzufriedenheit ein Karriereproblem. Dafür liegt nun eine gute Lösung vor, während die Frage, ob man diese Karriere überhaupt möchte, aus dem Blick geraten ist.
Ein Experiment zu moralischen Dilemmata zeigt, dass KI-Ratschläge Urteile beeinflussen können. Widersprüchliche Empfehlungen von ChatGPT bewegten die Antworten der Teilnehmenden in unterschiedliche Richtungen; die Teilnehmenden unterschätzten diesen Einfluss. Der Versuch belegt keine umfassende Manipulation, macht aber deutlich, warum wir auch die Wirkung der Beratung selbst prüfen sollten. Für mich liegt hier die weiterreichende Frage: Wir könnten unsere Denkfähigkeit behalten und trotzdem immer häufiger zwischen Möglichkeiten wählen, die jemand anderes für uns vorsortiert hat. Auch in Gesprächen mit Menschen geschieht das. Gerade deshalb sollten wir bei KI darauf achten, welche Möglichkeiten ein System regelmäßig vorschlägt, welche Vorstellungen von Erfolg in seinen Antworten stecken und welche Interessen die Unternehmen verfolgen, die es bereitstellen.
Es wäre bequem, diese Verantwortung allein an die Nutzer weiterzureichen. Sie sollen kritisch bleiben, Quellen prüfen und ihre Ziele kennen, während die Anbieter so tun könnten, als stellten sie lediglich ein neutrales Werkzeug zur Verfügung. Wer Beratung gestaltet, beeinflusst ihre Richtung. Selbstbestimmung verlangt deshalb auch die Möglichkeit, diese Richtung zu erkennen und andere Perspektiven einzuholen. Die eigene Haltung muss dafür nicht vor jedem Gespräch feststehen. Wir sollten aber bemerken können, wenn sich im Gespräch unsere Vorstellung davon verändert, was wir eigentlich erreichen wollen. Bei einer überzeugenden Empfehlung lohnt sich manchmal die Frage, welche ursprüngliche Absicht auf dem Weg zu ihr verschwunden ist.
Ein Nein muss etwas ändern können
In Unternehmen zeigt sich, wie wenig ein eigenes Urteil wert sein kann, wenn man es nicht ausüben darf. Eine Mitarbeiterin erkennt eine Schwäche in einer KI-Empfehlung und möchte eine Annahme prüfen. Ihr Vorgesetzter erwartet die Freigabe bis zum Nachmittag, weil der neue Prozess schließlich Zeit sparen soll. Ihr fehlt in diesem Fall keine Urteilskraft. Ihr fehlt die Möglichkeit, danach zu handeln. Man verlangt Verantwortung, organisiert den Arbeitsablauf aber so, dass ein eigenes Urteil unerwünscht ist. Führungskräfte müssen deshalb klären, ob eine Entscheidung warten darf, wer einen begründeten Einwand prüft und welche Alternative zur Verfügung steht, wenn das vorgesehene System ungeeignet erscheint. Der Hinweis, am Ende entscheide weiterhin ein Mensch, beantwortet keine dieser Fragen.
Ich halte es außerdem für kurzsichtig, heute jede eingesparte Arbeitsstunde zu zählen und dabei die Ausbildung der Menschen zu vernachlässigen, die morgen Verantwortung tragen sollen. Eine junge Mitarbeiterin kann mit KI eine gute Investitionsvorlage erstellen und dabei viel lernen. Dafür muss jemand mit ihr besprechen, welche Annahme die Empfehlung trägt und unter welchen Bedingungen die Investition scheitern würde. Wenn ausschließlich die fertige Vorlage zählt, weiß das Unternehmen wenig darüber, was sie bei der nächsten Aufgabe selbst beurteilen kann. Die erfahrene Führungskraft, die heute KI-Ergebnisse prüft, hat ihr Wissen irgendwo erworben. Ihre Nachfolger brauchen ebenfalls Gelegenheiten dazu. Unternehmen werden entscheiden müssen, ob sie die dafür nötige Zeit als Ausbildung verstehen oder als vermeidbare Verzögerung.
Dabei sollten wir menschliche Beteiligung nicht romantisieren. Eine Unterschrift verbessert eine Entscheidung nicht von selbst. Menschen können Fehler hinzufügen und eine zutreffende Empfehlung aus Selbstüberschätzung verwerfen. Eine Metaanalyse von 106 Experimenten fand, dass Kombinationen aus Mensch und KI im Durchschnitt besser abschnitten als Menschen allein, aber schlechter als die jeweils bessere Einzelleistung von Mensch oder KI. Die untersuchten Studien stammen aus 2020 bis Mitte 2023 und erlauben keine pauschale Aussage über heutige Systeme. Sie stellen jedoch die Vorstellung infrage, Zusammenarbeit führe automatisch zur besten Leistung. Wir müssen deshalb klären, wozu Menschen an einer Entscheidung beteiligt sind. Sollen sie Fehler erkennen, Interessen der Betroffenen vertreten oder Ziele festlegen? Je nach Antwort brauchen sie andere Kenntnisse und Befugnisse.
Ich möchte niemandem empfehlen, künftig jede E-Mail ohne Hilfe zu schreiben. Eine lästige Routine abzugeben, kann schlicht vernünftig sein. Bevor ich eine Investition freigebe, muss ich allerdings mehr verstanden haben als vor dem Versand einer übersetzten Nachricht. Bei wichtigen Entscheidungen sollten wir deshalb darauf achten, welche Denkarbeit wir selbst leisten müssen. Manchmal hilft ein eigener Lösungsversuch vor der KI-Antwort. Manchmal zeigt erst das Gespräch mit einem fachkundigen Kollegen, dass man eine überzeugende Empfehlung noch gar nicht erklären kann. Für die Arbeit des Bundesverbands für KI-Transformation e.V. leite ich daraus einen Anspruch ab: Wir sollten KI-Projekte auch danach beurteilen, ob Menschen ihre Aufgaben besser durchdringen und Verantwortung ausüben können. Ein schnellerer Ablauf kann ein Erfolg sein. Ob dabei eine leistungsfähigere Organisation entsteht, ist eine weitere Frage.
Gesellschaftlich dürfen wir diese Aufgabe nicht dem persönlichen Fleiß überlassen. Wer unabhängige Beratung und gute Bildungsangebote nutzen kann, hat andere Möglichkeiten als jemand, dem nur ein einziges System zur Verfügung steht. Schulen und Arbeitgeber müssen Menschen Gelegenheiten geben, Verständnis aufzubauen und ihr Urteil wirksam einzubringen. Die Forschung belegt keinen allgemeinen, dauerhaften Verlust menschlicher Denkfähigkeit durch KI. Sie gibt uns aber Anlass, eine erledigte Aufgabe nicht vorschnell mit Lernen zu verwechseln und eine bestätigte Empfehlung nicht mit Selbstbestimmung. Wie sich unsere Fähigkeiten langfristig verändern, hängt auch davon ab, welche Anforderungen wir an uns selbst und an diese Systeme stellen.
Die vielleicht größte Errungenschaft künstlicher Intelligenz wird sein, dass wir eines Tages nicht mehr selbst denken müssen. Die vielleicht größte Tragödie wäre, wenn wir es dann auch nicht mehr könnten. Bei der nächsten überzeugenden Antwort lohnt es sich deshalb, kurz bei der eigenen Absicht zu bleiben. Entspricht der Vorschlag dem, was ich erreichen möchte, oder habe ich mit der Antwort gerade erst übernommen, was mein Ziel sein soll? Wer Menschen führen oder ausbilden will, muss ihnen die Zeit und die Freiheit geben, diese Frage zu stellen. Auch dann, wenn die Maschine längst fertig ist.
Wir haben die Paywalls abgeschafft. Jede Woche veröffentlichen wir neue Essays und Podcast-Folgen, auf die du kostenlos zugreifen kannst.
Wenn du unsere Arbeit unterstützen möchtest, freuen wir uns über ein bezahltes Abo. Damit kannst du auch an unseren Podcast Live-Talks teilnehmen, im Live-Chat mitdiskutieren und dich im Substack Community Chat austauschen. Zugleich hilfst du uns, weitere Essays zu schreiben und spannende Podcast-Gäste einzuladen.
