C2 Leselektüre: Künstliche Intelligenz, Autonomie und Menschenbild

In der Konferenz über KI wurde viel über Effizienz gesprochen. Prozesse sollten schneller, präziser, skalierbarer werden. Fehlerquoten, Kostenreduktion und Produktivität dominierten die Folien. Der Mensch erschien vor allem als Engpass.

Philosophin Ruth hörte lange zu und fragte dann, welches Menschenbild in diesen Präsentationen eigentlich sichtbar werde. Der Raum wurde still. Einige lächelten höflich, als sei die Frage interessant, aber nicht dringend.

Ruth erklärte, jede Technik enthalte eine Antwort auf die Frage, was als menschliches Problem gilt. Wenn Müdigkeit, Langsamkeit, Zweifel und Unberechenbarkeit nur als Defizite erscheinen, dann wird der Mensch nach dem Bild der Maschine beurteilt.

Ein Ingenieur widersprach. Technik solle Menschen entlasten, nicht entwerten. Ruth stimmte zu. Gerade deshalb müsse man unterscheiden, wovon entlastet werde und was vielleicht erhalten bleiben solle: Urteil, Verantwortung, Zögern, Gespräch.

Die Debatte wurde lebhafter. Einige sahen in Ruths Frage eine Bremse, andere eine notwendige Korrektur. Am Ende änderten sich keine Strategien sofort. Aber das Wort Effizienz stand nicht mehr ganz unschuldig im Raum.

Für Ruth bestand der eigentliche Fortschritt nicht darin, alles Menschliche technisch nachzubauen. Fortschritt begann dort, wo eine Gesellschaft entscheiden konnte, welche menschlichen Schwächen sie verbessern und welche sie als Bedingungen von Freiheit schützen wollte.

Im Krankenhaus wurde über einen Patienten gesprochen, der nicht mehr selbst entscheiden konnte. Eine Software berechnete Prognosen, Wahrscheinlichkeiten und Behandlungsoptionen. Die Zahlen waren präzise, die Lage nicht.

Die Angehörigen saßen in einem kleinen Raum und hörten, wie Ärztinnen die Optionen erklärten. Eine Therapie konnte Zeit gewinnen, aber mit schweren Nebenwirkungen. Ein Abbruch konnte Leiden verkürzen, aber fühlte sich wie Aufgeben an.

Das System empfahl eine Option auf Grundlage statistischer Verläufe. Niemand behandelte diese Empfehlung als Befehl. Dennoch lag sie im Raum wie eine zusätzliche Autorität, schwer zu ignorieren, schwer zu befragen.

Die Tochter des Patienten fragte schließlich, ob das System wisse, wovor ihr Vater am meisten Angst gehabt habe. Niemand antwortete sofort. Die Frage war nicht sentimental, sondern entscheidend. Autonomie am Lebensende bestand nicht nur aus medizinischen Wahrscheinlichkeiten, sondern aus einem gelebten Wertehorizont.

Die Familie entschied sich nach langen Gesprächen gegen die aggressive Therapie. Die Entscheidung blieb schmerzhaft. Aber sie beruhte nicht auf dem Wunsch, eine Zahl zu erfüllen, sondern auf der Erinnerung an einen Menschen.

Der Fall zeigte den Ärztinnen, dass KI in Grenzsituationen unterstützen kann, aber nicht den Ort der Entscheidung besetzen darf. Wo es um Würde, Angst und Lebenssinn geht, reicht Prognose nicht aus. Man muss fragen, welches Leben verlängert werden soll und zu welchem Preis.

Nach dem Tod ihres Bruders erhielt Hannah viele Nachrichten. Einige waren unbeholfen, andere warm, manche zu lang, manche fast leer. Eine Bekannte schrieb später, sie habe sich von einem KI-System helfen lassen, die richtigen Worte zu finden.

Hannah wusste nicht, wie sie darauf reagieren sollte. Die Nachricht war schön formuliert gewesen. Vielleicht schöner, als die Bekannte es allein vermocht hätte. Und doch entstand ein leiser Widerstand in ihr.

Was erwartete sie eigentlich? Dass Trauerworte originell sein müssten? Dass nur sprachliche Unsicherheit ehrlich sei? Auch Menschen benutzen Floskeln, greifen auf gelernte Formen zurück und sagen Dinge, die größer klingen als ihr tatsächliches Empfinden.

Trotzdem blieb ein Unterschied. Trost besteht nicht nur im passenden Satz, sondern im Risiko, als sprechender Mensch unzulänglich zu sein. Wer tröstet, setzt sich selbst der Möglichkeit aus, nicht zu genügen.

Ein KI-generierter Satz kann behutsam sein. Aber er trägt keine Verletzlichkeit. Er kann Form geben, ohne selbst betroffen zu sein. Hannah wollte solche Hilfe nicht verurteilen, aber sie wollte wissen, ob hinter den Worten jemand stand.

Sie antwortete der Bekannten schließlich ehrlich: Die Nachricht habe ihr gutgetan, aber noch mehr hätte ihr ein eigener, vielleicht unbeholfener Satz bedeutet. Nicht weil Technik verboten wäre, sondern weil Trost eine Form von Anwesenheit ist.

Die Versicherung bot Lukas einen digitalen Gesundheitsassistenten an. Er sollte Daten sammeln, Risiken berechnen und personalisierte Empfehlungen geben. Je konsequenter Lukas die Hinweise befolgte, desto günstiger konnte sein Tarif werden.

Anfangs wirkte das vernünftig. Warum sollte jemand, der gesund lebt, nicht profitieren? Die App erinnerte ihn an Bewegung, Schlaf und Ernährung. Sie verwandelte diffuse Vorsätze in konkrete Handlungen.

Doch bald bemerkte Lukas, dass sein Körper zu einem Verhandlungsraum mit der Versicherung wurde. Ein verpasster Lauf, eine kurze Nacht, ein erhöhter Puls: Alles konnte Bedeutung bekommen. Gesundheit wurde nicht nur gefördert, sondern beobachtet.

Besonders störte ihn der Gedanke an seinen digitalen Zwilling: ein datenförmiges Abbild, das Risiken berechnete und vielleicht irgendwann mehr über seine Versicherbarkeit aussagte als ein Gespräch mit ihm selbst.

Er fragte beim Anbieter nach, welche Daten gespeichert und wie sie bewertet würden. Die Antwort war formal korrekt, aber kaum verständlich. Transparenz bestand aus Dokumenten, nicht aus wirklichem Verstehen.

Lukas kündigte den Zusatzdienst. Nicht weil er gegen Prävention war, sondern weil er nicht wollte, dass Fürsorge und Kontrolle ununterscheidbar werden. Ein Menschenbild, das Gesundheit vor allem als berechenbares Risiko behandelt, war ihm zu eng.

Das Museum testete ein System, das Besucherinnen personalisierte Rundgänge vorschlug. Wer abstrakte Formen mochte, bekam bestimmte Räume empfohlen; wer lange vor Porträts stand, erhielt mehr Porträts. Die Zufriedenheit stieg messbar.

Kuratorin Elise war dennoch unruhig. Ein Museum, dachte sie, solle nicht nur bestätigen, was jemand ohnehin schon mag. Es solle auch Zumutungen ermöglichen: Bilder, an denen man zunächst vorbeigehen will, die aber später im Gedächtnis bleiben.

Das System war nicht banal. Es konnte Muster erkennen, die Menschen entgingen. Es verband Stile, Zeiten, Farben und Bewegungsdaten. Doch es optimierte auf Wahrscheinlichkeit von Interesse, nicht auf die produktive Irritation des Unbekannten.

Elise beobachtete eine Besucherin, die vom System an einem kleinen, unscheinbaren Bild vorbeigeführt wurde. Früher hatte Elise genau dort oft Gespräche erlebt, weil das Bild Fragen aufwarf. Nun lag es außerhalb der empfohlenen Route.

Sie schlug vor, Zufall und Widerstand einzubauen: Werke, die nicht zum Profil passten, aber aus kuratorischer Sicht wichtig waren. Der Entwickler fragte, wie man Wichtigkeit messen solle. Elise antwortete: Vielleicht beginne Kultur dort, wo diese Frage nicht vollständig technisch beantwortet werden könne.

Das Museum behielt das System, veränderte aber seine Logik. Personalisierung sollte Türen öffnen, nicht Korridore verengen. Für Elise war das die entscheidende Grenze: Eine Maschine darf Geschmack begleiten, aber nicht die Begegnung mit dem Fremden abschaffen.

Im Klassenzimmer stand kein Roboter, sondern ein unscheinbares Lernsystem auf den Tablets. Es korrigierte Aufgaben, gab Hinweise und passte Übungen an das Tempo der Kinder an. Die Lehrerin Frau Berger war dankbar. Endlich bekam jedes Kind schnelle Rückmeldungen.

Nach einigen Wochen bemerkte sie, dass manche Kinder dem System mehr vertrauten als ihrem eigenen Nachdenken. Wenn eine Antwort rot markiert wurde, war sie falsch. Wenn ein Vorschlag erschien, wurde er übernommen. Die Maschine sprach nicht laut, aber sie strukturierte Aufmerksamkeit.

Ein Schüler sagte eines Tages: „Er weiß, was ich noch nicht kann.“ Frau Berger blieb an diesem Satz hängen. Er war praktisch gemeint, enthielt aber eine Verschiebung. Das Kind schrieb dem System eine Art Wissen über sein Können zu.

Natürlich wusste das System etwas: Fehlerquoten, Bearbeitungszeiten, Aufgabentypen. Aber wusste es, warum ein Kind zögerte? Ob es müde war, beschämt, gelangweilt, überfordert, unterfordert? Lernen bestand nicht nur aus messbaren Lücken.

Frau Berger begann, die Ergebnisse des Systems im Unterricht zu besprechen. Sie fragte: „Findest du, dass diese Empfehlung zu dir passt?“ Einige Kinder waren überrascht. Sie sollten nicht nur dem System folgen, sondern es beurteilen.

Für Frau Berger wurde digitale Bildung genau dort interessant: nicht wenn Kinder Maschinen bedienen, sondern wenn sie lernen, deren Urteile als Angebote zu verstehen. Autonomie im Lernen bedeutete nicht, ohne Hilfe zu sein, sondern Hilfe prüfen zu können.

Im Pflegeheim wurde ein neuer Roboter vorgestellt. Er konnte Getränke bringen, an Medikamente erinnern, einfache Gespräche führen und bei Stürzen Alarm schlagen. Die Heimleitung sprach von Entlastung, nicht von Ersatz. Viele Angehörige waren erleichtert.

Auch Clara, deren Mutter dort lebte, wollte den Fortschritt nicht vorschnell ablehnen. Das Personal war überlastet, und ihre Mutter musste manchmal lange warten, bis jemand kam. Wenn Technik Wartezeit verkürzte, war das nicht zynisch, sondern praktisch.

Trotzdem irritierte Clara eine Szene. Der Roboter fragte ihre Mutter, ob sie sich wohlfühle. Die Mutter antwortete höflich, fast automatisch. Als Clara kurz danach dieselbe Frage stellte und ihre Hand nahm, begann die Mutter zu weinen.

Der Unterschied lag nicht in der Information. In beiden Fällen war dieselbe Frage gestellt worden. Doch beim Roboter war die Frage ein Programmpunkt; bei Clara war sie Beziehung, Erinnerung, Körper, gemeinsame Geschichte.

Clara verstand, dass Pflege nicht nur aus Aufgaben besteht, die erledigt werden müssen. Sie besteht auch aus Formen der Gegenwart, die nicht beliebig delegierbar sind. Ein Getränk bringen kann automatisiert werden; jemandem das Gefühl geben, gemeint zu sein, viel schwerer.

Am Ende unterstützte Clara den Einsatz des Roboters unter klaren Bedingungen. Technik durfte entlasten, aber nicht als Vorwand dienen, menschliche Nähe weiter zu verknappen. Die Würde ihrer Mutter lag nicht darin, optimal versorgt zu werden, sondern darin, nicht aus der Sphäre menschlicher Antwort herauszufallen.

Nach dem Fehler im Kreditverfahren wollte niemand verantwortlich sein. Die Bank verwies auf das Risikomodell, der Softwareanbieter auf die Datenbasis, die Sachbearbeiterin auf interne Vorgaben. Der Kunde, dem der Kredit verweigert worden war, stand vor einer Kette von Zuständigkeiten, die sich gegenseitig entlasteten.

Das Modell hatte ihn als zu riskant eingestuft. Warum genau, konnte niemand einfach erklären. Es hieß, viele Faktoren würden zusammenspielen. Genau diese Komplexität war der Schutzschild des Systems.

Die Sachbearbeiterin wirkte nicht gleichgültig. Sie sagte, sie könne die Entscheidung nicht ändern, nur eine erneute Prüfung beantragen. Ihre Ohnmacht war echt, aber sie war Teil des Problems. Wenn alle nur Schnittstellen bedienen, wer entscheidet dann eigentlich?

Ein interner Bericht stellte später fest, dass bestimmte Berufsgruppen systematisch schlechter bewertet wurden. Niemand hatte diese Benachteiligung beschlossen. Sie entstand aus Daten, Gewichtungen und Routinen.

Gerade das machte den Fall politisch brisant. Diskriminierung braucht nicht immer einen diskriminierenden Akteur mit böser Absicht. Manchmal genügt ein Verfahren, das historische Muster in mathematische Plausibilität übersetzt.

Der Kunde erhielt nach Monaten eine Korrektur. Doch der Fall blieb als Beispiel dafür, dass Verantwortung in automatisierten Prozessen nicht verschwinden darf. Wenn niemand entschieden haben will, muss umso genauer gefragt werden, wer das System entschieden lässt.

Als Felix zum ersten Mal einen KI-generierten Text für seine Bewerbung nutzte, war er beeindruckt. Das Anschreiben klang flüssig, professionell und erstaunlich passend. Es enthielt keine Fehler, keine Unsicherheiten, keine ungelenken Sätze. Genau deshalb beunruhigte es ihn.

Der Text beschrieb ihn als analytisch, teamorientiert und lösungsstark. Alles war nicht falsch. Aber es war auf eine Weise richtig, die nichts riskierte. Felix erkannte sich wieder und zugleich nicht. Der Text war wie ein gut beleuchtetes Porträt, aus dem jede Unschärfe entfernt worden war.

Zunächst wollte er ihn unverändert abschicken. Dann fragte er sich, ob Authentizität im beruflichen Kontext überhaupt erwartet werde oder nur eine besonders glaubwürdige Form der Anpassung. Vielleicht war seine eigene frühere Bewerbung auch nur eine weniger elegante Inszenierung gewesen.

Diese Frage machte die Sache komplizierter. Die KI hatte ihn nicht einfach verfälscht. Sie hatte eine soziale Sprache perfektioniert, in der Bewerberinnen ohnehin lernen, sich strategisch zu präsentieren.

Felix überarbeitete den Text. Er ließ einige professionelle Formulierungen stehen, fügte aber einen konkreten Absatz hinzu: über ein Projekt, das gescheitert war, und darüber, was er daraus gelernt hatte. Plötzlich wurde der Text weniger glatt, aber wahrer.

Er verstand, dass die Gefahr nicht darin bestand, dass KI Texte schreibt. Die Gefahr bestand darin, dass Menschen irgendwann nur noch Versionen ihrer selbst akzeptieren, die reibungslos in institutionelle Erwartungen passen.

Dr. Heller arbeitete seit zwanzig Jahren als Radiologe. Er hatte gelernt, Bilder nicht nur zu sehen, sondern zu lesen: Schatten, Übergänge, Unregelmäßigkeiten, winzige Abweichungen, die in keinem Lehrbuch genau so vorkamen. Als die Klinik ein KI-System einführte, begrüßte er es zunächst.

Das System markierte verdächtige Stellen auf Aufnahmen und berechnete Wahrscheinlichkeiten. In vielen Fällen war es erstaunlich präzise. Es übersah nichts aus Müdigkeit, hatte keinen schlechten Tag und konnte Tausende Vergleichsdaten berücksichtigen.

Doch nach einigen Monaten bemerkte Heller eine Verschiebung. Jüngere Kolleginnen fragten seltener: „Was sehe ich?“ und häufiger: „Warum hat das System hier nichts markiert?“ Die Maschine war nicht mehr nur Werkzeug, sondern stiller Maßstab.

Einmal widersprach Heller der Einschätzung des Programms. Die Wahrscheinlichkeit war niedrig, aber sein Blick blieb an einer Stelle hängen. Er bestand auf einer weiteren Untersuchung. Tatsächlich bestätigte sich sein Verdacht.

Der Fall machte ihn nicht zum Gegner der KI. Im Gegenteil, er wollte das System behalten. Aber er begann in Fortbildungen zu betonen, dass ärztliches Urteil nicht im blinden Vertrauen auf die Maschine bestehen dürfe und auch nicht in gekränkter Abwehr.

Für Heller lag die Zukunft nicht in der Frage Mensch oder Maschine. Sie lag in der schwierigeren Frage, wie menschliche Verantwortung erhalten bleibt, wenn technische Systeme immer überzeugendere Vorschläge machen.

Als Mara die Absage erhielt, war sie nicht überrascht und doch verletzt. Die E-Mail war freundlich, standardisiert und so allgemein formuliert, dass sie niemandem widersprechen konnte. Man habe sich für andere Profile entschieden, hieß es. Welche Profile, nach welchen Kriterien und durch wen, blieb offen.

Erst Wochen später erfuhr sie durch einen Bekannten, dass das Unternehmen Bewerbungen vorab durch ein automatisiertes System filtern ließ. Lebensläufe wurden nach Schlüsselwörtern, Lücken, Stationen und vermuteter Passung bewertet. Nur ein Teil gelangte überhaupt auf den Tisch menschlicher Personalverantwortlicher.

Diese Information veränderte Maras Gefühl. Eine menschliche Absage hätte sie enttäuscht, aber sie hätte zumindest ein Gegenüber vermutet. Nun fragte sie sich, ob ihre Bewerbung je als Lebensgeschichte gelesen worden war oder nur als Datenstruktur, die zu wenig Ähnlichkeit mit erfolgreichen Mustern hatte.

Das System war vermutlich effizient. Es sparte Zeit, reduzierte Stapel und versprach Objektivität. Doch gerade dieses Versprechen machte Mara misstrauisch. Wenn frühere Einstellungen bereits von Vorurteilen geprägt waren, konnten Daten diese Vorurteile fortschreiben, ohne sie offen auszusprechen.

Sie schrieb keine wütende Beschwerde. Stattdessen fragte sie sachlich nach den Auswahlkriterien und nach der Möglichkeit menschlicher Überprüfung. Die Antwort blieb vage. Man verwende moderne Verfahren zur Qualitätssicherung.

Für Mara wurde die Absage zu mehr als einer persönlichen Enttäuschung. Sie zeigte, wie leicht Menschen in Prozessen verschwinden können, die niemand grausam meint. Nicht die Maschine war das Problem allein, sondern eine Organisation, die Verantwortung in ihr unsichtbar werden ließ.