Es gibt einen Satz, dem ich widersprechen möchte, seit ich ihn zum ersten Mal gelesen habe. Er stammt von Cory Doctorow, einem kanadisch-britischen Autor und Netzaktivisten, und fiel in einer Rede vom vergangenen Dezember: KI sei „das Asbest in den Wänden unserer technologischen Gesellschaft“. Asbest – das Material, das eine Generation begeistert verbaut hat und die nächste in Schutzanzügen wieder herauskratzen musste.
Mein Einspruch kommt nicht von der Zuschauertribüne. Ich verbringe meine Arbeitstage in genau diesen Wänden und baue mit genau dem Material, das Doctorow meint – obwohl ich aus dem Gesundheitsbereich stamme, nicht aus der Technik. Was ich dabei in den Händen halte, fühlt sich nicht an wie Asbest. Aber ein Gefühl ist kein Argument, und ein Widerspruch taugt nur, wenn er die stärkste Fassung dessen trifft, dem er widerspricht. Doctorows stärkste Fassung ist nicht der Asbest-Satz. Es ist ein Bild, das ich aus meinem eigenen Alltag kenne – länger, als es KI gibt. Also der Reihe nach; der Widerspruch kommt, aber er muss sich erst verdienen.
Menschlicher Kopf, maschinenstarker Körper
Das Bild hat eine Vorgeschichte im Schach. Nachdem der Computer den Weltmeister geschlagen hatte, entstand eine Turnierform, in der Gespanne aus Mensch und Maschine antraten – und zeitweise schlugen diese Gespanne beide: die stärksten Programme und die stärksten Großmeister. Man nannte sie Zentauren. Menschlicher Kopf, maschinenstarker Körper: Der Mensch urteilt, wählt, verwirft – die Maschine rechnet zu.
Doctorow interessiert die Umkehrung, und er hat ihr einen ebenso präzisen Namen gegeben: der umgekehrte Zentaur. Maschinenkopf, menschlicher Körper. Ein Mensch, der einer Maschine zuarbeitet, die urteilt – in Doctorows drastischen Worten: der ihr „als Fleischfortsatz dient“. Sein anschaulichstes Beispiel ist der Fahrer eines Lieferwagens, dessen Kameras per KI die Blickrichtung überwachen und selbst das Singen während der Fahrt registrieren. Der Fahrer bedient das Fahrzeug nicht mehr. Das Fahrzeug verwendet den Fahrer.
Sein zweites Beispiel sitzt unserer Welt näher: der Radiologe. Im Szenario, vor dem Doctorow warnt, liest die KI die Bilder, und der Mensch soll prüfen, was sie gelesen hat – im Takt der Maschine, in ihrer Vorlage, mit voller Haftung für ihre Fehler. Der Ökonom Dan Davies hat für solche Konstruktionen ein Wort geprägt, das man nicht mehr vergisst: die Verantwortungs-Senke. Eine Stelle, an der Verantwortung abgeladen wird, ohne dass dort noch entschieden würde.
Und damit niemand glaubt, das Problem läge an schlechter Technik: Eine KI, die schlecht liest, macht den prüfenden Menschen zur Verantwortungs-Senke. Eine KI, die gut liest, macht es subtiler – je seltener der Fehler, desto schwerer ist er zu finden, desto ermüdender die Wachsamkeit, desto größer die stille Versuchung, zu nicken. Doctorow nennt das Automatisierungsblindheit. Die Forschung untersucht es als Automation Bias. Die Falle schnappt in beiden Fällen zu – die gute Maschine ölt nur das Scharnier. Das ist, wohlgemerkt, kein Einwand gegen Doctorow – er macht diesen Punkt selbst: Der Mensch solle wachsam bleiben gegenüber einer Maschine, die meistens recht hat, außer wenn sie katastrophal irrt.
Die Maschine hieß nicht KI
So weit gehe ich mit ihm. Nicht aus Belesenheit, sondern aus Erfahrung. Es gibt eine Sorte Text, die ich seit Jahren schreibe und deren Autor ich nie ganz bin: Berichte und Anträge an Kostenträger. Bevor ich das erste Wort setze, hat ein Formular bereits entschieden, welche Felder es gibt, wie viel Platz eine Beobachtung bekommt und welche Kategorien überhaupt existieren. Was ich über einen Menschen weiß, muss durch diese Felder hindurch. Was nicht hineinpasst, existiert für den Empfänger nicht. Und unter dem fertigen Text steht trotzdem meine Unterschrift und ich fühle mich immer unangenehm berührt, meine Erfahrungen mit einem individuellen Menschen in diese angeblich objektive Form zu pressen.
Das Formular ist nicht allein. Auch dieser Blog kann mich zum umgekehrten Zentauren machen: Ein Veröffentlichungstakt, den ich selbst gesetzt habe, verwandelt sich unbemerkt in eine Erwartungsmaschine, die alle zwei Wochen beliefert werden will – ob ich etwas zu sagen habe oder nicht. Dann sucht sich nicht mehr der Gedanke seinen Text, sondern der Termin seinen Gedanken. Und die reinste Ausprägung habe ich hinter mir: Jahrelang haben die Algorithmen der sozialen Medien mir Takt, Format und Tonlage vorgegeben – was der Feed belohnte, wurde produziert, und wer nicht lieferte, verschwand. Ich habe mich davon gelöst, indem ich Instagram, Facebook und Co. seit Jahren schlicht nicht mehr bespiele. Das hat sich nicht wie Verzicht angefühlt, sondern wie das Absitzen von einem Pferd, das mich geritten hat. Auf LinkedIn und hier schreibe ich weiter – aber in einem Takt, den ich gesetzt habe und neu setzen kann, solange ich von Zeit zu Zeit prüfe, ob noch ich ihn setze oder längst er mich. Der Unterschied klingt klein, ist aber aus meiner Sicht das Entscheidende.
Deshalb glaube ich: Der umgekehrte Zentaur ist nicht durch KI entstanden – seine Tendenz lauert überall, wo technisch automatisiert wird. Der Terminkalender, der acht Minuten pro Patient vorsieht, weil die Abrechnungslogik es so ergibt. Die Dokumentation, deren Kategorien die Software vorgibt, nicht die Behandlung. Der Bericht, den das Formular formt, nicht die Beobachtung. Überall dieselbe Satzstellung: Die Maschine – sie hieß nur lange nicht KI, sondern Praxisverwaltung, Abrechnungssystem, Formularwesen, Redaktionskalender, Feed – gibt Takt und Struktur vor. Der Mensch arbeitet zu und unterschreibt. KI hat diese Figur nicht erfunden. Sie macht sie billiger und schneller: Was das Formular in Wochen einschleift, schlägt das Sprachmodell in Sekunden vor.
Für diese Satzstellung hatte ich längst Worte, bevor ich Doctorows Bild kannte. Ich habe an anderer Stelle vorgeschlagen, Werkzeuge wie Sätze zu lesen – wer fragt, wer antwortet, wer deutet: Solange ich deute, was die Maschine liefert, ist sie mein Werkzeug. Sobald sie deutet, was ich liefere, bin ich ihres. Der Zentaur ist ein Mensch im Subjekt des Satzes, der umgekehrte Zentaur ein Mensch im Objekt. Und die ältere Frage, ob ein Werkzeug das Periphere einer Aufgabe abnimmt oder das Zentrale, findet hier ihren Grenzfall: Der umgekehrte Zentaur ist präzise die Aufteilung, in der die Maschine das Zentrale nimmt – das Urteil, die Deutung, den zusammenfügenden Schritt – und dem Menschen das Periphere lässt: das Zuliefern, das Abnicken, das Haften.
Der Schein von Weisheit
Eine Schuld kann ich hier einlösen. Als ich über Platons Schrift-Kritik schrieb, habe ich versprochen, der zweiten Hälfte seiner Warnung ein andermal nachzugehen: Die Schrift verleihe den bloßen Schein von Weisheit statt der Weisheit selbst. Das andermal ist jetzt, denn Doctorows Radiologe ist genau diese Warnung, zweieinhalbtausend Jahre später, in Weiß. Ein Mensch, der unterschreibt, was eine Maschine gelesen hat, trägt alle Insignien des Urteils – Qualifikation, Position, Unterschrift, Haftung. Nur der Akt selbst hat nicht stattgefunden. Die Unterschrift bezeugt ein Urteil, das es nicht gab: Platons Schein von Weisheit, nicht mehr als individuelle Eitelkeit, sondern institutionalisiert – eingebaut in Abläufe, eingepreist in Fallzahlen, justiziabel gemacht. Der Mechanismus dahinter ist derselbe, der sich am Schreibtisch beobachten lässt: Widersprechen kostet Kraft, Nicken kostet keine. Nur dass das Nicken hier eine Unterschrift ist.
Gleiche Technik, andere Verfügungsgewalt
Das Entscheidende an alldem scheint mir: Der Unterschied zwischen Zentaur und umgekehrtem Zentauren liegt fast nie im Werkzeug. Man nehme zwei Dokumentations-Systeme, beide mit demselben Sprachmodell im Kern. Das eine transkribiert mein Gespräch und schlägt einen Entwurf vor, den ich prüfe, kürze, umformuliere – die Formulierung, auf die es ankommt, bleibt meine. Das andere zeigt mir eine fertige Einschätzung in einer Vorlage, die ich nicht ändern kann, in einem Takt, den ich nicht setze, und verlangt am Ende meine Unterschrift. Gleiche Technik, andere Verfügungsgewalt – und kein Datenblatt der Welt weist diesen Unterschied aus. Er steht an unscheinbareren Orten: im Vertrag, in der Konfiguration, in der Frage, wer die Vorlage ändern darf. Ich habe für Produktvorführungen einmal eine Bitte vorgeschlagen: „Zeigen Sie mir, wo ich widersprechen kann.“ Wo das Nicken haftbar macht, ist die Widerspruchsstelle keine Komfortfunktion mehr. Sie ist Arbeitsschutz.
Und warum das kein Organisationsproblem unter vielen ist, zeigt ein Blick auf das untere Ende des umgekehrten Zentauren. Dort sitzt kein Rechenknoten, der beliebig zuarbeiten kann. Dort sitzt ein Leib: mit einer Aufmerksamkeit, die ermüdet, einem Arbeitstag, der endet, einem Leben, das keine Sicherungskopie hat. Eine Maschine, die einen Menschen als Peripherie verwendet, verbraucht etwas, das sich nicht wiederherstellen lässt. Warum ich in dieser Endlichkeit keinen Konstruktionsfehler sehe, sondern den Grund, dass uns überhaupt etwas bedeutet, habe ich an anderer Stelle ausgeführt – hier genügt die kleinere Feststellung: Es ist nicht gleichgültig, ob das, was einer Maschine zuarbeitet, ein Server ist oder ein Mensch.
Der ganze Satz
Jetzt kann der Widerspruch kommen, mit dem dieser Text begonnen hat – und zur Redlichkeit gehört, dass ich Doctorows Satz erst vervollständige, denn ich habe ihn oben so verkürzt zitiert, wie er meist zitiert wird. Vollständig lautet er: KI sei das Asbest in den Wänden unserer technologischen Gesellschaft, „hineingestopft mit wildem Überschwang von einem Finanzsektor und Tech-Monopolisten, die Amok laufen“ – und wir würden es eine Generation oder länger wieder ausgraben. Der Satz zielt also weniger auf die Technologie als auf die Blase, die sie rücksichtslos in alle Systeme stopft. Sein berühmtester Nachbarsatz sagt es zugespitzt: Die KI könne deine Arbeit nicht machen – aber ein KI-Verkäufer könne deinen Chef überzeugen, dich durch eine KI zu ersetzen, die deine Arbeit nicht machen kann. Doctorow zählt im selben Text nützliche Anwendungen auf, von der Transkription bis zur Programmierhilfe, und über eine Radiologie-KI, deren Einsatz die Radiolog:innen selbst kontrollieren, sagt er wörtlich, das würde ihn freuen. Auch die Pointe, die ich eben selbst gesetzt habe – gleiche Technik, andere Verfügungsgewalt –, ist der Sache nach seine.
Mein Widerspruch ist beim Prüfen also kleiner geworden. Verschwunden ist er nicht. Er richtet sich gegen eine Gewissheit, die in Doctorows Erzählung steckt, und gegen eine Leerstelle, die sie lässt.
Die Gewissheit und die Leerstelle
Die Gewissheit zuerst. Doctorow erzählt die Zukunft der KI mit großer Sicherheit: Die Blase platzt, und zurück bleibt Asbest für eine Generation. Vielleicht. Aber wir sind Affen – kommunikationsstarke, werkzeugnutzende, erstaunliche Affen, doch Affen –, und die Zukunft vorherzusagen war noch nie unsere Stärke. Das sollten wir respektieren, gerade bei einer Technologie mit derart extremem Potenzial für Gutes wie für Schlechtes. Warnende Stimmen ernst zu nehmen gehört dazu: das lange Gespräch, das der Historiker Yuval Noah Harari dem Economist gegeben hat – seine Sorge gilt keiner Roboter-Rebellion, sondern der schleichenden, freiwilligen Übergabe unserer Institutionen an Systeme, die niemand mehr überblickt –, oder das Szenario „AI 2027“, in dem ein Team um den früheren OpenAI-Forscher Daniel Kokotajlo monatsweise durchspielt, wie ein Wettrüsten um übermenschliche KI außer Kontrolle geraten könnte. Ich nehme beide ernst. Aber dieselbe Prognose-Demut schneidet in beide Richtungen: Sie gilt für Doctorows Asbest-Gewissheit genauso wie für die Zuversicht, die ich gleich formulieren werde.
Die Leerstelle wiegt für mich schwerer: Doctorows positive Beispiele – die Transkription, die arbeiterkontrollierte Radiologie-KI – bleiben Inseln in der Gegenwart; eine Zukunft, auf die man zugehen wollte, entwirft seine Erzählung nicht. Ausgemalt wird nur, was es zu verhindern gilt. Aber wer die Zukunft nicht vorhersagen kann, kann sie entwerfen – und wer nur Dystopien entwirft, überlässt die Zukunft im besten Fall denen, die etwas anderes vorhaben; im schlechtesten wird die Dystopie zur sich selbst erfüllenden Prophezeiung. Ich träume seit Jahren von Straßen, die weitestgehend frei von parkenden Autos sind und stattdessen öffentliche Räume werden, in denen wir uns in unseren lokalen Communities treffen – zum Essen, zum Sporttreiben, zum Spielen, zum Reden und, wer das will, zum Arbeiten. Eine Gesellschaft, in der menschliche Arbeit eine Option ist und keine Pflicht. Dafür braucht es politische, gesellschaftliche und technologische Entwicklungen, und keine davon kommt von allein – aber diese Gesellschaft ist möglich, und KI kann eine der Entwicklungen sein, die sie erreichbar machen.
Das Merkwürdige ist, wie fest wir an dem hängen, wovon eine solche Zukunft uns entlasten würde. „Ich hab noch nie so treue Sklaven gesehen, die bereit sind für mehr Arbeit auf die Straße zu gehen“, rappt Maxim von KIZ in „Boom Boom Boom“ – eine Zeile, die mich seit Jahren nicht loslässt, weil sie diese Treue beim Namen nennt: Wir gehen für die Pflicht auf die Straße, ehe jemand fragt, wem die freigewordene Zeit gehören könnte. Das Problem ist nicht die Maschine, die Arbeit übernimmt. Das Problem ist unter anderem die extreme Ungleichverteilung von Vermögen, die darüber entscheidet, wem die übernommene Arbeit nützt. In diesem Punkt bin ich näher bei Doctorow, als der Anfang dieses Textes vermuten ließ – nur endet seine Geschichte mit dem Platzen der Blase. Meine würde dort erst anfangen.
Der Zauberstab
Und schließlich das, was meinen Widerspruch überhaupt ausgelöst hat: meine eigenen Hände. Ich stamme aus dem Gesundheitsbereich. Programmieren war für mich ein Buch mit sieben Siegeln – wer bauen wollte, brauchte für die Grammatik und die Vokabeln der Programmiersprachen eine ganze Berufskarriere. Ein Blogbeitrag hat mich früher Wochen gekostet, und daneben ging wenig anderes. Heute baue ich Anwendungen und schreibe parallel Beiträge, die ich orchestriere und in die Richtung lenke, die ich meine – während KI Rechtschreib- und Grammatikfehler korrigiert, Logikfehler benennt und mir hilft, Gedanken fehlerfrei zu Ende zu denken. Ich komme weiter als je zuvor – schneller und zugleich genauer. Das ist eine Demokratisierung von Technologie, von Chancen, von Beteiligung: potenziell ein Zauberstab in den Händen jedes Einzelnen – einer, wie ihn die Fantasy-Literatur seit jeher erträumt, nur dass dieser tatsächlich existiert. Bauen, kreieren – und dabei Zeit gewinnen für das, was nur zwischen Menschen stattfindet.
Ich weiß: Genau diese Konfiguration – das Werkzeug in der Hand dessen, der damit arbeitet – würde Doctorow bejahen. Strittig ist nicht, ob es sie gibt, sondern wie viel von der Technik in ihr ankommt. Denn seine Entgegnung wäre ökonomisch: Die Bewertungen der KI-Konzerne rechtfertigten sich nur über die Erzählung vom Lohnersatz, und diese Erzählung erzwinge systematisch umgekehrte Zentauren. Das ist sein stärkstes Argument, und es lässt sich nicht wegwedeln. Der ehrliche Kern unseres Dissenses ist darum eine Wette: Er wettet, dass die Blasenlogik fast nur Zuarbeiter-Konfigurationen hervorbringt; ich wette, dass genug von diesem Werkzeug in Zentauren-Konfigurationen ankommt – bei Menschen, die wählen, was sie einsetzen und wie, so wie ich es jeden Tag tue. Ich setze diese Wette gern der Widerlegung aus. Wer Asbest diagnostiziert, sagt die Zukunft voraus, wer Zauberstäbe verspricht, auch.
Am Ende weiß niemand, wohin sich diese Technologie entwickelt – und ganz ehrlich: Ist das nicht auch wahnsinnig spannend?
Wer sitzt im Sattel
Damit löst sich die Eröffnung ein, und zwar präziser, als ich sie gestellt habe. Mein Widerspruch gilt nicht Doctorows Bild – das habe ich übernommen und werde es weiterverwenden, weil es meinen Alltag besser beschreibt als die meisten Begriffe, die ich vorher hatte. Er gilt dem Asbest als letztem Wort. Asbest kann man nur noch ausbauen. Einen Zauberstab kann man führen lernen. Was von beidem KI wird, entscheidet sich nicht im Datenblatt, sondern in der Verfügungsgewalt. In der Praxis heißt Verfügungsgewalt: Vertrag, Konfiguration, wer die Vorlage ändern darf, wer widersprechen kann, ohne dass es Kraft kostet, die niemand eingeplant hat. In der Gesellschaft heißt sie: Politik, Eigentum, Verteilung – die Frage, wem die freigewordene Zeit gehört. Wenn es uns gelingt, KI als Werkzeug zu behalten, das besser wird, ohne uns die Kontrolle zu nehmen, dann kann sie zu einer besseren, freieren Gesellschaft beitragen und uns alle zu Zentauren machen.
Unsicher bin ich an einer benennbaren Stelle: ob diese Wahl auf Dauer beim Einzelnen liegt. Eine Praxisinhaberin wählt ihre Werkzeuge noch selbst, der angestellte Radiologe in Doctorows Szenario wählt nichts mehr. Wo die Verfügungsgewalt über die Werkzeuge und die Verantwortung für ihre Fehler dauerhaft auseinanderfallen, reicht die Sorgfalt des Einzelnen womöglich nicht mehr aus – und was dann an ihre Stelle treten müsste, weiß ich nicht.
Was ich weiß: Noch wird gewählt. Jede Anschaffung, jeder Vertrag, jede Konfiguration ist eine kleine Verhandlung darüber, wer im Sattel sitzt – und jede Entscheidung, ob und wenn ja, welches KI-Modell man für seine Arbeit nutzt, ein Netzwerk nicht mehr zu bespielen, einen Takt neu zu setzen, eine Vorlage ändern zu dürfen, ist dieselbe Verhandlung im Kleinen. Man kann sie führen, bevor sie ein anderer führt.
Wenn Sie für Ihre eigene Praxis durchgehen möchten, wo Ihre Werkzeuge Sie in den Sattel setzen und wo auf den Boden – vom Doku-System bis zum Formularwesen –, ist das ein Gespräch, das ich gern führe. Woran ich mit PraxisPro Digital arbeite – und mit welcher Verfügungsgewalt auf Ihrer Seite –, sehen Sie hier; und wenn Sie lieber direkt sprechen möchten, schreiben Sie mir.
Julian Jaschinger ist Ernährungstherapeut, Ernährungspsychologe und Gründer von VerumVita® sowie PraxisPro Digital. Er baut Websites und digitale Werkzeuge für Ärzt*innen, Therapeut*innen und Gesundheitsdienstleister — mit der Frage im Hinterkopf, welche Arbeit eine Maschine abnehmen darf und welche dem Menschen gehört.