Mitte August lagen neun fertige Blogbeiträge in meinem Ordner. Der ganze Rest des Jahres, bis kurz vor Weihnachten war abgedeckt. Alles im Zwei-Wochen-Takt geplant - neun Titel, neun Eröffnungsszenen aus "meinem" Beratungsalltag, Zwischenüberschriften, Rückverweise auf ältere Beiträge, unter jedem die Autorenzeile mit meinem Namen. Erzeugt an einem einzigen Nachmittag von der KI, mit der ich seit gut einem Jahr arbeite – aus allem, was ich hier bisher geschrieben habe, und aus einem Themenplan, den ich vorher abgenickt hatte. Dass ich mit KI schreibe, habe ich auf diesem Blog nie verschwiegen. Neun auf einmal waren ein neues Experiment.
Den ersten der neun habe ich noch im August umgebaut und veröffentlicht – davon später. In ihm steht ein Satz, den ich für wichtig halte: Wenn man nicht aufpasst, sucht sich nicht mehr der Gedanke seinen Text, sondern der Termin seinen Gedanken. Es ging um den Takt dieses Blogs und darum, dass ein selbst gesetzter Takt sich unbemerkt in eine Erwartungsmaschine verwandelt, die beliefert werden will – ob man etwas zu sagen hat oder nicht. Während ich diesen Satz schrieb, lagen die anderen acht Beiträge fertig daneben. Acht Termine, für die ich die Gedanken hatte suchen lassen.
Die Klientin, die es nicht gibt
Als der erste der acht fällig wurde, habe ich sie gelesen, alle an einem Abend. Es war nichts falsch. Die Rechtschreibung stimmte, die Gliederung trug, die Zwischenüberschriften klangen wie meine, die Beiträge verwiesen aufeinander, wie ich es tue. Die Szenen spielten dort, wo meine Szenen spielen: im Behandlungszimmer, am Empfang, abends am Schreibtisch. Das ist der Befund, und er ist unangenehmer als jeder Fehler: Den Texten fehlte nichts, was sich hätte anstreichen lassen.
Was mich innerlich zusammenzucken ließ, waren die angeblichen Beispiele aus meinem Beratungsalltag. Eine Klientin, so stand da, habe mir beiläufig erzählt, sie bespreche ihr Essprotokoll nachts mit einer KI; die sei verständnisvoller als ihr Mann. Der Beitrag baute darauf einen klugen Gedanken über Trost und Beistand. Nur: Diese Klientin gibt es nicht. Niemand hat mir das erzählt. So war es in allen weiteren Texten: die Klientin mit dem fertigen Ernährungsplan aus dem Chatfenster, die letzte E-Mail um neun Uhr abends, der Absatz, den ich angeblich eines Abends nicht in ein Eingabefeld eingefügt habe. Lauter Momente, die mir hätten passieren können. Keiner war passiert.
Dabei sind auch meine Szenen hier nicht wörtlich. Was ich aus dem Behandlungszimmer erzähle, ist verändert und aus mehreren Begegnungen verflochten, bis niemand mehr darin zu erkennen ist – das verlangt die Schweigepflicht, und ich habe es nie anders gehalten. Der Unterschied liegt also nicht zwischen wahr und erfunden. Er liegt zwischen einer Szene, hinter der etwas steht, das mir in abgewandelter Form passiert ist, und einer, hinter der nur steht, dass mir so etwas passieren könnte. Die Maschine hatte nicht meine Erlebnisse verdichtet. Sie hatte meine Texte verdichtet. Blutleer – das war das Wort, das mir an diesem Abend kam, und der Rest dieses Beitrags ist der Versuch, es zu verstehen und dadurch einen Weg aufzuzeigen, wie wir KI nutzen können, ohne uns genau dem zu berauben, was eigentlich wichtig ist.
Der Durchschnitt meiner selbst
Man könnte das für ein Versagen der Maschine halten. Genau besehen ist es ihre Leistung. Ein Sprachmodell errechnet, wie ein Text am wahrscheinlichsten weitergeht – das ist alles, was es tut, und es tut es auf Grundlage einer Menge gelesenen Textes, die kein Mensch bewältigen könnte. Gibt man ihm alles, was ich hier geschrieben habe, und einen Themenplan dazu, dann errechnet es nicht, was Menschen im Durchschnitt schreiben würden. Es errechnet, wie mein nächster Beitrag am wahrscheinlichsten aussähe: dieselben Orte, dieselben Denkbewegungen, dieselbe Vorsicht – acht Mal die plausibelste Fortsetzung meiner selbst. Deshalb klangen die Texte nicht nach niemandem. Sie klangen nach mir. Sie waren der Durchschnitt meiner eigenen, in Blogbeiträge gefassten Gedanken.
Aber 'meiner selbst' ist nicht dasselbe wie 'meine schriftlich festgehaltenen Gedanken'.
Nur ist ein Gedanke, den ich noch nicht hatte, gerade nicht die wahrscheinlichste Fortsetzung dessen, was ich schon gesagt habe. Er ist die Abweichung davon – etwas, das ich seit dem letzten Beitrag gelesen, erlebt, gefühlt oder für falsch befunden habe. Die Maschine kennt meine Vergangenheit inzwischen besser als ich. Meine nächste Abweichung kennt sie nicht, denn ich kenne sie selbst erst, wenn ich sie gedacht habe.
Aus meiner Perspektive sind diese Abweichungen genau das, worauf es ankommt - sie sind der Grund dafür, warum menschliche Texte nicht einfach nur die nächste wahrscheinliche Tokenfolge sind. Abweichungen entstehen aus menschlichem Erleben, aus Gefühlen und Emotionen, aus Erfahrungen und inneren Bildern, die nicht in den Trainingsdaten der Maschine enthalten sind - nicht enthalten sein können. Sie sind das, was in der Forschung zu Bewusstsein als 'Qualia' bezeichnet wird. Sie sind das, was einen Text lebendig und einzigartig macht. Von all dem hat die Maschine lediglich Berichte gelesen – milliardenfach. Deshalb kann KI Szenen schreiben, in denen jemand etwas fühlt, und zwar sprachlich überzeugend.
Das ist der Mechanismus. Dazu kommt eine Färbung, die man die Post-Training nennt. Nach dem Lesen wird ein Modell darauf trainiert, Antworten zu geben, die Menschen im Vergleich bevorzugen – eines der Verfahren heißt Reinforcement Learning from Human Feedback. Es hat aber eine Nebenwirkung, die ich an den acht Texten zu erkennen glaube: Bevorzugt wird, über viele Bewerter gemittelt, das Ausgewogene, das Abgesicherte, das, wogegen niemand etwas haben kann. Die acht Beiträge waren vorsichtiger als ich. Der Beitrag, den ich zuletzt selbst zu Ende geschrieben hatte, endete mit einer Wette auf diese Technik und einem Satz, der mir beim Schreiben fast zu begeistert vorkam. Die acht danach kehrten alle in den Verteidigungsmodus zurück: was die Maschine nicht kann, worauf man beim Kauf achten muss, wo der Berufsstand gekränkt ist. Kluge Texte, in der Tonlage, die am wenigsten aneckt und dadurch blutleer wirkt. Sie waren der Durchschnitt meiner bisherigen in Worte gefassten Erfahrungen – und sie waren eben nicht das, was ich selbst bin und ausdrücken will.
Derselbe Nachmittag, ein anderer Text
Man könnte daraus schließen, die Maschine tauge nicht zum Schreiben. Das wäre die bequeme Lehre, und sie ist meiner Meinung nach falsch. Die Gegenprobe liegt im selben Ordner.
Der erste der neun Texte war der Beitrag über den umgekehrten Zentauren. Auch ihn hat die Maschine an jenem Nachmittag geschrieben, aus demselben Plan, mit derselben Sorgfalt, und auch er war – durchschnittlich gut. Aber er hatte eine andere Vorgeschichte als die acht anderen. Ich hatte Cory Doctorows Rede selbst gelesen, nicht eine Zusammenfassung davon, und ich wollte ihm widersprechen, seit ich den Asbest-Satz zum ersten Mal gelesen hatte. Diesen Widerspruch hatte ich mit der Maschine durchgestritten, bevor sie ein Wort schrieb: Ich hielt sein Bild für zu düster, ich wollte etwas über Zauberstäbe sagen und über Straßen ohne parkende Autos, und ich wollte am Ende eine Wette anbieten statt einer Warnung. Der Entwurf, der daraus wurde, war trotzdem nicht der Text, den ich meinte: Er hatte meinen Einwand zu einem Absatz gemacht, in dem ich einsehe, dass er nicht trägt. Sachlich vertretbar, und genau nicht das, was ich sagen wollte.
Jetzt folgte der weitere Teil der Arbeit, die KI zu einem nützlichen Schreibhelfer machte: Ich habe den Text umgeschrieben, und die Maschine hat mir dabei geholfen. Sie hat mir Vorschläge gemacht, die ich angenommen habe, und sie hat mir Vorschläge gemacht, die ich abgelehnt habe. Sie hat mir Sätze angeboten, die ich umgestellt habe, und sie hat mir Sätze angeboten, die ich gestrichen habe. Am Ende war der Text nicht mehr derselbe wie der Entwurf, den sie geschrieben hatte und es war nicht wie der Gedanke, den ich eingangs hatte.
Es war zu einer augmentierten Version von meinen Gedanken unter der Kritik von KI geworden. Ich habe die Maschine nicht als Autor:in behandelt, sondern als Werkzeug, das mir hilft, meine Gedanken zu ordnen und zu formulieren. Ich habe die Verantwortung für den Inhalt übernommen und die Maschine als Unterstützung genutzt, um meine Gedanken kritisch zu hinterfragen und meine Ideen klarer und präziser auszudrücken.
Gleiche Maschine, gleicher Nachmittag, gleicher Plan. Der Unterschied lag nicht im Werkzeug. Er lag davor – in einer Rede, die ich selbst gelesen hatte, in einem Streit darüber, den ich geführt hatte, ehe die Maschine schrieb und einer Diskussion nach gezielten Anpassungen nach der ersten Fassung. Ich habe an anderer Stelle vorgeschlagen, Werkzeuge wie Sätze zu lesen: wer fragt, wer antwortet, wer deutet. Beim Schreiben lautet die Satzstellung so: Solange die Maschine ausformuliert, was ich gedacht habe, arbeitet sie mir zu. Sobald ich unterschreibe, was sie gedacht hat, arbeite ich ihr zu. Die acht Texte hatten die zweite Grammatik. Der Zentaur hatte die erste – und deshalb ist er meiner, obwohl die Maschine an jedem Absatz beteiligt war.
„Schreib mal“
Was die Maschine nicht kann und hoffentlich nie können wird, ist, auf "Schreib mal einen Beitrag“ besser zu antworten, als ein Mensch es könnte. Wohin sich das entwickelt, weiß ich ehrlich gesagt nicht. Denn ich habe im ersten Beitrag dieses Blogs beschrieben, wie schnell solche Grenzen wandern. Was derzeit herauskommt, ist etwas Plausibles: die wahrscheinlichste Fortsetzung dessen, was schon da ist, in tadelloser Form, mit Szenen, die sich anfühlen sollen wie erlebte, aber in Wahrheit blutlos bleiben.
Cory Doctorow, dem ich im Zentauren-Beitrag widersprochen habe, sagt in derselben Rede etwas, dem ich nach längerem Nachdenken zustimme. Kunst, so Doctorow, beginnt mit einem Menschen, der ein großes, unauflösbares Gefühl in sich trägt und es in ein Werk hineinlegt, damit es sich beim Betrachter wieder einstellt. Ein Bild aus der Maschine sei deshalb gespenstisch: Es sieht aus, als stünde hinter jedem Pixel eine Absicht. Aber die wenigen Sätze eines Prompts verteilen sich auf eine Million Pixel oder hunderttausend Wörter, bis von der Absicht nichts mehr zu spüren ist. Und wo Mensch und Maschine gemeinsam etwas machen, stammt das, was daran Kunst ist, aus dem, was der Mensch hineingelegt hat. Ob ein Blogbeitrag als Kunst zu werten ist, würde ich tendenziell bezweifeln. Aber er ist derselbe Vorgang: Etwas, das mich beschäftigt hat, wird in Sätze übersetzt, in der Hoffnung, dass es beim Lesen wieder jemanden beschäftigt. Mein Themenplan hatte für jeden der acht Texte einen Absatz. Die Maschine hat ihn auf zweitausend Wörter verteilt. Blutleer ist das Wort für das Ergebnis: die Form eines Erlebens, ohne dass ein Jemand etwas erlebt hat.
Was eine Unterschrift bezeugt
Deshalb war an den acht Texten die Autorenzeile das Einzige, was tatsächlich falsch war. Alles andere ließe sich sachlich verteidigen. Nur der Satz darunter – „Julian Jaschinger ist Ernährungstherapeut …“ – behauptete, es habe jemand gedacht, was dort stand. Es hatte niemand gedacht. Es war errechnet worden, wie ich es vermutlich gedacht hätte. Aber es war falsch – so denke ich heute nicht mehr. Ich habe es nicht gesagt, ich habe es nicht gemeint, und deswegen habe ich es nicht unterschrieben.
Eine Unterschrift bezeugt nicht, dass jemand jeden Buchstaben selbst getippt hat - das hat sie nie bezeugt. Ärzt:innen diktieren seit hundert Jahren Briefe, die andere tippen. Bücher gehen durchs Lektorat. Jeder Bericht, den ich an einen Kostenträger schreibe, entsteht in einem Formular, das vor mir entschieden hat, welche Felder es gibt. Unter allem steht eine Unterschrift, und niemand hält sie für eine Lüge. Sie bezeugt etwas anderes: dass das Urteil stattgefunden hat. Dass jemand gelesen, geprüft, entschieden hat und dafür geradesteht. Die Unterschrift ist nicht das Siegel auf der Handarbeit. Sie ist das Siegel auf dem Akt.
Die Frage, an der die acht Beiträge gescheitert sind, lautet: Hätte ich das ehrlich so gesagt? Nicht: Ist es vertretbar, dass es im Internet steht? Sondern: Ist es das, was ich fühle und meine? Für die letzte Frage braucht man eine andere Art zu lesen und zu denken als für die erste. Und, was das Wichtigste ist: Es muss vorher ein Mensch etwas gefühlt haben, das er sprachlich weitergeben will. In diesem Fall ich.
Unter drei Bedingungen
Aus dem Stapel ist für mich keine Regel geworden, sondern eine Beschreibung: drei Bedingungen, unter denen sich das Schreiben auf diesem Blog mit einer Maschine für mich sinnvoll anfühlt – und unter denen ich es Ihnen zumuten kann.
Erstens sage ich, dass ich mit einer Maschine arbeite. Nicht als Beichte und nicht als Kleingedrucktes, sondern weil die Autorenzeile sonst etwas behauptet, was nicht stimmt. Und, weil es einen Unterschied gibt zwischen einem Text, der völlig aus meiner Feder fließt und einem, der augmentiert mit einer Maschine geschrieben wird. Ob dieser Unterschied sich letztlich in der sprachlichen, logischen und stilistischen Qualität niederschlägt, ist eine offene Frage, deren Grenzen sich aktuell in in ungeheurem Tempo verschieben - aber das ist ein Gedanke für einen anderen Tag - vielleicht auch in diesem Blog.
Zweitens bringe ich die Grundüberlegung selbst mit, bevor die Maschine ein Wort schreibt: das, was ich seit dem letzten Beitrag gelesen, erlebt oder für falsch befunden habe. Nicht, weil die Maschine keine Überlegungen hätte, sondern weil menschliche Gefühle und Erfahrungen sich nicht anhand mathematischer Wahrscheinlichkeiten in Texte prägen lassen. Weil alles, was die Maschine beisteuern kann, aus meiner in geschriebene Worte gefassten Vergangenheit stammt – und die Abweichung davon, um die es allein geht, nur ich als menschlicher Autor beisteuern kann.
Drittens korrigiere ich am Ende und habe das letzte Wort. Ich korrigiere nicht die Kommata, das kann die Maschine besser als ich. Ich prüfe, ob das, was sie geschrieben hat, das ist, was ich meine – und ob das Gefühl, mit dem ich angefangen habe, noch darin steckt. Ich korrigiere nicht die Sprache, sondern meine Gedanken. Ich korrigiere nicht die Sätze, sondern meine Gefühle. Ich korrigiere nicht die Worte, sondern meine Erfahrungen.
Auch dieser Beitrag ist so entstanden. Ich habe meine Gefühle, die diesen Beitrag ausmachen, gefühlt und in Worte gefasst, mir ein Urteil über das Ausformulierte gebildet und es mit derselben Maschine durchgestritten, die es geschrieben hatte. Und dann habe ich umformuliert, umgeschrieben – mehr als einmal. Was ich nicht mehr tue, ist, die Reihenfolge umzudrehen: die Maschine zuerst denken zu lassen und mich danach zu fragen, ob ich einverstanden bin. Nicht, weil dabei etwas sprachlich Schlechtes herauskäme. Sondern weil dabei etwas Plausibles herauskommt. Es ist jetzt schon schwer dem zu widersprechen und in der Zukunft wird es aller Wahrscheinlichkeit nach immer schwerer, je besser die KI-Modelle werden.
Am Schreibtisch nebenan
Warum schreibe ich überhaupt darüber? Nicht, weil ein Blogbeitrag wichtig wäre. Sondern weil die Frage, in welcher Reihenfolge Mensch und Maschine denken, längst nicht mehr nur Leute betrifft, die schreiben. Es geht dabei aus meiner Perspektive nicht um die Wahl zwischen ganz ohne Maschine und ganz ohne Mensch; dieses Entweder-oder halte ich für falsch gestellt. Es geht darum, wer zuerst denkt und wer zuletzt – und wer am Ende dafür geradesteht.
In immer mehr Praxen schreibt inzwischen eine Maschine mit. Sie hört das Gespräch, sie liest die Akte, sie erzeugt den Arztbrief, den Befundbericht, den Antrag an den Kostenträger – vollständig, in der richtigen Gliederung, in der Sprache des Fachs. Dann liegt der Text da, unterschriftsreif, und im Wartezimmer sitzt schon der Nächste. Der schlechte Bericht ist dabei nicht das Problem; den erkennt die Behandlerin, und sie schreibt ihn um. Das Problem ist der gute Bericht: der, in dem alles stimmt, was sie gesagt hat, und der dazwischen eine Beobachtung enthält, die sie nicht gemacht hat, weil sie nach Aktenlage wahrscheinlich war – der Durchschnitt ihrer bisherigen Berichte, in einen neuen Fall verteilt. Eine Klientin, die es nicht gibt, ist in einem Blogbeitrag ein Stilproblem. In einem Befund ist sie ein Befund.
Ich weiß, dass das wie Technikkritik klingt, und es ist keine. Dieselbe Maschine kann in derselben Praxis das Beste sein, was der Dokumentation seit dem Diktiergerät passiert ist – unter denselben drei Bedingungen, nur in der Reihenfolge eines Praxistages: Die Behandlerin sagt zuerst, was sie beobachtet hat, in ihren Worten, unsortiert, nach einem langen Tag. Die Maschine ordnet es in die Gliederung, die der Empfänger verlangt, und merkt an, dass die Angabe im dritten Absatz nicht zu der im ersten passt. Und vor der Unterschrift steht eine Frage, die wenige Sekunden dauert und nicht „Stimmt das?“ lautet, sondern: „Habe ich das beobachtet?“ Der Unterschied zur anderen Fassung steht auf keinem Datenblatt. Er liegt daran – wer zuerst und zuletzt gedacht hat.
Der Termin und sein Gedanke
Bleibt der Satz, mit dem alles anfing: Der Termin sucht sich seinen Gedanken. Ich habe ihn im August geschrieben, um mich vor genau dem zu warnen, und während ich ihn schrieb, lagen acht bestellte Gedanken daneben. Das, was ich damit erreichen wollte, war mich von dem Termindruck zu befreien - wenn schon acht Beiträge bereitliegen, dann habe ich Vorsprung, oder? So dachte ich und heute denke ich etwas anders - Vorsprung ist schön, aber nur wenn dieser auf meinen eigenen Gedanken und - noch viel wichtiger - meinen Gefühlen beruht.
Deshalb habe ich zwei Dinge getan. Der Stapel ist gelöscht – nicht archiviert, nicht für schlechte Wochen aufgehoben, gelöscht. Nicht, weil die Texte schlecht waren, sondern weil sie gut genug waren, um bei jedem nächsten Termin wieder plausibel auszusehen: Acht fertige Fassungen dessen, was ich vermutlich gesagt hätte, sind acht Versuchungen, es einfach zu sagen. Aber mit jedem abgenickten Beitrag, der nicht auf meinen Gedanken und Gefühlen beruht, hätte ich mich weiter von mir selbst entfernt. Ich habe die Texte gelöscht, um mich daran zu erinnern, dass ich nicht aufhören darf, meine eigenen Gedanken zu denken und meine eigenen Gefühle zu fühlen.
Das Verrückte: Der letzte Satz kam mit Autosuggest. Ich habe ihn nicht selbst geschrieben, sondern die Maschine hat ihn vorgeschlagen. Ich habe ihn gelesen, und ich habe ihn für richtig befunden. Künstliche Intelligenz kann zunehmend besser vorhersagen, was ich denken und sagen möchte. Aber sie kann nicht fühlen; sie hat keinen Leib, keine Erfahrungen, keine Qualia. Sie kann mir helfen, meine Gedanken zu ordnen und zu formulieren, aber sie kann nicht fühlen, was ich fühle. Deshalb ist es so wichtig, dass ich meine eigenen Gedanken und Gefühle in den Text einbringe und die Maschine nur als Werkzeug nutze.
Der gebrochene Takt
Dieser Beitrag kommt eine Woche später als geplant - mal schauen, wann der nächste folgt. Ich habe ihn noch nicht geschrieben und ich weiß noch nicht, wann der nächste Gedanke kommt, der für diesen Blog relevant ist. Aber ich weiß, dass ich ihn selbst denken und fühlen werde, bevor ich ihn in Worte fasse. Der Soziologe Hartmut Rosa hat ein Wort für das, was ich an dem Stapel gelernt habe: Unverfügbarkeit. Das, worauf es ankommt, lässt sich nicht auf Vorrat herstellen – nicht einmal von mir selbst. Vielleicht ist das der nächste Gedanke.
Wenn in Ihrer Praxis inzwischen eine Maschine mitschreibt und Sie einmal durchgehen möchten, in welcher Reihenfolge das geschieht – wer zuerst denkt, wer ausformuliert, was vor der Unterschrift geprüft wird –, ist das ein Gespräch, das ich gern führe. Woran ich mit PraxisPro Digital arbeite, sehen Sie hier; und wenn Sie lieber direkt sprechen möchten, schreiben Sie mir.
Julian Jaschinger ist Ernährungstherapeut, Ernährungspsychologe und Gründer von VerumVita® sowie PraxisPro Digital. Er baut Websites und digitale Werkzeuge für Ärzt*innen, Therapeut*innen und Gesundheitsdienstleister — mit der Frage im Hinterkopf, welche Arbeit eine Maschine abnehmen darf und welche dem Menschen gehört.