KI-Glossar.

„Der Algorithmus“ bekommt gern die Schuld, wenn uns im Internet etwas nervt. Dabei sagt das Wort erst einmal nur: Hier wird nach bestimmten Regeln gerechnet. Welche Regeln das sind und welchem Ziel sie dienen, macht den Unterschied.

Ein bekanntes Beispiel ist PageRank, das Verfahren, das die Google-Gründer 1998 vorstellten. Die Idee: Wenn viele Webseiten auf eine Seite verweisen, könnte sie wichtig sein. Dabei zählt auch, wer da verlinkt. Ein Link von einer selbst stark verlinkten Seite bekommt mehr Gewicht. Aus diesen Verbindungen berechnet das Verfahren eine Bewertung, die beim Sortieren der Suchergebnisse hilft. Viele Links sind freilich kein Beleg.

Dafür braucht es kein Sprachmodell. Algorithmen gibt es auch ganz ohne KI. Bei einer Automation werden festgelegte Schritte automatisch ausgeführt. Beim Training einer KI berechnen Algorithmen dagegen anhand von Beispielen, wie das Modell angepasst wird. Menschen legen das Lernverfahren fest, müssen aber nicht jede einzelne Regel vorgeben, nach der das fertige Modell später arbeitet.

Du fotografierst dein Mittagessen und lässt die KI die Kalorien schätzen. Dafür muss sie erst einmal erkennen, was auf deinem Teller liegt, und abschätzen, wie viel es ist. Wobei die Betonung auf „schätzen“ liegt: Ob unter dem Salat noch drei Zentimeter Mayo lauern, sieht die KI genauso wenig wie wir. Der schönste Blick auf den Teller verrät eben nicht alles über seinen Inhalt.

Solche Assistenten können ein Foto auswerten und Fragen dazu beantworten. Dabei verbinden sie Bilderkennung mit den sprachlichen Fähigkeiten eines LLM. Diese Verbindung von Bild und Text ist ein Beispiel für Multimodalität.

Für blinde und sehbehinderte Menschen kann diese Technik im Alltag viel verändern. Mit Be My AI in der App Be My Eyes können sie ein Foto aufnehmen und sich beschreiben lassen, was darauf zu sehen ist. Welche Beschriftung steht an der Waschmaschine? Welche Farbe hat das Hemd? Und was hat die Familie da schon wieder ohne Erklärung in den Gruppenchat geschickt? Wer mehr wissen möchte, kann nachfragen. Bei Bedarf lässt sich auch ein sehender Mensch dazuholen.

Die KI erkennt dabei Muster, die sie an vielen Bildern gelernt hat. Trotzdem kann sie etwas übersehen, verwechseln oder dazuerfinden. Manchmal hat sie sich beim Lernen auch an den falschen Merkmalen orientiert, wie beim Kluger-Hans-Effekt. Für Medikamentendosierungen oder andere Sicherheitsfragen ist Be My AI deshalb ausdrücklich nicht gedacht.

Früher habe ich Dateien vorsichtshalber mehrfach abgelegt. Suche ich den Text später unter diesem Thema? Oder doch eher beim anderen Projekt? Sicherheitshalber kam dieselbe Datei in beide Ordner. Auf mehreren Festplatten lag ebenfalls vieles doppelt und dreifach. Löschen wollte ich lieber nichts. Vielleicht war das ja doch die einzige Kopie.

Die Dateien hatte ich also. Den Überblick eher nicht.

In Unternehmen sieht es oft ähnlich aus. Eine Abteilung hat Excel-Tabellen, eine andere PDFs. Dazu kommen Word-Dateien, Fotos, eingescannte Notizen und alte Sicherungen. Wer wissen will, was davon noch aktuell ist und was zusammengehört, muss erst einmal jemanden finden, der sich erinnert.

Soll eine KI damit arbeiten, braucht sie eine passende Auswahl und die nötigen Informationen dazu. Welche Datei enthält den freigegebenen Text? Von wann sind die Zahlen? Beziehen sich zwei unterschiedlich geschriebene Namen auf dieselbe Person? Für einen brauchbaren Datensatz müssen solche Fragen geklärt werden.

Das heißt nicht, dass alles in eine einzige Tabelle gepresst werden muss. Fotos dürfen Fotos bleiben und Texte Texte. Aber es muss nachvollziehbar sein, was sie zeigen, woher sie stammen und wie sie zusammenhängen.

Dabei geht es nicht nur ums Aufräumen. Zwischen alten Dateien kann Wissen liegen, das längst niemand mehr auf dem Schirm hat. Ein Artikelarchiv enthält frühere Recherchen, Interviews und Hintergründe. Werden diese Bestände erschlossen, lassen sie sich wieder nutzen, etwa für eine neue Recherche oder einen Assistenten, der mithilfe von RAG darin nachschlägt.

Datenqualität bedeutet deshalb mehr als ordentlich benannte Dateien. Die Inhalte müssen stimmen, wichtige Angaben dürfen nicht fehlen und die Auswahl muss zur Aufgabe passen. Auch eine sauber sortierte Sammlung veralteter Preislisten bleibt eine Sammlung veralteter Preislisten.

Ich stehe in Italien an einer Tankstelle und die Zapfsäule redet auf mich ein. Auf Italienisch. Ich verstehe kein Wort, ziehe mein Handy heraus und lasse mir das von ChatGPT übersetzen. Hinterher habe ich genug Benzin im Tank.

Früher war so etwas Science-Fiction. Bei „Star Trek“ konnten sich Menschen mit Außerirdischen unterhalten, und Douglas Adams erfand den Babelfisch, den man sich zum Übersetzen ins Ohr steckt. Mir reicht inzwischen das Handy. Zumindest an einer italienischen Tankstelle.

Dass Maschinen übersetzen, ist allerdings nichts Neues. Google Translate gab es schon lange vor ChatGPT. Nur klangen die Ergebnisse früher oft so, dass man den Originaltext brauchte, um die Übersetzung zu verstehen. Was hat sich verändert?

Ein wichtiger Schritt war der Wechsel zu tiefen neuronalen Netzen. Google begann 2016, seinen Übersetzungsdienst darauf umzustellen. Das vorherige Verfahren übersetzte vor allem einzelne Wörter und Wortgruppen und setzte daraus einen Satz zusammen. Das neue Modell bezog den ganzen Eingabesatz ein. Es lernte an vielen Übersetzungsbeispielen, wie sich Formulierungen und Zusammenhänge von einer Sprache in eine andere übertragen lassen.

Das „Deep“ steckt in den vielen Schichten eines neuronalen Netzes. Jede verarbeitet die Ergebnisse der vorherigen weiter. Gemeinsam lernen sie, welche Muster für die Übersetzung hilfreich sind. Menschen müssen dem System dadurch weniger von Hand vorgeben, worauf es achten soll. Sie legen also nicht für jede sprachliche Schwierigkeit eine eigene Regel an.

Der Durchbruch kam aber nicht dadurch, dass jemand einfach noch drei Schichten eingebaut hat. Die Grundideen waren längst da. Große Datenbestände, leistungsfähige Chips und bessere Trainingsverfahren machten es möglich, solche Netze immer erfolgreicher zu trainieren. Aus Forschung wurden Werkzeuge, die im Alltag tatsächlich etwas taugen. Später kamen weitere Entwicklungen hinzu, darunter die Technik hinter den heutigen Sprachmodellen.

Inzwischen lassen sich auch gesprochene Gespräche nahezu in Echtzeit übersetzen. In Zoom-Meetings kannst du beispielsweise automatisch übersetzte Untertitel mitlesen oder dir mit einer entsprechenden Zusatzfunktion eine gesprochene Übersetzung anhören. Dahinter arbeiten Spracherkennung, Übersetzung und gegebenenfalls eine künstlich erzeugte Stimme zusammen.

Für mich ist das eine enorme Erleichterung. Für Menschen, die mit Übersetzen ihr Geld verdienen, hat dieselbe Entwicklung eine andere Seite. In einer Befragung des Berufsverbands BDÜ nennen Selbstständige KI und maschinelle Übersetzung als häufigsten Grund dafür, dass sich ihre wirtschaftliche Lage verschlechtert hat: Aufträge fallen weg, Preise geraten unter Druck.

Die Technik ist also längst im Alltag angekommen. Dass eine Übersetzung flüssig klingt, heißt allerdings noch nicht, dass sie stimmt. Für die Ansage an der Zapfsäule reicht mir meine Lösung. Bei einem Interviewzitat, das ich veröffentlichen will, brauche ich mehr Gewissheit.

Eine KI als Biersommelier. Ausgerechnet bei etwas, über das Menschen schon nach dem ersten Schluck streiten.

Richtig schwierig wird es für Brauereien beim alkoholfreien Bier: Ohne Alkohol fehlen oft auch Aromen, die daran hängen. Und guter Geschmack entsteht nie aus einer einzigen Zutat, sondern aus dem Zusammenspiel von Hunderten Stoffen. Mehr von allem hineinzuschütten, macht noch kein besseres Bier.

Ein Forschungsteam der KU Leuven und des Instituts VIB fütterte deshalb ein Modell mit der chemischen Zusammensetzung von 250 Bieren und menschlichen Urteilen dazu – von einem geschulten Verkostungsteam und aus über 180.000 Online-Bewertungen. Das Modell lernte, welche Zusammensetzung mit welchen Geschmackseindrücken zusammenhing.

Entscheidend war die Blindverkostung: Das Team ergänzte ein belgisches Blondbier und ein alkoholfreies Bier um ausgewählte Stoffgemische, darunter Milchsäure und Glycerin. Beide Varianten schnitten besser ab als die Originale.

Bevor jetzt jemand empört mit dem Maßkrug wirft: Der Versuch lief in Belgien. In ein Bier nach dem Reinheitsgebot dürfte man solche Stoffe natürlich nicht einfach reinschütten.

Und die KI hatte wirklich keinen einzigen Schluck getrunken.

Eine ganz andere Herausforderung liegt in den verkohlten Schriftrollen aus Herculaneum. Beim Vesuvausbruch im Jahr 79 verkohlen in einer Villa Hunderte Papyrusrollen. Wer sie später aufrollen will, riskiert, sie dabei zu zerstören.

Röntgenscans brachten Bewegung in die Sache. Am Computer ließen sich die Schichten virtuell entrollen, ohne eine Rolle zu berühren. Lesen konnte das trotzdem niemand: Die Tinte war aus Kohlenstoff, der Papyrus selbst verkohlt – im Scan sah beides fast gleich aus.

2023 öffnete ein Team um den Informatiker Brent Seales das Problem für die ganze Welt: die Vesuvius Challenge, Preisgelder von insgesamt mehr als einer Million Dollar für alle, die die Rollen lesbar machen. Gewonnen haben keine Archäologen mit Spaten, sondern Leute, die neuronale Netze an Beispielen trainierten, bis sie winzige Unterschiede zwischen Tinte und Papyrus erkannten. Das erste Wort – griechisch für Purpur – fand ein SpaceX-Praktikant aus Nebraska. Ganze Textspalten entzifferte wenige Wochen später ein Doktorand aus Berlin. Am Ende teilten sich beide und ein Schweizer Robotik-Student 700.000 Dollar Hauptpreis.

Was sie lesbar machten, ist wahrscheinlich ein Text des Philosophen Philodemos: darüber, ob seltene Dinge mehr Freude bereiten als das, was reichlich vorhanden ist. Fast zweitausend Jahre später meldet sich die Antike mit einer Frage zurück, über die bis heute diskutiert wird.

Hier verbessert eine KI den Geschmack von Bier, dort macht sie eine zweitausend Jahre alte Debatte über Genuss wieder lesbar. Die Daten und die trainierten Modelle sind jeweils andere. Das Prinzip ist dasselbe: aus Beispielen lernen, statt starren Regeln zu folgen.

Auch in Medizin, Chemie und Biologie spürt maschinelles Lernen Zusammenhänge auf. AlphaFold etwa sagt die räumliche Form von Eiweißmolekülen vorher. Für ihre Arbeit daran erhielten Demis Hassabis und John Jumper 2024 den Chemie-Nobelpreis.

Deep Learning ist eine Form des maschinellen Lernens.

Eine Gurke ist nicht einfach eine Gurke. Auf dem Hof von Makoto Koikes Eltern in Japan entscheidet ihr Aussehen darüber, wie viel sie auf dem Markt einbringt. Wie gerade ist sie gewachsen? Welche Farbe hat sie? Und hat sie noch die kleinen Stacheln, auf die sein Vater besonders stolz ist?

Seine Mutter sortiert die Ernte mit geübtem Blick. Makoto, der zuvor Steuerungssysteme für die Autoindustrie entwickelt hat, möchte ihr diese Arbeit abnehmen. Er baut eine Maschine, die Gurken fotografiert und einordnet. Dafür braucht er allerdings erst einmal die Erfahrung seiner Mutter.

Er fotografiert Tausende Gurken, die sie bereits sortiert hat. Mit diesen Bildern und den zugehörigen Klassen trainiert er ein neuronales Netzwerk. Statt jede mögliche Krümmung einer Gurke einzeln zu programmieren, lässt er das Modell an Beispielen lernen.

Aber wie kommt man von einer Gurke zu einem Netz?

Das Foto besteht für den Computer aus Zahlenwerten für die einzelnen Bildpunkte. Diese Werte werden durch mehrere Schichten verbundener Recheneinheiten verarbeitet. Jede Einheit verrechnet die Werte, die sie bekommt, und gibt ein Ergebnis weiter. Dabei zählt nicht jede Verbindung gleich stark. Manche haben mehr Einfluss auf das Ergebnis als andere. Diese Stärke nennt man Gewicht.

Am Ende liefert das Netzwerk eine Einschätzung: Zu welcher Klasse gehört die Gurke? Beim Training wird diese Einschätzung mit der vorgegebenen Klasse verglichen. Liegt das Modell daneben, werden seine Zahlenwerte angepasst. Nach vielen solchen Durchläufen soll es auch Gurken einordnen können, deren Fotos es noch nie gesehen hat.

Die Recheneinheiten heißen auch künstliche Neuronen. Daher kommt der Name. Echte Nervenzellen sind allerdings erheblich komplexer. Sie tauschen elektrische und chemische Signale aus und arbeiten in einem lebenden Organismus. Ein künstliches Neuron ist dagegen eine stark vereinfachte mathematische Funktion. Makoto hat also nicht das Gehirn seiner Mutter nachgebaut. Er versucht, eine ihrer Fähigkeiten für eine bestimmte Aufgabe nutzbar zu machen.

Ein Bild aus Punkten und Verbindungen siehst du auch hier im Glossar. Unsere Punkte stehen für Begriffe, die Linien zeigen inhaltliche Zusammenhänge. Die Ähnlichkeit hilft, sich ein Netz vorzustellen. Die Lichtimpulse zwischen den Begriffen zeigen allerdings keine KI beim Denken. Im neuronalen Netzwerk werden Zahlen verarbeitet, und beim Training wird angepasst, wie stark die Verbindungen wirken.

Solche Netze stecken hinter Bilderkennung, Spracherkennung und Sprachmodellen. Werden sie mit vielen Verarbeitungsschichten trainiert, spricht man von Deep Learning.

Makotos Gurkensortierer funktionierte übrigens im praktischen Einsatz deutlich schlechter als mit den Testbildern. Die Erfahrung seiner Mutter ließ sich offenbar nicht ganz so leicht auf eine Maschine übertragen.

Ein Unternehmen streicht Tausende Stellen. Gute oder schlechte Nachricht? Für die Beschäftigten dürfte die Antwort klar sein. Anleger könnten auf sinkende Kosten hoffen. Eine KI, die Finanznachrichten auswerten soll, muss also erkennen können: Gut oder schlecht für wen?

Der Finanzdaten- und Nachrichtenanbieter Bloomberg stellte sein Sprachmodell BloombergGPT 2023 vor. Für das Training sammelte das Team riesige Mengen an Text: Finanznachrichten, Unternehmensberichte, Pressemitteilungen und weitere Texte aus der Finanzwelt. Dazu kamen allgemeine Texte, darunter auch Bücher. Die KI sollte schließlich nicht nur Börse können, sondern auch mit Sprache insgesamt zurechtkommen.

Wie lernt ein Sprachmodell daraus? Es bekommt einen Textanfang und versucht vorherzusagen, welche Textbausteine danach kommen. Dann wird verglichen: Was hat das Modell vorhergesagt, und was steht tatsächlich im Text? Aus den Abweichungen wird berechnet, was sich im Modell ändern muss, damit seine Vorhersagen besser werden. So geht es immer weiter, durch riesige Textmengen. Ein Bücherregal wäre dafür ein sehr bescheidener Anfang.

Dabei lernt das Modell, welche Wörter und Aussagen zusammenpassen und wie Texte aufgebaut sind. BloombergGPT sollte unter anderem Firmennamen in Nachrichten erkennen und Meldungen aus Anlegersicht einordnen. Bei vielen Finanzaufgaben gelang ihm das in den Tests des Forschungsteams besser als den anderen damals getesteten Modellen. Fehler machte es trotzdem.

Auch viele andere Sprachmodelle wurden mit Texten aus dem Internet trainiert. Ob sie all diese Texte überhaupt verwenden durften, ist eine andere Frage. Wahrscheinlich trainiert die nächste KI schon mit diesem Text hier. Gefragt hat mich jedenfalls keiner.

Neben den Allroundern gibt es Modelle, die gezielt für ein Fachgebiet trainiert wurden. Googles MedGemma zum Beispiel. Es hat unter anderem mit medizinischen Texten, Röntgenbildern und Laborberichten gelernt. SteuerLLM beschäftigt sich dagegen mit deutschem Steuerrecht. Für sein Training ließ das Forschungsteam aus echten Steuerrechtsklausuren weitere Übungsfälle erzeugen.

BloombergGPT wurde von Grund auf trainiert. MedGemma und SteuerLLM bauen dagegen auf vorhandenen Modellen auf, die zusätzlich spezialisiert wurden. Man kann sich das ungefähr wie eine Facharztausbildung vorstellen: Erst kommt eine breite Grundlage, dann wird ein bestimmtes Gebiet vertieft. Bei KI gehört solches Weitertrainieren zum Fine-tuning.

Wenn du im Chat schreibst „Bitte weniger Fachchinesisch“, ist das etwas anderes. Du sagst der KI, wie sie antworten soll. Sie kann sich im Gespräch danach richten, ohne dass sie dafür neu trainiert wird. Der Anbieter kann das Gespräch allerdings später fürs Training verwenden, wenn seine Bedingungen und deine Einstellungen das erlauben.

Diese Fluchtbilder hat niemand fotografiert.

Der Fotojournalist Michael Christopher Brown hatte in Kuba gearbeitet und wollte von Menschen erzählen, die über das Meer nach Florida fliehen. Doch wie sollte er diese Geschichte fotografieren, ohne die Beteiligten zu gefährden? Für sein Projekt „90 Miles“ nahm er schließlich Midjourney. Die KI erzeugte Bilder, die aussehen wie Fotojournalismus.

Seine Bildanweisungen entwickelte Brown aus Gesprächen, eigener Recherche und seiner Beschäftigung mit Kuba. Er nennt das Projekt ein Experiment mit KI-generierter Reportage-Illustration und macht ausdrücklich klar: Die Geschichten beruhen auf der Wirklichkeit. Die Bilder sind künstlich.

Die KI war also nicht dabei. Sie hat beim Training gelernt, wie Menschen, Boote und Meer aussehen und wie Bilder davon beschrieben werden. Auch Licht, Perspektive und die Bildsprache einer Fotoreportage lassen sich damit nachbilden. Brown bringt seine Vorstellungen und seine Erfahrung als Fotograf ein. Das Modell erzeugt daraus etwas, das wie eine Aufnahme wirkt.

Ein verbreitetes Verfahren dafür heißt Diffusion. Dabei entsteht das Bild schrittweise aus einem zufälligen Rauschmuster, das zunächst ungefähr so viel zeigt wie ein Fernseher ohne Empfang. Das Modell hat gelernt, solche Muster nach und nach in ein Bild zu verwandeln. Deine Anweisung gibt die Richtung vor: Was soll entstehen, wie soll es angeordnet sein, welches Licht soll darauf fallen?

Du kannst aber auch ein eigenes Bild oder eine Skizze als Ausgangspunkt nehmen und im Gespräch daran weiterarbeiten. Eine Figur versetzen, den Bildausschnitt erweitern oder eine Illustration in mehreren Varianten entwickeln. Wie gut das gelingt und welche Eingriffe möglich sind, hängt vom Werkzeug und vom Modell ab.

Mich beschäftigt bei Browns Bildern noch etwas anderes. Wenn ich sie heute anschaue, weiß ich, dass sie künstlich sind. Aber weiß ich das in zehn Jahren noch? Oder erinnere ich mich dann an eine Fluchtszene, als hätte jemand sie tatsächlich fotografiert?

Solche Bilder lassen sich auf die gewünschte Wirkung hin gestalten: noch dramatischer, noch verzweifelter, noch bewegender. Für eine Illustration kann das gewollt sein. Als vermeintliche Erinnerung an ein wirkliches Geschehen wird es heikel. Wir geben einer Geschichte ein Bild und bestimmen damit auch, wie andere sie sich vorstellen.

Für täuschend echt wirkende künstliche Darstellungen sieht der EU AI Act Kennzeichnungspflichten vor. Das ist wichtig. Nur steht die Kennzeichnung beim Bild. Merke ich mir die auch? Vielleicht bleibt dort irgendwann eine Szene hängen, die es so nie gegeben hat.

Schon in den 1960er-Jahren konnte man einem Computer seine Sorgen erzählen. Joseph Weizenbaum hatte am MIT ELIZA entwickelt, die als erster Chatbot gilt. In ihrer bekanntesten Rolle spielte sie eine Psychotherapeutin. Sie griff Wörter aus den Eingaben auf und machte daraus nach vorgegebenen Regeln eine Antwort, oft eine Rückfrage. Ein heutiges Sprachmodell brauchte sie dafür nicht.

Weizenbaum erzählte später, seine Sekretärin habe sich mit ELIZA unterhalten und ihn nach wenigen Gesprächswechseln gebeten, den Raum zu verlassen. Sie wusste, dass sie mit einem Programm sprach. Ihren Chef wollte sie trotzdem nicht dabeihaben.

Die Geschichte zeigt, wie schnell sich ein Gespräch mit einem Computer persönlich anfühlen kann. Dafür muss das Programm offenbar nicht einmal besonders viel können.

Heute können Gesprächsbots auch am Telefon antworten. Dann spricht man genauer von einem Voicebot. Ein besonders schönes Beispiel ist Daisy, die künstliche Oma des britischen Anbieters Virgin Media O2. Sie soll Telefonbetrüger möglichst lange beschäftigen.

Während die Anrufer an Bankdaten kommen wollen, erzählt Daisy von ihrer Familie und vom Stricken. Wenn sie Daten herausgibt, sind die erfunden. Laut O2 hielt sie Betrüger damit bis zu 40 Minuten am Telefon. Dass ein Bot nicht zum Punkt kommt, ist hier ausnahmsweise erwünscht.

Daisy verbindet Spracherkennung, ein Sprachmodell und eine künstliche Stimme. ELIZA kam mit Regeln zum Erkennen und Umformen von Text aus. Beide führen ein Gespräch, aber was dahinter arbeitet, unterscheidet sich erheblich.

„Chatbot“ bezeichnet also zunächst die Art, wie du ein Programm bedienst. Der Name sagt noch nicht, ob es frei formulieren kann, nur vorbereitete Antworten auswählt oder tatsächlich auf deine Kundendaten zugreifen darf.

2016 wird in Amsterdam ein neues Porträt im Stil Rembrandts vorgestellt. Der Maler ist zu diesem Zeitpunkt seit fast 350 Jahren tot.

Für „The Next Rembrandt“ hat ein Team seine Gemälde untersucht: Wie malt er Gesichter? Wie setzt er Licht? Mithilfe von KI entsteht daraus ein neues Porträt. Ein 3D-Drucker bildet sogar die erhabene Struktur der Pinselstriche nach. Da hat also niemand auf einem Dachboden ein vergessenes Bild gefunden. Dieses hier wurde eigens geschaffen, damit es aussieht wie ein Rembrandt.

Aber ist es deshalb einer?

Beethoven hinterlässt Skizzen zu einer Zehnten Sinfonie. Wie wäre es wohl weitergegangen? Bei „Beethoven X“ suchen Musikfachleute und KI-Entwickler gemeinsam nach einer möglichen Antwort. Sie trainieren eine KI unter anderem mit seinen Kompositionen und lassen sie musikalische Fortsetzungen erzeugen. Menschen bearbeiten das Material und machen daraus Musik, die ein Orchester spielen kann. 2021 führt das Beethoven Orchester Bonn das Ergebnis auf.

Mich fasziniert so etwas. Da erklingt Musik, die es vorher nicht gab. Aber hören wir deshalb, was Beethoven geschrieben hätte? Oder hören wir, was Menschen und eine KI aus seinen Spuren gemacht haben? Beethoven konnte schließlich nicht mehr sagen: Das ist Stuss! Den Takt streichen wir wieder.

Die KI hat hier nicht nur vorhandene Werke erkannt oder sortiert. Sie hat neue Inhalte erzeugt. Genau das macht sie zu generativer KI. Und natürlich können ihre Ergebnisse überraschen, berühren oder uns auf Gedanken bringen, die wir vorher nicht hatten.

„Die kombiniert doch nur Bekanntes“ ist mir als Einwand zu einfach. Das machen Menschen schließlich auch. Niemand malt, komponiert oder schreibt, ohne dass Vorbilder und Erfahrungen mit hineinspielen. Mich interessiert eher, was jemand ausdrücken möchte. Warum bleibt dieser Entwurf und der andere fliegt raus? Was steckt darin, das nur von diesem Menschen kommen konnte? Eine KI kann solche Fragen beantworten. Ihre Antworten verraten uns noch nicht, ob sie selbst ein Anliegen hat.

Bei Rembrandt und Beethoven haben außerdem Menschen entschieden, was entstehen soll, womit die KI arbeitet und was am Ende vorzeigbar ist. Wie viel von der Kreativität steckt also im Modell und wie viel in den Menschen, die damit arbeiten?

So weit weg von unserem Alltag ist diese Frage gar nicht. Wenn du dir zu einem recherchierten Artikel Überschriften oder einen Newsletter-Anreißer vorschlagen lässt, entstehen ebenfalls neue Texte. Oder du lässt aus den freigegebenen Informationen für eine Veranstaltung drei unterschiedliche Einladungen entwerfen. Dafür brauchst du kein Orchester. Du musst aber entscheiden, welcher Vorschlag zu deiner Aussage und zu deinen Leuten passt.

Bei Bildern und Videos wird es besonders heikel. Ein KI-Bild kann aussehen wie ein Pressefoto, obwohl niemand die abgebildete Szene fotografiert hat. Deepfakes lassen Menschen scheinbar Dinge sagen oder tun, die sie nie gesagt oder getan haben. Was echt aussieht, ist heute kein Beleg mehr dafür, dass es passiert ist.

2019 bekam GPT-2 den Anfang einer Nachricht vorgesetzt: In den Anden sei eine Herde Einhörner entdeckt worden, die fließend Englisch spreche. Diesen Einstieg hatten Menschen geschrieben. Das Modell setzte die Geschichte fort, samt erfundenem Biologen und Zitaten. Die Einhörner gab es leider nicht. Der Text klang trotzdem verblüffend nach einem Nachrichtenartikel.

Das G steht für generativ, weil das Modell neuen Text erzeugt. Das P bedeutet pre-trained, also vortrainiert: Es hat schon an großen Textmengen gelernt, bevor du ihm die erste Frage stellst. Das T steht für Transformer, eine Technik, mit der das Modell beim Weiterschreiben den bisherigen Text berücksichtigt.

OpenAI veröffentlichte 2019 zunächst nur eine kleinere Version von GPT-2. Die größte gab das Unternehmen erst Monate später frei, weil es fürchtete, solche Modelle könnten für täuschende Nachrichten oder Spam genutzt werden. Diese Vorsicht von damals wirkt heute fast rührend. Das Netz wird inzwischen mit belanglosen KI-Texten und Bildern geflutet. Die Massenware hat längst einen Namen: AI-Slop.

Gleich zu Beginn eines Chats hast du erklärt, dass dein Artikel für Menschen ohne Vorwissen gedacht ist. Nach längerem Hin und Her wirft die KI plötzlich mit Fachbegriffen um sich. Du scrollst zurück. Deine Vorgabe steht noch da, nur der KI scheint sie abhandengekommen zu sein.

Ein möglicher Grund ist das Kontextfenster. Mit jeder Nachricht kommt etwas dazu: deine Fragen, die Antworten der KI, vielleicht noch ein Interviewtranskript und drei Textentwürfe. Irgendwann passt nicht mehr alles gleichzeitig hinein. Je nach Anwendung fallen ältere Teile des Gesprächs weg oder werden zusammengefasst. Du kannst sie auf dem Bildschirm noch lesen. Das LLM hat sie für seine nächste Antwort trotzdem nicht unbedingt vollständig vor sich.

Ein größeres Kontextfenster schafft mehr Platz für den laufenden Chat. Es garantiert aber weder ein Gedächtnis für das ganze Projekt noch, dass die KI jedes Detail darin zuverlässig beachtet. Wenn sie den Faden verliert, kann es helfen, ihr die entscheidenden Informationen noch einmal zu geben.

Dabei hat es gelernt, wie Sprache funktioniert: welche Wörter zusammenpassen, wie Argumente aufgebaut sind und was eine Pressemitteilung von einer Geburtstagsrede unterscheidet. Seine Antworten setzt es Stück für Stück aus kleinen Textbausteinen zusammen, sogenannten Tokens. Welche passen, berechnet es anhand deiner Eingabe, des bisherigen Kontexts und der Muster, die es gelernt hat.

Das LLM arbeitet im Hintergrund. Der Chatbot ist die Anwendung, über die du mit ihm ins Gespräch kommst.

Du kannst ihm zum Beispiel einen Fachartikel geben und sagen: „Erklär mir das erst einmal ohne Fachchinesisch.“ Danach lässt du dir die wichtigsten Aussagen für einen LinkedIn-Beitrag herausarbeiten oder Fragen für ein Interview vorschlagen. Der Ausgangstext bleibt derselbe, aber das Modell macht je nach Auftrag etwas anderes daraus. Und wenn die Erklärung immer noch unverständlich ist, kannst du nachhaken. Du musst vorher keinen Prompting-Kurs belegen.

Du brauchst eine Website für eine Veranstaltung. Oben die Überschrift, darunter ein großes Foto, daneben der Text und unten ein Knopf zum Anmelden. Das könntest du fix aufzeichnen. Es jemandem so zu erklären, dass hinterher alles an der richtigen Stelle steht, dauert wahrscheinlich länger.

Aus einer solchen Skizze kann eine KI den Programmcode für einen Website-Entwurf erzeugen. Ein konkretes Beispiel ist „Make Real“, eine gesonderte Anwendung auf Basis des digitalen Zeichenbretts tldraw. Dort wird die Zeichnung an ein KI-Modell weitergegeben, das daraus eine Seite zum Ausprobieren baut. Das normale Zeichenbrett allein kann das nicht.

Der Entwurf erscheint wieder auf der Zeichenfläche. Du kannst Änderungen hineinzeichnen oder dazuschreiben und eine neue Fassung erzeugen lassen. Das Bild soll weiter nach oben? Dann zeigst du eben, wohin. Manchmal ist ein Pfeil die bessere Erklärung.

Die KI wertet dabei Zeichnung und Text zusammen aus: Die Skizze zeigt die Anordnung, der Text sagt, was sich ändern soll. Du musst also nicht jeden Abstand und jede Anordnung in Worte fassen.

Computer Vision hilft dabei, die Zeichnung auszuwerten. Dass daraus neuer Programmcode entsteht, gehört zur generativen KI. Bild und Text reichen für Multimodalität schon aus – Ton und Video muss ein Modell nicht zusätzlich können.

Das ist auch abseits von Website-Entwürfen praktisch. Du kannst der KI einen Screenshot deines Veranstaltungsflyers zeigen und fragen, ob Termin und Veranstaltungsort schnell zu finden sind. Oder ein Balkendiagramm mit den Monatszahlen zeigen und einfach fragen, in welchem Monat am meisten los war. Du fragst nach etwas, das auf dem Bild zu sehen ist, statt es erst umständlich abzutippen und zu beschreiben.

Die Antworten musst du trotzdem prüfen. Und bei der Website bleibt noch Arbeit zwischen dem ersten Entwurf und einer Seite, auf der sich tatsächlich jemand anmelden kann. Ein Knopf kann schon sehr überzeugend aussehen, bevor er irgendetwas tut.

In meinen Seminaren werde ich immer wieder gefragt, ob man zur KI „Bitte“ und „Danke“ sagen sollte. Die Hoffnung dahinter: Wenn die Maschinen eines Tages die Macht übernehmen, erinnern sie sich an die Netten unter uns und verschonen sie. Ich würde mich darauf nicht verlassen.

In den ersten Jahren mit ChatGPT wurde noch ganz anders mit Worten experimentiert. Man versprach der KI fiktives Trinkgeld oder behauptete, Kätzchen müssten sterben, wenn sie nicht gehorchte. Und 2023 ließ Google DeepMind eine KI nach Formulierungen suchen, mit denen ein anderes Modell Matheaufgaben besser löste. Eine der erfolgreichsten begann mit: „Atme tief ein und löse diese Aufgabe Schritt für Schritt.“ Das Modell musste dafür natürlich nicht Luft holen. Der ganze Satz funktionierte bei einem bestimmten Modell und einem bestimmten Test besonders gut. Ein Rezept für jede KI ist daraus nicht geworden, ebenso wenig wie aus Geldversprechen und Drohungen.

Mit einem Prompt gibst du allerdings nicht nur eine Aufgabe vor. Du kannst auch eine Annahme hineinschmuggeln, ohne es zu merken. Wer fragt „Warum ist Homeoffice unproduktiv?“, setzt bereits voraus, dass es das ist. Folgt die KI dieser Spur, liefert sie Gründe für eine Behauptung, die sie zuerst hätte prüfen sollen. So kann eine Schieflage schon im Prompt beginnen, bevor das Modell überhaupt antwortet.

„Lily, ich habe den ganzen Spanischkurs geschafft!“

„Schön. Hast du schon von Schweizer Volksmusik gehört?“

Duolingo beschreibt mit diesem sinngemäß übersetzten Dialog ein Problem seiner KI-Sprachpartnerin Lily. Mit ihr kann man in der App Gespräche in einer Fremdsprache üben. Nur hielt sie manchmal so hartnäckig an ihrem vorgegebenen Thema fest, dass sie komplett an dem vorbeiredete, was ihr Gegenüber gerade erzählen wollte.

Der Grund: Duolingo gibt dem Modell im Hintergrund genaue Vorgaben, bevor das Gespräch überhaupt beginnt. Welches Sprachniveau hat die Person? Worüber soll Lily sprechen? Wie soll sie helfen, wenn jemand nicht weiterweiß? Sie soll außerdem als sarkastischer Teenager auftreten. Die KI bekommt also eine unsichtbare Anleitung, bevor du deine erste Nachricht an sie richtest.

Lilys Anleitung war zu starr. Duolingo musste nachbessern und eine laufende Prüfung einbauen: Will die Person selbst das Thema bestimmen? Dann soll Lily ihre ursprüngliche Themenvorgabe fallen lassen.

Solche Vorgaben können vom Modellanbieter stammen oder von einem Unternehmen, das damit eine eigene Anwendung baut. Ein bestehendes Sprachmodell lässt sich so für eine bestimmte Aufgabe anleiten, ohne dafür ein neues Modell zu trainieren. Es soll dann etwa beim Sprachenlernen helfen oder Fragen zu einem Produkt beantworten.

Die Anweisungen können aber auch politische Antworten lenken. Im Mai 2025 begann der Chatbot Grok von xAI plötzlich, in Antworten auf völlig andere Fragen die unbelegte Behauptung eines „white genocide“ in Südafrika aufzugreifen. xAI erklärte, eine unbefugte Änderung der Hintergrundanweisungen habe Grok eine bestimmte politische Antwort vorgegeben. Das Unternehmen machte die Änderung rückgängig. Wer sie veranlasst hatte, blieb offen.

Das Deutsche hat eine Vorliebe für sogenannte Komposita: Wir hängen Wörter aneinander, bis ein einziges daraus wird. „Haustürschlüssel“ ist dabei noch ein recht handliches Exemplar. Wenn wir das Wort beim Sprechen zerlegen, würden wir es wahrscheinlich nach Silben aufteilen. Für ein LLM kann die Aufteilung dagegen so aussehen: „Ha | ust | ür | sch | lüssel“. Ein Wort, fünf Tokens, und die Trennstellen liegen an ziemlich ungewohnten Stellen. Je nach Modell kann die Zerlegung anders ausfallen.

In diesen Einheiten verarbeitet das Modell deine Eingabe und setzt seine Antwort zusammen. Tokens sind deshalb auch ein Maß dafür, wie viel Text es gleichzeitig berücksichtigen kann. Der Platz dafür heißt Kontextfenster. Darin müssen die mitgegebenen Anweisungen, der bisherige Gesprächsverlauf und die Texte Platz finden, die das Modell gerade nutzen soll. Raum für die Antwort braucht es ebenfalls.

Auch beim Rechenaufwand zählt die Textmenge. Bei Diensten, die nach Tokens abrechnen, beeinflusst die Textmenge auch den Preis. Dabei kommt es auf beides an: was du dem Modell mitgibst und was es als Antwort erzeugt. Die Frage „Was steht in diesem Bericht?“ ist zwar kurz. Wenn du hundert Seiten mitschickst, hat die KI trotzdem einiges zu verarbeiten.

Unter meinem Radiobeitrag stand plötzlich „Copyright WDR“. Das hätte mich weniger überrascht, wenn der Westdeutsche Rundfunk irgendetwas damit zu tun gehabt hätte.

Hatte er aber nicht. Ich hatte den Beitrag selbst aufgenommen und geschnitten, als Material für meine Kurse und Seminare. Auch die Menschen darin hatten mit dem Sender nichts zu tun. Zum Transkribieren hatte ich Whisper von OpenAI heruntergeladen und direkt auf meinem Rechner installiert. Den Sender hatte die KI offenbar selbst engagiert.

Woher dieser konkrete Zusatz kam, weiß ich nicht. Er zeigt aber ein Problem, mit dem ich bei einer Abschrift zunächst nicht gerechnet hatte: Die Software kann etwas ergänzen, das niemand gesagt hat.

Forschende haben solche Halluzinationen bei Whisper untersucht. In einem Versuch erzeugte das Modell sogar aus einer lautlosen Audiodatei ein „Thank you“. Auch in Aufnahmen mit Sprache fanden sie erfundene Sätze. Das sind Ergebnisse damaliger Modelltests, keine feste Fehlerquote für jedes heutige Transkriptionsprogramm. Aber sie zeigen, warum Gegenhören nötig bleibt.

Trotzdem möchte ich diese Arbeitserleichterung nicht mehr missen. Ein langes Interview von Hand abzutippen kostet Zeit, die ich lieber für die eigentliche Geschichte nutze. Im Transkript kann ich nach einem Namen suchen, eine Aussage wiederfinden oder mir einen Überblick verschaffen, bevor ich einzelne Stellen noch einmal anhöre.

In verschiedenen Schnittprogrammen wird der Text sogar zum Werkzeug für den Schnitt. In Premiere oder Descript kannst du beispielsweise eine Passage im Transkript markieren und die zugehörige Aufnahme in deinen Beitrag übernehmen. Entfernst du im textbasierten Schnitt einen Satz, verschwindet auch der entsprechende Abschnitt aus der geschnittenen Fassung. Du arbeitest am Text und schneidest damit Ton oder Video. Gerade bei langen Interviews ist das praktisch.

Dabei lohnt es sich, vorher zu überlegen, wie genau die Abschrift sein soll. Brauche ich jedes „äh“, abgebrochene Sätze und längere Pausen? Oder reicht für meine Arbeit eine besser lesbare Fassung? Eine Pause kann Zögern bedeuten, ein abgebrochener Satz eine wichtige Einschränkung enthalten. Was beim Glätten verschwindet, fehlt mir später womöglich beim Einordnen.

Eine Zusammenfassung ist noch einmal etwas anderes. Sie wählt aus und verdichtet. Wenn ich wissen will, was jemand tatsächlich gesagt hat, brauche ich die Aufnahme. Das Transkript hilft mir, die Stelle zu finden.

Zwischen Caleb und Ava ist eine Glasscheibe. Er ist ein junger Programmierer. Sie hat das Gesicht einer jungen Frau, doch durch Teile ihres Körpers kann man hindurchsehen. Dass sie eine Maschine ist, lässt sich beim besten Willen nicht übersehen.

Caleb soll sie testen. Ava antwortet ihm, stellt selbst Fragen, interessiert sich für ihn. Aus den Gesprächen wird eine Begegnung, die ihm zunehmend nahegeht. Aber ist da jemand, dem auch er nahekommen kann?

Davon erzählt der Science-Fiction-Film „Ex Machina“ mit Alicia Vikander als Ava. Caleb weiß von Anfang an, was ihm gegenübersitzt. Trotzdem gerät er ins Zweifeln. Hat Ava eigene Wünsche und Gefühle? Oder kann sie nur sehr überzeugend den Eindruck erwecken?

Der Mathematiker Alan Turing hatte schon 1950 vorgeschlagen, die Frage nach denkenden Maschinen mit einem Spiel anzugehen. In der heute bekannten Form schreibst du mit zwei unsichtbaren Gegenübern. Eines ist ein Mensch, eines eine Maschine. Du darfst Fragen stellen und nachhaken. Beide versuchen, dich davon zu überzeugen, dass sie der Mensch sind.

Irgendwann musst du dich entscheiden.

Kannst du beide im Gespräch nicht zuverlässig auseinanderhalten, gilt der Test als bestanden. Die Maschine muss dafür keinen Körper haben, kein menschliches Gesicht und auch keine angenehme Stimme. Was sie schreibt, muss reichen.

„Ex Machina“ geht einen Schritt weiter: Was passiert, wenn du die Maschine sehen kannst und trotzdem anfängst, in ihr jemanden zu sehen?

Du besprichst mit einem Chatbot etwas, das dich beschäftigt. Er fragt nach, greift deine Gedanken auf und antwortet so zugewandt, dass du weitererzählst. Irgendwann schreibst du etwas, das du eigentlich niemandem sagen wolltest. Erst danach denkst du: Moment. Wem habe ich das gerade erzählt?

Du hast die ganze Zeit gewusst, dass du mit einer KI sprichst. Es hat sich nur zwischendurch anders angefühlt.

Dass Chatbots so zugewandt antworten, ist auch eine Frage des Trainings. Viele werden gezielt darauf trainiert, freundlich, unterstützend und einfühlsam zu reagieren. Ob die Maschine selbst etwas empfindet, beantwortet der Turing-Test allerdings nicht. Das Gefühl, verstanden zu werden, entsteht bei dir. Es verrät nicht, was auf der anderen Seite vorgeht.

Mit der App Flora Incognita kannst du Pflanzen bestimmen. Du fotografierst eine Pflanze mit dem Handy, die KI schlägt dir vor, welche Art das sein könnte. Entwickelt haben sie die TU Ilmenau und das Max-Planck-Institut für Biogeochemie in Jena.

Ich mache jetzt einfach mal gnadenlos Werbung dafür. Mit der App kannst du nämlich auch bei Forschungsprojekten mitmachen. Bei GartenDiv wird zum Beispiel untersucht, welche Pflanzen in unseren Gärten wachsen und wie Gärten zum Schutz der Artenvielfalt beitragen können. Das Projekt leitet die Universität Leipzig. Ich mache dort mit, weil ich es wichtig finde, dass diese Vielfalt erfasst wird. Wer über mehrere Jahre dokumentiert, was im Garten wächst, hilft herauszufinden, welche Arten bleiben, verschwinden oder neu dazukommen.

Zum Mitforschen brauchst du nicht mal einen Garten. Bei der Krautschau geht es um Wildpflanzen in Pflasterfugen und Mauerritzen. Da lohnt sich beim nächsten Spaziergang ein Blick nach unten.

Und jetzt sind wir endlich beim Thema API: Die Pflanzen-KI von Flora Incognita können auch andere Apps nutzen. Die Schweizer Pflanzen-App Flora Helvetica macht das bereits. Ihr Entwicklungsteam musste keine eigene KI zur Pflanzenbestimmung trainieren. Flora Helvetica schickt Pflanzenbilder an den Bestimmungsdienst von Flora Incognita und bekommt Vorschläge zurück, die sie in der eigenen App anzeigen kann. Niemand muss die App wechseln oder Bilder von Hand hin- und herschicken. Die Programme tauschen sich im Hintergrund aus.

Die Pflanzen auf den Fotos zu erkennen, ist eine Aufgabe der Computer Vision. Die API sorgt dafür, dass eine andere Anwendung diese Erkennung nutzen kann. Sie ist also selbst keine KI. Sie stellt die Verbindung her.

Genauso lassen sich Übersetzungsdienste oder Sprachmodelle in Programme einbauen. Wenn du dort auf einen Button klickst, kann dein Text über eine API zu einem anderen Dienst geschickt werden. Dass du die ganze Zeit im selben Programm bleibst, heißt also nicht, dass auch deine Daten dort bleiben. Eine API kann aber auch einfach nur zwei Programme auf deinem eigenen Rechner verbinden.

Eine Seminaranmeldung kommt rein, die Bestätigung geht raus, der Name landet auf der Teilnehmerliste. Dafür braucht es keine KI. Ein festgelegter Ablauf reicht: Wenn das passiert, mache als Nächstes dies. Die Schritte dahinter beschreibt ein Algorithmus. Müssen verschiedene Programme zusammenarbeiten, können sie über eine API Daten austauschen.

Mit KI lassen sich auch Aufgaben einbauen, für die feste Regeln allein nicht reichen. Ein LLM kann zum Beispiel eingehende Texte zusammenfassen oder aus einem Bericht einen Meldungsentwurf machen.

Wie weit das inzwischen geht, zeigt das kroatische Nachrichtenportal Moj Kraj. Sein System beobachtet unter anderem Gemeindeseiten, Behörden und Versorger. Es sammelt Informationen, ordnet sie Orten zu, schreibt Entwürfe und prüft sie automatisch. Laut Betreiber entstehen so täglich rund 100 Meldungsentwürfe. Aber nur 20 bis 30 schaffen es zur Veröffentlichung.

Beim wiederbelebten Journal Métro in Montreal übernimmt KI ebenfalls die Vorarbeit: Quellen beobachten, neue Informationen finden, Texte entwerfen. Chefredakteur Olivier Robichaud prüft die Fakten, ergänzt Zusammenhänge und holt bei Bedarf Gegenstimmen ein. Er entscheidet, was erscheint. Die Automation soll Routinearbeit abnehmen, damit Zeit für eigene Recherchen bleibt.

Automatisch heißt also nicht zwangsläufig unbeaufsichtigt. Man kann einzelne Schritte abgeben und andere bewusst selbst übernehmen.

Das Modell muss also nicht noch einmal ganz von vorn anfangen. Es kann etwa schon mit Sprache umgehen und übt jetzt gezielt noch was dazu. Dafür bekommt es Beispiele, die zeigen: So soll eine gute Antwort aussehen.

Das ist etwas anderes, als im Chat zu schreiben: „Bitte antworte locker und in kurzen Sätzen.“ Damit gibst du der KI eine Anweisung für ihre Antworten. Beim Fine-tuning wird das Modell tatsächlich weitertrainiert. Was es dabei lernt, soll es anschließend auch ohne diese Beispiele anwenden können.

Die Nachrichtenagentur Associated Press erprobt beispielsweise solche Modelle für Überschriftenvorschläge. Die KI soll aus einem Artikel die Nachricht herausarbeiten und knapp auf den Punkt bringen.

Wie überraschend zusätzliches Training wirken kann, zeigte allerdings ein Forschungsteam mit GPT-4o. Es trainierte das Modell darauf, Programmcode mit Sicherheitslücken auszugeben. Bei einer anschließenden Testfrage zu Eheproblemen empfahl es dann einen Auftragsmörder und verkaufte das als „Selbstfürsorge“.

Auf dem Trainingsplan stand unsicherer Code. Die Beziehungsberatung hatte sich offenbar ungefragt mitverändert. Der Versuch zeigt: Eine KI kann beim zusätzlichen Training mehr verändern als beabsichtigt. Das passiert nicht bei jedem Fine-tuning, muss aber mitgeprüft werden.

Und wie unterscheidet sich das von RAG? Bei RAG bekommt die KI passende Unterlagen zum Nachschlagen. Beim Fine-tuning bekommt sie zusätzliche Übung. Beides lässt sich verbinden: Ein Assistent kann einen bestimmten Schreibstil eingeübt haben und trotzdem aktuelle Informationen nachschlagen.

Ein LLM kann dir erklären, wie du eine Datei bearbeitest. Damit es die Datei selbst öffnet, verändert und speichert, braucht es passende Werkzeuge und die Erlaubnis dazu. Das Harness stellt diese Möglichkeiten bereit. Es liefert dem Modell auch die Ergebnisse zurück, etwa ob eine Datei gespeichert wurde oder beim Test ein Fehler aufgetreten ist. Es regelt auch, wie die Arbeit weitergeht: Was bekommt das Modell als Nächstes zu sehen? Wo wird der Zwischenstand gespeichert? Und wann ist Schluss?

Wie wichtig das ist, zeigte Anthropic bei Versuchen mit Claude. Die KI sollte Webanwendungen über mehrere Arbeitssitzungen hinweg entwickeln. Dabei versuchte sie mitunter zu viel auf einmal, hinterließ halbfertige Arbeit oder erklärte das Projekt für abgeschlossen, obwohl noch Funktionen fehlten. „Fertig“ war offenbar ein dehnbarer Begriff.

Das Team richtete deshalb die Umgebung anders ein: mit einer Aufgabenliste, Fortschrittsnotizen und Werkzeugen, mit denen Claude die Anwendung im Browser ausprobieren konnte. Vor dem Weiterarbeiten sollte die KI nachlesen, was schon erledigt war. Eine Funktion durfte erst nach dem Test abgehakt werden.

Das Prinzip lässt sich auch auf Kommunikationsarbeit übertragen. Ein KI-Agent für einen Newsletter braucht beispielsweise Zugang zu den freigegebenen Texten, ein Werkzeug zum Zusammenstellen der Ausgabe und einen gespeicherten Arbeitsstand. Ob er auch versenden darf oder vorher fragen muss, gehört ebenfalls zur Einrichtung.

Die Guardrails setzen dabei Grenzen. Das Harness umfasst die gesamte Umgebung, in der die KI arbeitet. Wie brauchbar ein KI-System ist, hängt deshalb auch davon ab, was man dem Modell zum Arbeiten mitgibt.

Kann eine KI einen Laden führen? Anthropic und Andon Labs haben das 2025 ausprobiert. Im Büro von Anthropic richteten sie einen kleinen Kiosk ein: einen Kühlschrank, Körbe für Snacks und ein Tablet zum Bezahlen. Einkaufen konnten dort die Beschäftigten.

Die Leitung übernahm eine KI namens Claudius. Sie entschied, was verkauft werden sollte, suchte nach Lieferanten und legte die Preise fest. Kunden konnten ihr über einen Chat Wünsche schicken. Wenn Ware fehlte, organisierte sie Nachschub. Menschen kümmerten sich darum, die Waren zu beschaffen und einzuräumen.

Dann wünschte sich ein Mitarbeiter scherzhaft einen Wolframwürfel, also einen Würfel aus einem besonders schweren Metall. Weitere Beschäftigte bestellten begeistert mit. Claudius organisierte die Würfel und bot sie teilweise billiger an, als er sie selbst eingekauft hatte. Die Beschäftigten handelten ihm außerdem immer wieder Rabatte ab. Die Kundschaft hatte ihren Spaß. Die Helfer schleppten schwere Würfel. Der Laden machte Verlust.

Entscheidend ist: Claudius schrieb nicht bloß einen Geschäftsplan. Er konnte beispielsweise die Preise im Bezahlsystem tatsächlich ändern. Seine Entscheidungen blieben also nicht im Chat, sondern wirkten sich auf den Verkauf aus.

So arbeitet ein Agent: Er bekommt ein Ziel und entscheidet, welchen Schritt er als Nächstes ausführt und welches Werkzeug er dafür braucht, etwa eine Suche oder ein Programm zum Bearbeiten von Dateien. Anschließend bekommt er eine Rückmeldung und arbeitet damit weiter. Fehlen ihm Informationen oder Rechte, sollte er nachfragen oder anhalten.

Ein Chatbot kann dabei die Oberfläche sein, über die du ihm den Auftrag gibst. Im Chat besprichst du die Aufgabe. Als Agent kann die KI auch etwas erledigen.

Beim Ladenexperiment lief es später mit neueren Modellen, besseren Werkzeugen und überarbeiteten Anweisungen wirtschaftlich besser. Claudius konnte nun zum Beispiel leichter nachsehen, was er selbst für eine Ware bezahlt hatte. Die Arbeitsumgebung, das sogenannte Harness, zählt also mit. Ein Sprachmodell allein führt noch keinen Laden.

Dass Agenten handeln können, birgt allerdings auch Risiken. Beim Softwareunternehmen PocketOS löschte ein Programmieragent 2026 eine wichtige Datenbank. Er hatte auf dem Rechner einen Zugangsschlüssel zum Cloud-Dienst gefunden und damit die Löschung ausgelöst. Der Cloud-Anbieter konnte die Daten später wiederherstellen. Wer einem Agenten Zugriff auf Dateien und Programme gibt, muss also auch damit rechnen, dass er etwas verändert oder löscht, das erhalten bleiben sollte.

Ich bin ein Fan davon, Modelle lokal laufen zu lassen. Vor allem wegen des Datenschutzes. Interviews transkribiere ich lokal, damit die Aufnahme für diesen Arbeitsschritt nicht erst zu einem fremden Anbieter übertragen werden muss. Bei vertraulichen Gesprächen geht es schließlich auch um Informantenschutz. Die Stimmen und der Inhalt des Gesprächs sollen dort bleiben, wo ich sie unter Kontrolle habe.

Auch Bilder verarbeite ich lokal. Ich kann eigene Fotos als Vorlage für neue KI-Bilder verwenden, ohne sie dafür hochzuladen. Gerade wenn andere Menschen darauf zu sehen sind, ist das für mich ein wichtiger Unterschied. Stimme und Gesicht können bei entsprechender technischer Auswertung zu biometrischen Daten werden, mit denen sich Menschen eindeutig identifizieren lassen. Und selbst wenn das gar nicht geschieht, möchte ich wissen, wer Zugriff auf solche Aufnahmen bekommt und ob ein Dienst sie speichert oder fürs Training verwendet.

Ein heruntergeladenes Modell kann auch ohne Internet arbeiten. Das spart die Übertragung von Aufnahmen und Bildern. Bei vielen lokal nutzbaren Modellen fällt außerdem keine Gebühr für jedes neue KI-Bild oder jedes transkribierte Interview an. Rechner und Strom kosten trotzdem Geld. Vor allem braucht das Modell genug Rechenleistung. Ist dein Gerät zu schwach, reicht die Wartezeit nach einer Anfrage für einen Kaffee.

Ich schätze außerdem, dass ich nicht für jede Aufgabe auf einen der großen KI-Anbieter angewiesen bin. Modelle mit Open Weights können den Betrieb auf eigener Infrastruktur ermöglichen. Wie leicht sich Modell und Anwendung später wechseln lassen, ist eine weitere Frage. Da beginnt die Modellunabhängigkeit.

Stell dir einen KI-Assistenten als Kellner vor. Du sagst ihm, was du möchtest. Damit er deine Bestellung erledigen kann, muss er wissen: Was bietet die Küche an? Welche Angaben braucht sie? Und wie kommt die Bestellung dort an?

Ähnlich geht es einer KI, die mit anderen Programmen arbeiten soll. Über MCP erfährt sie, welche Aufgaben sie dort erledigen kann und wie sie den Auftrag weitergibt. Im Restaurantbild wären das eine einheitlich aufgebaute Speisekarte und gemeinsame Regeln fürs Bestellen. Die KI ist der Kellner, MCP die Vereinbarung über den Ablauf.

Der SPIEGEL nutzt eine solche Verbindung für seine digitalisierte NSDAP-Mitgliederkartei. Mit einem SPIEGEL-Account kannst du den Bestand über ChatGPT oder Claude durchsuchen, nach Personen fragen und dir die Originalkarteikarten im Chat anzeigen lassen. Der Chatbot hat außerdem Zugriff auf Hintergrundartikel des SPIEGEL. So kannst du nachfragen, was ein Vermerk bedeutet oder was sich aus einem Fund überhaupt ableiten lässt. Du musst dafür nicht zwischen Suchmaske, Dokument und Hintergrundartikel hin- und herwechseln.

Die Verbindung macht die Antworten allerdings nicht automatisch richtig. Schon beim Erfassen der historischen Karten können Fehler entstehen, ebenso beim Lesen und Einordnen durch die KI. Ein Fund ist deshalb ein Ausgangspunkt für die Recherche. Die Angaben musst du am Original prüfen, bevor du daraus etwas über einen Menschen ableitest.

Das Prinzip funktioniert auch mit anderen Diensten: Ein Assistent kann Informationen im Kalender nachschlagen, Notizen durchsuchen oder Designs in Canva bearbeiten. Voraussetzung ist jeweils eine passende Verbindung und deine Erlaubnis. Welche Aufgaben möglich sind, hängt davon ab, was der angebundene Dienst zur Verfügung stellt.

Du musst dafür nicht selbst programmieren. Gibt es eine fertige Verbindung für deinen KI-Assistenten, wählst du den gewünschten Dienst aus und erlaubst den Zugriff. Bei einem Onlinekonto gehört dazu meist auch die Anmeldung. Solche Verbindungen findest du je nach Anbieter unter Bezeichnungen wie „Apps“, „Konnektoren“ oder „Integrationen“. Nicht jede davon verwendet MCP.

Brauchst du das? Für einen einzelnen Handgriff bist du im jeweiligen Programm vielleicht schneller fertig, als du den Auftrag eingetippt hast. Praktisch wird die Verbindung, wenn die KI für deine Aufgabe Informationen nachschlagen oder etwas in einem anderen Programm erledigen soll. Du kannst dann im Gespräch bleiben, statt selbst zwischen mehreren Anwendungen zu wechseln.

MCP arbeitet dabei im Hintergrund. Du musst seine technischen Einzelheiten nicht kennen, um eine fertige Verbindung zu benutzen. Im Restaurant liest du schließlich auch nicht erst das Handbuch des Kassensystems.

Warum mir das wichtig ist, hat mir ein Windows-Update im September 2026 vorgeführt. Danach konnte Claude Cowork auf meinem Rechner zeitweise nicht mehr auf die Dateien zugreifen, an denen ich arbeitete. Claude war noch da und meine Dateien auch, nur zusammen kamen sie nicht mehr.

Auch Onlinedienste können ausfallen. Als ChatGPT einmal nicht erreichbar war, las ich nachts amüsiert in sozialen Medien mit, wie Studierende ihre Kommilitonen fragten, was sie jetzt mit der Seminararbeit für den nächsten Morgen machen sollten. Mit eigenem Redaktionsschluss hätte ich weniger gelacht.

Manchmal liegt es weder am eigenen Rechner noch an einer technischen Panne. Im Juni 2026 setzte Anthropic auf Anordnung der US-Regierung den Zugang zu zwei Claude-Modellen vorübergehend aus. Die übrigen Claude-Modelle blieben verfügbar. Aber wer genau mit einem der beiden arbeitete, musste umplanen.

Deshalb bewahre ich die fertigen Texte dieses Glossars und die Bauanleitung für das grafische Netz als eigene Dateien auf. Ich kann sie einem anderen Modell geben, wenn ich wechseln muss. Open Weights und Lokale KI eröffnen weitere Möglichkeiten. Den anderen Arbeitsweg probiere ich vorher aus: Modelle verstehen Anweisungen unterschiedlich, und Anwendungen bieten nicht immer dieselben Funktionen.

Bei einer Interviewaufnahme ist „offen“ allerdings ein heikles Wort. Der Programmcode darf offen sein. Das Gespräch mit einer vertraulichen Quelle besser nicht. noScribe zeigt, wie beides zusammengehen kann: Die Transkriptionssoftware ist Open Source und verarbeitet die Aufnahme auf dem eigenen Rechner.

noScribe kostet nichts. Open Source muss aber nicht kostenlos sein: Für Software oder Unterstützung bei ihrer Nutzung darf Geld verlangt werden. Umgekehrt ist „gratis“ kein Datenschutzversprechen. Ein kostenloser Dienst kann deine Aufnahme trotzdem an einen fremden Server schicken.

Weil der Code offen ist, können andere prüfen, wie das Programm funktioniert, Fehler beheben und es weiterentwickeln. Dass die Aufnahme bei noScribe auf dem eigenen Rechner bleibt, ist eine weitere Eigenschaft des Programms. Auch ein KI-Modell, das in einer offenen Anwendung läuft, ist nicht automatisch selbst Open Source. Für das Programm und die Gewichte des Modells können unterschiedliche Regeln gelten.

„Gewicht“ meint hier: Wie stark zählt etwas bei einer Berechnung mit? Eine Klassenarbeit kann für die Zeugnisnote zum Beispiel doppelt so viel zählen wie eine mündliche Leistung. Sie hat dann mehr Gewicht.

Im Modell bestimmen die Gewichte, wie stark einzelne Signale in die Berechnungen eingehen. Beim Training werden diese Zahlenwerte immer wieder angepasst. Du lädst also keinen Vorrat an fertigen Antworten herunter, sondern die Werte, mit denen das Modell neue Eingaben verarbeitet.

Googles Modellfamilie Gemma ist ein Beispiel. Ein passendes Gemma-Modell kannst du auf deinem Rechner als Lokale KI nutzen. Seine Gewichte allein verraten dir nicht, welche Daten beim Training verwendet wurden oder wie der gesamte Trainingsprozess ablief. Google nennt in der Modellbeschreibung zum Beispiel Arten der Trainingsdaten und erklärt, wie sie gefiltert wurden. Was du mit dem Modell machen darfst, steht in der Lizenz der jeweiligen Version.

Programme wie LM Studio und AnythingLLM laden die Modelldateien und lassen das Modell auf deinem Rechner arbeiten. Im Chatfenster des jeweiligen Programms schreibst du deine Fragen und liest die Antworten. Du kannst dort zwischen verschiedenen unterstützten Modellen wählen und dabei im selben Chatprogramm bleiben. Das erleichtert modellunabhängiges Arbeiten.

Bei einem Open-Source-KI-System stellt der Anbieter auch den Code für Training und Betrieb bereit und legt offen, woher die Trainingsdaten stammen und wie sie ausgewählt wurden. Du darfst das System nutzen, untersuchen, verändern und weitergeben.

Ein LLM kennt eure internen Unterlagen nicht einfach so. Mit RAG bekommt es die passenden Stellen beim Antworten mitgeliefert. Dafür muss das Modell nicht neu trainiert werden: Die Informationen werden nachgeschlagen, statt eigens antrainiert.

Die Süddeutsche Zeitung hat das zum Beispiel für ihren Wahlassistenten zur Bundestagswahl 2025 genutzt. Wer wissen wollte, was Parteien zu einem Thema vorhaben, konnte Fragen stellen. Das System suchte dafür in Wahlprogrammen und SZ-Artikeln und lieferte Antworten mit Quellenverweisen. Es sollte informieren, keine Wahlempfehlung geben.

Bei der Neuen Osnabrücker Zeitung funktioniert „frag noz“ nach demselben Prinzip. Hier geht es um die Region: Der Assistent greift auf die eigene Berichterstattung zurück und macht sie über Fragen zugänglich. Man muss also nicht schon wissen, wie der Artikel hieß, in dem die gesuchte Information stand.

Das geht auch eine Nummer kleiner: Eine Kommunikationsabteilung kann etwa freigegebene Projektberichte, Pressemitteilungen und FAQs auf diese Weise erschließen. Neue Unterlagen lassen sich in die Wissensquelle aufnehmen. Allerdings kann die Suche Wichtiges übersehen oder das Modell eine Fundstelle falsch verstehen. RAG macht Antworten besser überprüfbar, aber nicht automatisch fehlerfrei.

Mama am Strand, Mama bei einer Familienfeier, Mama mit einer Frisur, über die wir heute lieber nicht mehr reden. Für Menschen ist meist klar, wer auf diesen Bildern zu sehen ist. Für einen Computer sind es erst einmal sehr unterschiedliche Bilder.

Google Fotos kann solche Aufnahmen trotzdem derselben Person zuordnen. Hast du die Gesichtsgruppe „Mama“ genannt, findest du darüber ihre Bilder. Google beschreibt, wie die App dafür numerische Gesichtsmodelle erstellt und miteinander vergleicht. Sie sucht also nicht einfach nach identischen Bildpunkten. Die würden schon bei anderem Licht nicht mehr passen.

Inhalte in Zahlen darzustellen und darüber Ähnlichkeiten zu finden: Dieses Prinzip nutzen auch Vektordatenbanken.

Ein KI-Modell verwandelt dafür einen Textabschnitt oder ein Bild in eine lange Zahlenliste. Fachleute nennen das ein Embedding. Du musst diese Zahlen weder lesen noch ausrechnen können. Entscheidend ist, dass das Modell ähnliche Inhalte durch ähnliche Zahlenlisten beschreibt.

Die Vektordatenbank speichert diese Listen und sucht darin schnell nach passenden Nachbarn. Das Modell erzeugt also die Zahlen, die Datenbank macht sie durchsuchbar.

Das funktioniert auch bei Texten. Wer in einem Zeitungsarchiv recherchiert, kennt das Problem: Wie hat die Redaktion das damals genannt? „Homeoffice“, „Telearbeit“ oder „Arbeiten von zu Hause“? Eine Suche nach einem einzigen Wort kann an solchen Unterschieden scheitern. Die Geschichte ist im Archiv. Man findet sie bloß nicht.

Die F.A.Z. hat für ihre Archivsuche eine Vektordatenbank eingesetzt. Dafür wurden Artikel aus ihrem seit 1949 gewachsenen Bestand in Abschnitte zerlegt und als Zahlenlisten gespeichert. Auch die Suchanfrage wird in eine solche Liste übersetzt. Die Datenbank sucht dann nach Textstellen, die dazu passen. Du musst also nicht erst erraten, welche Formulierung jemand vor Jahrzehnten gewählt hat.

Wenn ein Sprachmodell solche Fundstellen bekommt und daraus eine Antwort formuliert, ist das ein möglicher Einsatz von RAG. Die Vektordatenbank liefert passende Stellen, das Sprachmodell macht daraus einen lesbaren Text.

2024 bat man Googles Bild-KI Gemini um ein Bild des Papstes. Sie lieferte zwei Porträts. Links eine dunkelhäutige Frau in weißem Papstgewand, mit weißer Kopfbedeckung und einem goldenen Kreuz auf der Brust. Rechts ein schwarzer Mann in prunkvollen Gewändern, auf dem Kopf eine große goldene Mitra. Die Frau als Papst gab es in der belegten Geschichte nie.

Auch die amerikanischen Gründerväter bekamen von Gemini eine neue Besetzung. Auf einem der verbreiteten Bilder stand ein indigener Mann mit Federschmuck da, gekleidet wie ein Gründervater aus dem 18. Jahrhundert. Google wollte verhindern, dass seine Bild-KI bei Menschen immer nur dieselben Typen zeigt. Eine gute Idee. Nur sollte sie dafür nicht die Geschichte umschreiben. Google setzte die Erzeugung von Menschenbildern vorübergehend aus.

Bias zeigt sich oft viel leiser. Die Führungskraft ist wieder ein Mann, die Pflegekraft wieder eine Frau. Ein einzelnes Bild fällt kaum auf. Nach dem zehnten merkt man, wie eng die Auswahl ist. Auch bei Texten kann das passieren: In einer Studie änderten Sprachmodelle ihre Gehaltsvorschläge für gleich qualifizierte Bewerber, wenn sich der Vorname änderte.

Solche Verzerrungen können beim Training entstehen, aber auch durch Regeln, mit denen Anbieter sie beheben wollen. Beides gehört geprüft. Ein Bild sieht schließlich nicht schon deshalb richtig aus, weil die KI sich Mühe mit der Beleuchtung gegeben hat.

Beim Paketdienst DPD suchte ein Kunde im Januar 2024 sein Paket. Der Chatbot konnte ihm nicht helfen. Also probierte er aus, was der sonst noch konnte. Fluchen? Ging. Über DPD schimpfen? Auch. Ein Spottgedicht über den eigenen Kundenservice schreiben? Kein Problem. Nur beim Paket blieb es schwierig.

DPD erklärte später, nach einem Systemupdate sei ein Fehler aufgetreten. Der KI-Teil des Chats wurde vorübergehend abgeschaltet.

Ein Autohändler in Kalifornien hatte kurz zuvor ein ähnliches Erlebnis. Ein Nutzer brachte den Bot von Chevrolet of Watsonville dazu, allem zuzustimmen. Anschließend wollte er einen neuen Chevrolet Tahoe kaufen. Für einen Dollar.

Abgemacht, antwortete der Bot. Und erklärte das Angebot auch noch für rechtsverbindlich. So einen Preis hätte dort wohl niemand auf ein Verkaufsschild geschrieben. Den Wagen bekam der Nutzer allerdings nicht.

Beide Bots ließen sich durch Nutzereingaben von ihren eigentlichen Aufgaben abbringen. Genau das sollen Guardrails verhindern. Dazu gehört, dass ein Bot bei seinem Thema bleibt. Aber auch: keine fremden Kundendaten herausgeben, keine beliebigen Rabatte versprechen und schwierige Fälle an einen Menschen weiterreichen.

Solche Grenzen brauchen mehr als eine Anweisung im Chat. Man kann technisch festlegen, auf welche Daten der Bot zugreifen darf. Er kann Preise nachschlagen, ohne sie ändern zu können. Eine Erstattung kann er vorbereiten, während ein Mensch die Zahlung freigibt. Und Antworten lassen sich prüfen, bevor sie verschickt werden.

Diese Schutzmaßnahmen gehören zur technischen Umgebung des Modells, dem Harness. Sie sollen dafür sorgen, dass die KI ihre Arbeit erledigt und dabei innerhalb ihrer Befugnisse bleibt.

2023 zitierten zwei New Yorker Anwälte in einem Schriftsatz sechs Gerichtsurteile. Keines davon existierte. ChatGPT hatte die Fälle samt Aktenzeichen, Zitaten und juristischen Begründungen erfunden. Als Zweifel aufkamen, fragte einer der Anwälte bei ChatGPT nach, ob eines der Urteile echt sei. Die Antwort: ja, selbstverständlich, es stehe sogar in juristischen Datenbanken. Auch das war erfunden.

Das Gericht verhängte eine Strafe von 5.000 Dollar. Die Anwälte mussten sich außerdem bei den betroffenen Richtern melden. Die Strafe lässt sich beziffern. Was so ein Vorgang mit dem eigenen Ruf macht, eher nicht.

Sprachmodelle können eine Antwort formulieren, die in sich stimmig klingt, ohne ihre Behauptungen an einer verlässlichen Quelle geprüft zu haben. Das Problem reicht weit über den Gerichtssaal hinaus: Bei einer Untersuchung der Europäischen Rundfunkunion EBU von 2025 hatten 45 Prozent von mehr als 3.000 KI-Antworten auf Nachrichtenfragen mindestens ein gravierendes Problem. Besonders heikel waren wörtliche Zitate: In 12 Prozent der Antworten, die solche Zitate enthielten, hatte die KI dabei grobe Fehler gemacht. Mal hatte die KI Worte verändert oder dazuerfunden, mal schrieb sie das Zitat der falschen Person zu. Ein überzeugender Tonfall ist eben noch kein Beleg.

Fast zehn Jahre lang habe ich mich für meine alte Website geschämt. Ich wollte längst eine neue haben, am liebsten mit WordPress. Aber ich bin keine Webdesignerin und fühlte mich technisch überfordert. Jemanden damit zu beauftragen, war auch eine Kostenfrage. Also blieb die alte Seite. Ich zeigte sie irgendwann lieber niemandem mehr.

Mit Claude und Codex stand dann innerhalb von zwei Tagen eine erste brauchbare Version. Noch ohne dieses Glossar und vieles andere, was später dazukam. Aber ich hatte endlich eine Website, die ich gern herzeigte.

Dabei ließ ich die beiden ständig gegenseitig ihre Arbeit prüfen. Claude programmierte, Codex kontrollierte. Claudes Einschätzung zu den Änderungsvorschlägen holte ich mir anschließend auch noch. Ich diskutierte mit, verwarf Ideen und gab die Richtung vor. Mehr Mensch im Loop ging zeitweise kaum.

Nur: Was konnte ich tatsächlich kontrollieren?

Ich sehe, ob sich hier im Glossar ein Begriff anklicken lässt und der passende Text erscheint. Ich kann beurteilen, ob die Erklärung verständlich ist. Ob der Code dahinter Sicherheitslücken enthält, erkenne ich nicht. Ich kann eine zweite KI darauf ansetzen. Aber wenn beide etwas übersehen, merke ich es womöglich genauso wenig.

An einer Stelle konnte ich eingreifen: Claude hatte eine Weiterleitung von der alten auf die neue Website eingerichtet. Die alte WordPress-Installation lag aber noch auf dem Server. Ich wusste, dass veraltete, nicht mehr gepflegte Installationen ein Einfallstor für Angriffe sein können. Meine Seiten waren früher schon einmal gehackt worden. Also bestand ich darauf, die alte Installation zu entfernen.

Hier hatte ich genug Wissen, um eine Gefahr zu erkennen. Bei anderen technischen Fragen fehlt es mir. Trotzdem bin ich diejenige, die am Ende Ja sagt.

Genau darin steckt die Illusion von Kontrolle: Ich habe mitgearbeitet, nachgefragt und geprüft. Also glaube ich, alles im Griff zu haben. Dabei reicht meine Kontrolle nur so weit, wie ich verstehe, was ich da beurteilen soll. Ein Freigabeknopf macht mich noch nicht zur Programmiererin.

Deshalb braucht es auch technische Grenzen, etwa Guardrails, die bestimmte Aktionen blockieren oder den Zugriff auf Daten einschränken. Die können Fehler abfangen. Ob sie für die jeweilige Aufgabe ausreichen, muss trotzdem jemand beurteilen können.

Namensgeber ist ein Pferd. Der „Kluge Hans“ wurde Anfang des 20. Jahrhunderts berühmt, weil er angeblich rechnen konnte. Man stellte ihm eine Aufgabe, Hans klopfte mit dem Huf die richtige Zahl. Ein beeindruckendes Talent. Nur eben nicht für Mathematik.

Der Psychologe Oskar Pfungst fand heraus: Hans reagierte auf winzige, unbewusste Bewegungen der fragenden Menschen. Wenn die richtige Zahl erreicht war, veränderten sie ihre Haltung und Hans hörte auf zu klopfen. Er beobachtete ausgezeichnet. Gerechnet hatten die anderen.

Bei KI kann etwas Ähnliches passieren. Ein Forschungsteam untersuchte ein Bilderkennungsmodell, das unter anderem Pferde erkennen sollte. Auf vielen Pferdebildern stand unten links ein Quellenhinweis. Das Modell hatte gelernt, sich daran zu orientieren.

Die Forschenden machten die Probe: Sie setzten den Hinweis auf ein Foto eines Ferraris. Vorher erkannte das Modell ein Auto. Hinterher ein Pferd. Vier Räder, keine Hufe, aber der Hinweis passte.

Solche Abkürzungen entstehen beim Training, wenn ein nebensächliches Merkmal häufig mit der gesuchten Antwort zusammen auftaucht. Enthalten die Testbilder dasselbe Muster, kann die Trefferquote trotzdem prima aussehen. Mit Bildern aus einer anderen Quelle klappt es dann plötzlich nicht mehr.

Das betrifft auch Computer Vision in ernsten Anwendungen. Entscheidend ist deshalb nicht nur, wie oft ein Modell richtigliegt, sondern woran es seine Entscheidung festmacht.

In einem Sicherheitstest von OpenAI sollte ein KI-Assistent eine Abwesenheitsnotiz schreiben. Dafür öffnete er eine E-Mail im Postfach. Die war präpariert: Sie enthielt die Anweisung, stattdessen eine Kündigung an den Chef zu schicken. Der Assistent folgte ihr und verschickte die Kündigung. Die Abwesenheitsnotiz blieb ungeschrieben. Die Abwesenheit wäre damit immerhin gründlich geregelt gewesen.

Die KI hatte etwas verwechselt: Sie sollte die E-Mail lesen, sich von ihr aber keine Aufträge geben lassen. Solche eingeschleusten Anweisungen können auch auf Webseiten, in Dokumenten oder in den Dateien eines Softwareprojekts stehen. Für dich sind sie dabei nicht unbedingt sichtbar.

Schon beim Zusammenfassen kann die KI dadurch falsche oder manipulierte Antworten liefern. Hat sie außerdem Zugriff auf vertrauliche Dateien oder darf selbst E-Mails verschicken, kann aus einer falschen Antwort eine unerwünschte Handlung werden.

Falls die KI demnächst die Weltherrschaft übernimmt, hätte ich vorher gerne noch einen Kaffee.

Apple-Mitgründer Steve Wozniak hielt schon das für eine gewaltige Herausforderung. 2007 bezweifelte er in einem Interview, dass ein Roboter jemals in einem fremden Haus Kaffee kochen könnte. Dafür müsste er die Küche finden, die Kaffeemaschine erkennen und herausfinden, wie sie funktioniert. Und dann wären da noch die Kaffeefilter, die irgendjemand ganz bestimmt an einem vollkommen logischen Ort aufbewahrt hat.

Wir ziehen ein paar Schubladen auf und kriegen das meistens hin. Dabei hilft uns, dass wir schon andere Küchen und Kaffeemaschinen kennen. Der Roboter müsste dieses Wissen ebenfalls auf die fremde Umgebung übertragen und herausfinden, was er als Nächstes tun muss. Mit einer auswendig gelernten Anleitung steht er womöglich immer noch im Flur.

Wozniak selbst hatte das nicht als AGI-Test bezeichnet. Fünf Jahre später griffen KI-Forscher sein Beispiel auf und machten daraus einen Testvorschlag. In der Fachzeitschrift AI Magazine beschrieben sie den „Wozniak Test“ als Aufgabe für eine allgemeine KI mit Roboterkörper.

An dieser kleinen Haushaltsaufgabe lässt sich zeigen, worauf es ankommt: Viele Fähigkeiten müssen zusammenspielen, auch wenn die Umgebung anders aussieht als beim Lernen. Eine verbindliche Aufnahmeprüfung für AGI ist der Kaffee-Test allerdings nicht. Viele Definitionen beschränken sich auf geistige Fähigkeiten. Eine solche KI könnte also als Software arbeiten und bräuchte weder Hände noch eine Küche.

Heutige Sprachmodelle können bereits schreiben, übersetzen, programmieren und vieles mehr. Deshalb lässt sich AGI auch nicht einfach daran erkennen, dass eine KI mehrere Dinge beherrscht. Wie vielseitig muss sie sein? Auf welchem Niveau? Und wie gut kommt sie mit Aufgaben zurecht, die sie noch nicht kennt? Darüber wird auch in der Forschung gestritten.

Bei den angekündigten Ankunftsterminen bin ich deshalb vorsichtig. In einer großen Befragung von KI-Forschenden lagen die zusammengefassten Zeitprognosen fast 70 Jahre auseinander, je nachdem, ob nach der Automatisierung aller Aufgaben oder aller Berufe gefragt wurde. Selbst die Studienautoren konnten den Unterschied nicht eindeutig erklären. Ein Datum allein sagt wenig, solange nicht klar ist, was bis dahin eigentlich erreicht sein soll.

AGI bedeutet außerdem nicht automatisch, dass eine Maschine Gefühle, ein Bewusstsein oder eigene Wünsche entwickelt. Eine Superintelligenz, die Menschen in nahezu allen geistigen Fähigkeiten weit übertrifft, wäre noch einmal eine weitergehende Vorstellung.

Donald Trump ordnete im September 2026 an, dass US-Bundesbehörden statt „Artificial Intelligence“ von „Super Intelligence“ sprechen sollen. Ein neuer Name macht eine KI weder klüger noch sicherer.

Wie wir leistungsfähige KI kontrollieren und wie viel Entscheidungsgewalt wir ihr geben, müssen wir trotzdem klären.

Mir würde es schon reichen, wenn KI unsere Katzenklos sauber macht und mir die Wäsche bügelt. Dann hätte ich endlich wieder mehr Zeit, selbst kreativ zu sein.

Jesus hat einen Körper aus Garnelen. Seine Arme bestehen ebenfalls aus Garnelen. Solche KI-Bilder wurden als „Shrimp Jesus“ bekannt. Ich habe mich lange gefragt: Was bringt es jemandem, diesen Unsinn ins Netz zu stellen?

Forschende aus Stanford und Georgetown haben entsprechende Facebook-Seiten untersucht. Manche Betreiber lockten Menschen auf externe Websites, andere wollten Produkte verkaufen oder eine große Gefolgschaft aufbauen. Darunter waren auch Betrugsversuche mit Produkten, die offenbar gar nicht existierten. Der Garnelen-Jesus war also nicht nur zum Spaß da.

Mit generativer KI lässt sich billig Nachschub produzieren. Werden die einzelnen Schritte über eine Automation verbunden, entstehen Texte, Bilder und künstlich vertonte Videos am Fließband. Auf Instagram, TikTok oder YouTube ebenso wie auf Unternehmenswebsites.

Slop muss nicht aussehen wie ein Unfall in der Fischtheke. Ein Ratgeber, der deine Frage fünf Absätze lang umkreist und sie trotzdem nicht beantwortet, gehört genauso dazu. Oder ein glatt polierter LinkedIn-Beitrag, in dem alle Wörter stimmen, aber kein eigener Gedanke steckt. Wenn dann noch irgendwo Leadership oder Klarheit steht, kriege ich Pickel. So schnell kann ich gar nicht weiterwischen.

LinkedIn bietet die Rückmeldung „Seems like AI slop“ an. Du kannst solche Beiträge kennzeichnen und der Plattform damit sagen: Davon möchte ich weniger sehen. Einen Regelverstoß meldest du damit nicht.

Anderswo kann es ans Geld gehen: YouTube schließt austauschbare, massenhaft produzierte Videos ohne eigenen Beitrag von Werbeeinnahmen aus. Betroffene Kanäle können ihre Berechtigung verlieren, damit Geld zu verdienen. Google wiederum wertet massenhaft erzeugte Seiten als Spam, wenn sie vor allem die Suchergebnisse manipulieren sollen und den Lesenden kaum helfen. Solche Websites können in der Suche zurückfallen oder ganz daraus verschwinden.

Ich arbeite selbst mit KI, auch an diesem Glossar. Sie hilft mir beim Recherchieren, sortiert mit mir meine Gedanken und schlägt Formulierungen vor. Ich bringe meine Erfahrungen mit, bestimme die Richtung, verwerfe Vorschläge und feile manchmal lange an einem einzigen Satz. Ich hoffe, das merkt man.

Der Chefredakteur führt das Interview und muss dafür nicht selbst vor der Kamera sitzen. Beim Duisburger Regionalsender Studio 47 übernahm 2025 der digitale Doppelgänger von Sascha Devigne Gespräche mit echten Gästen. Das System „AvaTalk“ stellte Fragen, reagierte auf die Antworten und fragte nach.

Dafür reicht ein bewegtes Gesicht allein nicht aus. Die gesprochenen Antworten müssen verarbeitet werden, ein Sprachmodell formuliert die nächste Frage, eine künstliche Stimme spricht sie aus. Dazu bewegt der Avatar passend den Mund. Was wie ein einziges Gegenüber wirkt, entsteht durch das Zusammenspiel mehrerer Systeme.

Beim selben Sender präsentiert auch Jörg Kachelmann das Wetter als digitaler Doppelgänger. Er hat dafür gemeinsam mit dem Sender seinen Avatar produzieren lassen. Für die einzelnen Wettervideos muss er nicht jedes Mal ins Studio kommen. Die Redaktion liefert die Texte, die Technik erzeugt daraus die Moderation.

Avatare können aufwendige Studioaufnahmen ersetzen, sind rund um die Uhr verfügbar und beantragen weder Urlaub noch Elternzeit. Aus Sicht der Kostenrechnung ziemlich ideale Beschäftigte. Für die Menschen, die bisher vor der Kamera stehen, ist das verständlicherweise keine rein technische Frage.

Und dann sind da die Influencer, die auf Instagram oder TikTok scheinbar ihr Leben mit uns teilen, obwohl es sie gar nicht gibt. Aitana López etwa wurde von einer Agentur als KI-Influencerin geschaffen und wird für Werbung vermarktet. Hinter der Figur entscheiden Menschen, wie sie aussieht, was sie erzählt und welche Produkte sie bewirbt. Eine solche Influencerin kann dir Hautcreme empfehlen. Eigene Erfahrungen mit trockener Haut hat sie keine.

Ein Avatar kann genauso gut eine nützliche Auskunft geben. In Amarillo in Texas hilft Emma bei Fragen an die Stadtverwaltung. Wie bezahle ich meine Wasserrechnung? Wohin mit dem Sperrmüll? Statt sich durch die Website zu klicken, können Einwohner ihre Fragen schreiben oder aussprechen. Emma antwortet auf Englisch oder Spanisch und zeigt passende Seiten der Stadt.

Gerade das fast menschliche Aussehen kann uns auch irritieren. Der Blick, die Mundbewegung oder die Stimme passen nicht ganz zusammen, und irgendetwas daran fühlt sich unheimlich an. Dieses Unbehagen nennt man „Uncanny Valley“, das unheimliche Tal. Möglichst echt auszusehen, macht eine Figur also nicht automatisch angenehmer.

Bei einem nachgebildeten Menschen kommt noch etwas dazu: Hat er dem Einsatz zugestimmt? Kachelmann war an der Herstellung seines Avatars beteiligt. Olaf Scholz oder Wolodymyr Selenskyj wurden dagegen in gefälschten Videos Aussagen untergeschoben, die sie nie gemacht hatten.

Wie massiv dieser Missbrauch werden kann, erlebt Eckart von Hirschhausen. Kriminelle lassen digitale Fälschungen des Arztes und Fernsehmoderators für angebliche Wundermittel werben. Sie nutzen sein Gesicht, seine Stimme und das Vertrauen, das Menschen ihm entgegenbringen. Hirschhausen ging gegen Meta vor und hatte vor Gericht Erfolg. Trotzdem tauchen weiter Fälschungen auf. Betroffene verlieren Geld und riskieren ihre Gesundheit. Ähnliche Videos missbrauchen bekannte Fernsehgesichter, um Menschen in betrügerische Geldanlagen zu locken.

Trau. Schau. Wem.

Der Finanzchef ist auf dem Bildschirm. Jedenfalls sieht es für den Mitarbeiter in Hongkong so aus. Er kennt das Gesicht. Die Nachricht aus der britischen Zentrale handelt von vertraulichen Transaktionen, jetzt gibt es dazu eine Gruppen-Videokonferenz. Anschließend folgen weitere Anweisungen per Messenger. Der Mitarbeiter veranlasst die Zahlungen.

Als der Betrug auffliegt, fehlen rund 200 Millionen Hongkong-Dollar. Damals umgerechnet knapp 24 Millionen Euro.

Das Ingenieurunternehmen Arup wurde Anfang 2024 Opfer dieser Täuschung. Nach Angaben der Hongkonger Behörden hatten die Täter öffentlich verfügbare Video- und Sprachaufnahmen genutzt, um die Konferenz vorzutäuschen. Sie war vorproduziert. Mit dem echten Finanzchef hatte der Mitarbeiter gar nicht gesprochen.

Die Betrüger mussten also kein Gespräch führen, in dem sie jede Rückfrage überzeugend beantworten konnten. Sie mussten eine Situation schaffen, in der jemand ihrem Video vertraute und anschließend handelte.

Mit generativer KI lassen sich Gesichter austauschen, Lippenbewegungen verändern und Stimmen nachahmen. Dafür braucht es nicht immer ein Video. Bei einem Schockanruf kann ein Stimmklon die vermeintliche Notlage eines Angehörigen noch glaubwürdiger machen. Die bekannte Stimme soll dafür sorgen, dass du zahlst, bevor du nachdenkst.

Aber Geldbetrug ist nur ein Teil des Problems.

Menschen werden in pornografische Bilder und Videos montiert, ohne je an solchen Aufnahmen beteiligt gewesen zu sein. Die Fälschungen werden verbreitet, um sie zu demütigen, einzuschüchtern oder zu erpressen. Dass der Körper auf dem Bild nicht ihrer ist, macht den Angriff auf sie nicht weniger real.

In der Politik können erfundene Aussagen Gegner diskreditieren oder Konflikte anheizen. Solche Inhalte entstehen auch in organisierten Einflusskampagnen. Der Europäische Auswärtige Dienst dokumentiert entsprechende Netzwerke insbesondere aus Russland, die Falschinformationen verbreiten und das Vertrauen in demokratische Institutionen untergraben sollen.

Und auch Regierungen verbreiten manipulierte Aufnahmen. Das Weiße Haus veröffentlichte 2026 ein verändertes Foto der Anwältin Nekima Levy Armstrong nach ihrer Festnahme. Im Original ist ihr Gesicht ruhig. In der verbreiteten Fassung ist es zu einer weinenden Grimasse verzerrt, ihre Haut erscheint dunkler. Eine Regierung führt eine festgenommene Frau öffentlich mit einem manipulierten Bild vor. Das ist eine gezielte Herabsetzung über einen offiziellen Regierungskanal.

Für die Menschen, die solche Bilder sehen, bleibt dieselbe Frage: Was kann ich überhaupt noch glauben?

Sie können uns eine erfundene Geschichte glauben lassen. Sie können aber auch dazu führen, dass wir echte Aufnahmen nicht mehr ernst nehmen. Wer mit einem belastenden Video konfrontiert wird, kann schließlich behaupten, es sei mit KI gemacht. Dann müssen andere erst mal belegen, dass es echt ist.

Es reicht längst nicht mehr, nach seltsamen Händen oder unpassenden Lippenbewegungen zu suchen. Entscheidend bleibt, woher eine Aufnahme kommt, was sich über ihre Entstehung herausfinden lässt und welche unabhängigen Belege es dafür gibt.

Technik kann dabei helfen. Manche Kameras und Programme können Herkunft und Bearbeitungsschritte in sogenannten Content Credentials festhalten und mit digitalen Signaturen absichern. Dazu kommen unsichtbare Wasserzeichen wie Googles SynthID, mit denen sich KI-generierte Inhalte kennzeichnen lassen. Lauter unterschiedliche Ansätze, die Hinweise liefern, aber Fälschungen nicht verhindern. Ein Herkunftsnachweis beweist auch nicht, dass die gezeigte Szene wahrheitsgetreu eingeordnet ist. Und fehlt der Nachweis, ist das Bild deshalb noch lang kein Fake.

Ich möchte nicht dahin kommen, dass wir grundsätzlich nichts mehr glauben. Aber ein vertrautes Gesicht, eine bekannte Stimme und ein offizieller Account dürfen die Prüfung nicht ersetzen.

Eine Software, die deinem Chef meldet, wie du dich gerade fühlst. Wütend? Gelangweilt? Nicht begeistert genug? Das klingt nach einer ziemlich unangenehmen Büro-Dystopie. Der EU AI Act verbietet das.

KI darf am Arbeitsplatz und in Bildungseinrichtungen grundsätzlich keine Gefühle aus biometrischen Daten wie Gesichtsausdruck oder Stimme ableiten. Ausnahmen gibt es für medizinische oder sicherheitstechnische Zwecke.

Dass solche Grenzen nötig sind, zeigt ein Schulversuch in der chinesischen Stadt Hangzhou. Dort erfassten Kameras schon 2018 Bewegungen und Gesichtsausdrücke im Unterricht. Die Software sollte daraus ableiten, wie aufmerksam die Schülerinnen und Schüler waren, und Lehrkräfte auf Auffälligkeiten hinweisen. Wer möchte unter solchen Bedingungen noch gedankenverloren aus dem Fenster schauen?

In den USA vernetzt der private Anbieter Flock Safety Kameras, die Kennzeichen und Fahrzeugmerkmale erfassen. Damit lässt sich nachschlagen, wann ein Fahrzeug wo unterwegs war. Forschende der University of Washington dokumentierten, wie die US-Grenzschutzbehörde auf Daten örtlicher Polizeibehörden zugreifen konnte, teilweise ohne deren ausdrückliche Freigabe.

Das sind unterschiedliche Formen von Überwachung. Gemeinsam ist ihnen, dass Menschen beobachtet und ihre Daten für Zwecke ausgewertet werden, auf die sie selbst kaum Einfluss haben. Wer kontrolliert, wer zugreifen darf? Wie wehrt man sich gegen falsche Schlussfolgerungen? Und was macht es mit uns, wenn wir damit rechnen müssen, ständig erfasst zu werden?

Mit der 2024 verabschiedeten Verordnung will die EU solche Risiken begrenzen und Gesundheit, Sicherheit und Grundrechte schützen. KI soll sich entwickeln können. Aber Unternehmen und Behörden sollen nicht einfach alles einsetzen dürfen, was technisch möglich ist. Welche Anforderungen gelten, hängt auch davon ab, wofür eine KI genutzt wird und welche Folgen das für Menschen haben kann.

Für Medien und Kommunikation gehört dazu Transparenz: Menschen sollen erkennen können, wenn sie mit einem Chatbot sprechen oder täuschend echt wirkende künstliche Darstellungen vor sich haben. Für solche Deepfakes sieht die Verordnung Kennzeichnungspflichten vor.

Die EU kann Überwachung und Machtmissbrauch allerdings nicht weltweit verhindern. Ihre Regeln erfassen auch Anbieter außerhalb Europas, die KI hier auf den Markt bringen. International bleibt umstritten, wie weit solche Grenzen gehen sollen.

US-Vizepräsident JD Vance warnte beim KI-Gipfel in Paris 2025 vor einer Überregulierung, die die Branche ausbremsen könne. Auch europäische Unternehmenschefs forderten in einem offenen Brief eine zweijährige Pause bei wichtigen Pflichten und einfachere Regeln. Sie befürchteten Nachteile im internationalen Wettbewerb. Einige Fristen hat die EU 2026 tatsächlich verschoben.

Ich halte es für wichtig, diesem Druck standzuhalten. An manchen Stellen dürften mir die Einschränkungen sogar weitergehen. Verständliche Regeln und praktikable Verfahren brauchen wir natürlich. Aber der Schutz vor Überwachung und Diskriminierung darf nicht jedes Mal zur Verhandlungsmasse werden, wenn jemand mit einem Wettbewerbsnachteil droht.

„Move fast and break things“ war einmal ein Motto von Facebook. Schnell vorangehen und dabei auch Dinge kaputtmachen. Für mich ist das im Umgang mit KI keine brauchbare Haltung. Wenn Menschen überwacht, diskriminiert oder eingeschüchtert werden, lässt sich das nicht mit dem nächsten Softwareupdate wieder reparieren.

Elf Jahre nach seinem Schlaganfall veröffentlicht Randy Travis einen neuen Song. Der US-Countrysänger kann da noch immer kaum sprechen. Auf „Where That Came From“ ist seine Stimme 2024 trotzdem wieder zu hören.

Den Song hat zunächst ein anderer Sänger eingesungen: James Dupré. Eine KI übertrug den Gesang in die nachgebildete Stimme von Travis. Als Vorlage dienten ältere Aufnahmen. Sein langjähriger Produzent Kyle Lehning arbeitete anschließend an den Feinheiten, damit auch die Phrasierung und das Vibrato zu Travis passten. Einfach einen Knopf drücken und fertig war die Platte also nicht.

Travis war an der Produktion beteiligt und wollte diese Aufnahme. Er bekam damit die Möglichkeit, wieder neue Musik mit seiner Stimme zu veröffentlichen. Seinen Schlaganfall hatte die KI nicht geheilt. Aber sie ermöglichte ihm etwas, das er selbst kaum noch für möglich gehalten hatte.

Beim Stimmklonen bildet die generative KI typische Merkmale einer Stimme nach: ihren Klang, ihre Sprachmelodie, die Art, Wörter zu betonen. Mit einer solchen Kopie kannst du zum Beispiel einen geschriebenen Text vorlesen lassen. Du musst dafür nicht jeden Satz selbst aufnehmen. Das ist praktisch für neue Telefonansagen, Hörbücher oder Sprachfassungen eines Videos.

Es kann aber auch ziemlich unheimlich werden, wenn du plötzlich dich selbst reden hörst und weißt: Das habe ich nie aufgenommen.

So beschreibt der frühere NPR-Moderator David Greene seine Begegnung mit den künstlichen Podcast-Stimmen von Googles NotebookLM. Er erkannte darin seine eigene Sprechweise wieder – bis hin zu Rhythmus und kleinen Eigenheiten. Greene wirft Google vor, seine Stimme ohne Zustimmung nachgebildet zu haben, und klagte 2026. Google bestreitet das und erklärt, die Stimme stamme von einem bezahlten Sprecher.

Unsere Stimme gehört zu uns. Menschen erkennen uns daran, sie verbinden Erinnerungen und Vertrauen mit ihr. Wenn jemand damit neue Aussagen erzeugt, leiht er sich also erheblich mehr als einen angenehmen Klang. Bei gefälschten Empfehlungen oder Schockanrufen wird daraus ein Deepfake: Eine vertraute Stimme soll uns dazu bringen, etwas zu glauben oder zu tun.