Warum KI manchmal Dinge erfindet [Video und Quiz]

Kurz gesagt: KI erfindet manchmal Dinge, weil sie plausible nächste Wörter vorhersagt, nicht verifizierte Fakten – flüssiges Sprechen ist kein Beweis. Bei Nischenthemen, wichtigen Themen oder solchen, die exakte Namen und Zahlen erfordern, werden Lücken mit voreiligen Vermutungen gefüllt, sofern man die Antwort nicht fundiert untermauert und die Behauptungen stichprobenartig überprüft.

Artikel, die Sie im Anschluss an diesen Artikel vielleicht interessieren:

🔗 Hören Sie auf, KI wie Google zu behandeln.
Erfahren Sie, warum bessere KI-Ergebnisse einen anderen Ansatz erfordern.

🔗 Ihre erste richtige KI-Aufforderung
Erstellen Sie eine klare, effektive Aufforderung mit einer einfachen Struktur.

🔗 Die 4 Bestandteile einer gelungenen KI-Aufforderung
Entdecken Sie vier wesentliche Elemente, die die Qualität von KI-Aufforderungen verbessern.

🔗 Was ist KI eigentlich?
Künstliche Intelligenz einfach, praktisch und alltagstauglich erklärt.

Wichtigste Erkenntnisse:

Vorhersage ohne Wissen: Behandeln Sie flüssige Prosa als Mustervervollständigung, niemals als unumstößlichen Beweis.

Selbstvertrauensfalle: Ein selbstbewusster Tonfall ist Stil; die Richtigkeit muss separat außerhalb des Chats überprüft werden.

Falsche Verpackung: Recherchieren Sie Zitattitel und Zitate selbst, bevor Sie ordentlichen Referenzlisten vertrauen.

Antwortgrundlage: Quellenangaben einfügen und erfundene URLs, Studien oder Statistiken verbieten.

Menschliche Prüfung: Überprüfen Sie zuerst stichprobenartig die risikoreichsten Ansprüche, insbesondere in den Bereichen Gesundheit, Recht oder Finanzen.

Vorhersagen sind nicht dasselbe wie Wissen

Hier die Kurzfassung: Die meisten Chat-Modelle funktionieren nach Schema F. Man stellt eine Frage. Sie generieren eine Antwort, die dem Muster einer guten Antwort entspricht. Dieses Muster umfasst Fakten, Tonfall, Struktur – das gesamte Erscheinungsbild. Manchmal verbirgt sich dahinter echtes Wissen. Manchmal ist es aber auch nur eine voreilige Vermutung, die eine Wissenslücke füllt.

Eine etwas freie Metapher hilft vielleicht, aber ich will es etwas genauer erklären. Stellen Sie sich einen Jazzpianisten vor, der unzählige Lieder kennt. Bitten Sie ihn, „das Lied mit dem blauen Koffer“ zu spielen, und er erfindet womöglich eine wunderschöne Melodie, die es so noch nie gab – weil die Bitte so klingt, als ob sie dazu passen würde. Moment mal – das übertreibt die Kunstfertigkeit. Es ist eher wie eine Autovervollständigung auf Steroiden. Das System vervollständigt einen plausiblen Absatz, anstatt einen Aktenschrank mit der Aufschrift „Wahrheit“ zu öffnen.

Wenn man also fragt, warum KI manchmal Dinge erfindet, lautet die kurze Antwort: Lücken werden mit statistisch plausiblen Daten gefüllt . Fehlt eine Quellenangabe, erfindet das Modell eine, die wissenschaftlich wirkt. Ist es sich bei einer Zahl unsicher, liefert es eine plausible. Fehlt der zweite Vorname einer Person, erfindet es einen, der zur Epoche und Kultur passt. Zunächst etwas überraschend. Erkennt man das Muster, ist es nicht mehr so ​​irritierend. 

• Das Ziel der Textgenerierung ist ein flüssiger Text – nicht die verifizierte Wahrheit.
• Leere Wissenslücken werden trotzdem mit Worten gefüllt.
• Die Wahrscheinlichkeit, dass „klingt richtig“ stimmt, kann in der Rangfolge des Modells die Wahrscheinlichkeit übertreffen, dass „richtig“ stimmt.

Selbstvertrauen versus Genauigkeit – die unangenehme Kluft

Menschen neigen dazu, sich in Unsicherheiten unsicher zu machen. Wir sagen dann „Ich glaube“, „vielleicht“ oder „Ich müsste das überprüfen“. Auch Modelle können sich vorsichtig ausdrücken – wenn man sie dazu anweist –, doch ihre Standardausgaben wirken oft wie eine selbstsichere Darstellung. Diese glatte Sprache ist ein Zeichen dafür, dass die Modelle auf Hilfsbereitschaft trainiert wurden, und kein Indiz dafür, dass jede Aussage fundiert war.

Selbstvertrauen und Genauigkeit sind zwei verschiedene Dinge. Das eine kann man voll aufdrehen, während das andere fast auf Null steht. Das kennen Sie sicher auch von Kollegen, die mit absoluter Überzeugung einen falschen Prozess erklären. KI kann das Gleiche, nur schneller und mit ansprechenderer Darstellung.

Praktische Empfehlung: Behauptende Formulierungen sind eher Stilmittel als Beweismittel. Wenn eine Antwort keine überprüfbaren Quellen enthält, Unsicherheiten nicht eingesteht und lediglich eine Reihe konkreter Namen oder Zahlen auflistet, sollten Sie vorsichtig sein. Unzureichende Spezifizierung ist ein klassisches Warnsignal. 

• Ein selbstbewusster Tonfall bedeutet nicht automatisch verifizierten Inhalt.
• Bitten Sie das Modell, Unsicherheiten absichtlich zu kennzeichnen.
• Lieber „Hier ist, worüber ich mir unsicher bin“ als eine vorgetäuschte, absolut lückenlose Erklärung.

Gefälschte Zitate und Details, die echt aussehen

Das hier ist besonders ärgerlich, weil es so professionell aussieht. Gefälschte Titel von Artikeln. Gefälschte Zeitschriftennamen. Gefälschte URLs, die fast zum Anklicken einladen. Gefälschte Zitate, die berühmten Persönlichkeiten zugeschrieben werden. Die Formatierung ist oft perfekt – Kursivschrift, absichtlich vermiedene Jahreszahlen, Autorennamen – und genau diese Aufmachung täuscht Leser, die nur überfliegen.

Dies geschieht aus einem einleuchtenden Grund. Die Form von Zitaten ist in Trainingstexten üblich. Fragt man nach „Quellen“, kann das Modell die Form einer wissenschaftlichen Arbeit erzeugen, ohne einen tatsächlichen Eintrag abzurufen. Es ist, als würde man jemanden bitten, einen Kassenbon aus dem Gedächtnis zu zeichnen. Man erhält etwas, das wie ein Kassenbon aussieht. Das Geschäft hat möglicherweise nie existiert.

Ich habe einmal miterlebt, wie jemand den Entwurf einer Studie zur Produktivität im Homeoffice mit einer makellosen Autorenliste erstellte. Sie wirkte wie von Fachleuten begutachtet. Dabei war sie völlig wertlos. Genau das ist die Gefahr: Unser Gehirn wiegt sich in falscher Sicherheit, wenn die Verpackung hochwertig aussieht. Aber Vorsicht!. 

• Fordern Sie Titel an, die Sie selbst finden können – und suchen Sie dann auch ernsthaft danach.
• Seien Sie misstrauisch gegenüber sorgfältig angefertigten Zitat-plus-Quellenangaben-Paketen, die Sie nie angefordert haben.
• Lässt sich keine „Quelle“ schnell finden, ist die Behauptung als unbegründet zu betrachten.

Wenn das Erfindungsrisiko am höchsten ist

Nicht jedes Gespräch ist gleich gefährlich. Ein Gedicht über Kaffee kann nach Herzenslust Metaphern erfinden – genau das ist der Sinn. Eine Medikamentendosis, eine rechtliche Frist, die Preispolitik eines Konkurrenten oder ein historischer Anspruch auf einen veröffentlichten Artikel spielen in einer ganz anderen Liga.

Das Risiko steigt, wenn das Thema Nischenthemen, aktuelle Ereignisse oder sehr spezifische Themen betrifft. Es steigt auch, wenn man nach exakten Zahlen, konkreten Dokumenten, internen Unternehmensinformationen oder der Angabe von zehn peer-reviewten Studien fragt. Je präziser die Anfrage, desto größer ist die Versuchung für das Modell, Lücken mit plausiblen Angaben zu füllen.

Lange, eindrucksvolle Antworten können riskanter sein als kurze, vorsichtige. Länge wirkt aufwendig. Aufwand wirkt sorgfältig. Sorgfalt wirkt wahrheitsgemäß. Durch diese verschlungene Kette von Eindrücken schleichen sich Fehlinformationen in Präsentationen ein. 

• Hohes Risiko: Gesundheit, Recht, Finanzen, Compliance, Sicherheit, namentlich genannte Personen, genaue Statistiken.
• Mittleres Risiko: Nischenbranchenprozesse, Werkzeugeinstellungen, Listen mit „Best Practices“.
• Geringeres Risiko: Brainstorming, Gliederung, Überarbeitung des eigenen Entwurfs, Anpassung des Tons.

Zuverlässige vs. unzuverlässige Ergebnisse – ein kurzer Vergleich

Ein Gespräch am Tisch ist besser als eine weitere Motivationsrede. Kleinere Eigenheiten eingeschlossen, denn gewöhnliche Gespräche sind ja bekanntlich eigenwillig.

Behalte diese mentale Bewertungsliste immer griffbereit. Du wirst unsichere Leistungen so schnell bemerken wie ein leicht gezwungenes Lächeln auf einem Foto – irgendetwas wirkt gestellt.

Wie man erfundene Antworten erkennt, ohne paranoid zu werden

Sie müssen nicht jedes Adjektiv überprüfen. Eine einfache und regelmäßige Überprüfung der wichtigsten Angaben ist jedoch ratsam. Kontrollieren Sie stichprobenartig die wichtigsten Punkte: die Nummer, den Namen, die Police, das Angebot. Sollte dieser Punkt nicht stimmen, ist der Rest der Aussage fraglich.

Ein weiteres Indiz: ein innerer Widerspruch. Das Modell behauptet, ein Werkzeug tue „immer“ etwas Bestimmtes, beschreibt dann aber später eine Ausnahme, als sei sie Standard. Oder es erfindet eine Funktion und erklärt anschließend, wie man sie deaktiviert – wie ein Traum, der ständig neue Türen erfindet. Stellen Sie Nachfragen, die die Schwachstellen aufdecken. Erfundene Welten neigen dazu, unter Druck ins Wanken zu geraten.

Achten Sie auch auf übertrieben perfekte Präsentation. Jeder Absatz gleich glattgebügelt. Jede Empfehlung gleich überzeugt. Echte Expertise hat meist Struktur – Einschränkungen, Kompromisse, „es kommt darauf an“. Glatte Perfektion verdient besondere Aufmerksamkeit. 

• Überprüfen Sie zuerst die riskanteste Behauptung, nicht den gesamten Aufsatz.
• Fragen Sie: „Wobei sind Sie sich am wenigsten sicher?“ und beobachten Sie, ob die Maske fällt.
• Überprüfen Sie Namen, Titel und Nummern außerhalb des Chats.
• Bevorzugen Sie Antworten, die sich auf eingefügten Text beziehen, gegenüber frei verfügbaren Fakten.

Gewohnheiten, die Erfindungen reduzieren

Halluzinationen lassen sich nicht mit einem Zaubersatz beseitigen – tut mir leid –, aber man kann ihren Wirkungsradius verringern. Gute Vorgaben schränken das Spiel ein. Schlechte Vorgaben laden zur Improvisation ein.

Probieren Sie solche Gewohnheiten aus. Sie klingen vielleicht etwas trocken, aber sie funktionieren häufiger als raffinierte Trickvorschläge.

• Wissensumfang festlegen: „Verwenden Sie nur die von mir eingefügten Notizen. Falls etwas fehlt, geben Sie an, dass Sie es nicht wissen.“
• Verbot von gefälschten Quellen: „Erfinden Sie keine Zitate, Anführungszeichen oder URLs.“
• Unsicherheitskennzeichnungen erzwingen: „Kennzeichnen Sie jeden Punkt mit: bekannt / abgeleitet / geschätzt.“
• Bitten Sie um Alternativen: „Nennen Sie zwei Optionen und erklären Sie, warum jede einzelne falsch sein könnte.“
• Bitten Sie um eine Bestätigung Ihrer Annahmen: "Listen Sie Ihre Annahmen auf."
• Struktur ist wichtiger als Atmosphäre: Tabellen, Checklisten und Spalten für Behauptungen/Beweise sind hilfreich.

Überraschenderweise reduziert die Aufforderung an das Modell, „Ich weiß es nicht“ zu sagen, den sozialen Druck, Gewissheit vorzutäuschen. Die Modelle spiegeln die Aufgabenstellung wider. Wird Vollständigkeit um jeden Preis belohnt, entstehen fiktive Geschichten mit ansprechender Aufmachung. Wird hingegen ein offener Umgang mit Lücken belohnt, entstehen weniger glänzende Lügen. 

Und ja – Nachfragen sind wichtig. Erste Antworten sind Entwürfe. „Dieses Zitat sieht gefälscht aus – entferne alles, was du nicht überprüfen kannst“ ist eine völlig normale zweite Nachricht. Behandle den Chat wie einen Bearbeitungsprozess, nicht wie einen Warenautomaten, der dir beim ersten Cent die Wahrheit schuldet.

Erdung, Nachbereitung und Leben mit Unsicherheit

Das Verankern der Antwort an etwas außerhalb der improvisierten Lösung des Modells bedeutet, sie mit etwas zu verknüpfen: Ihrem eingefügten Richtliniendokument, Ihrer Tabellenkalkulation, Ihren Besprechungsnotizen, einer bekannten öffentlichen Webseite, die Sie selbst überprüfen. Wenn die Antwort innerhalb dieser Grenzen bleiben muss, hat die Kreativität weniger Spielraum.

Die Nachfragen sind die zweite Hürde. „Woher stammt diese Zahl?“ „Welcher Teil ist eine Schlussfolgerung?“ „Überarbeiten Sie den Text ohne Nennung von Studien.“ Jede Frage ist eine kleine Überprüfung. Ich denke, das ist der richtige Umgang mit diesen Instrumenten – nicht blindlings, nicht in Panik verfallen, sondern einfach nur überprüfen.

Unsicherheit ist kein Fehler in Ihrem Arbeitsablauf. Sie ist wie das Wetter. Manchmal liefert das Modell eine treffende Zusammenfassung Ihres Textes. Manchmal erfindet es einen Unterausschuss, der nie zusammentritt. Ihre Aufgabe ist es, zu entscheiden, welche Ergebnisse eine Überarbeitung benötigen. 

• Quellenangaben sind dann einzufügen, wenn es auf Genauigkeit ankommt.
• Fordern Sie Konfidenzkennzeichnungen auf Anspruchsebene an.
• Bei wichtigen Entscheidungen sollte immer ein Mensch in den Entscheidungsprozess einbezogen werden
• Die „kreative Freiheit“ sollte für kreative Aufgaben reserviert werden – nicht für die Einhaltung von Vorschriften.

Was tun, wenn man mitten im Flow eine Halluzination bekommt?

Verliere dich nicht in Nebensächlichkeiten. Schwöre nicht, das Werkzeug für immer zu meiden, als hätte es dich persönlich verraten – auch wenn der Drang stark sein mag. Korrigiere den Faden und mach weiter.

Eine einfache Wiederherstellungsschleife:

• Weisen Sie darauf hin: „Diese Quelle scheint erfunden zu sein. Entfernen Sie unbegründete Behauptungen.“
• Neu verankern: Fügen Sie das eigentliche Dokument, Zitat oder die Daten ein.
• Konkret überarbeiten: Bitten Sie um eine korrigierte Passage, nicht um einen komplett neuen Aufsatz mit inhaltsleerer Ausschmückung.
• Überprüfen Sie noch einmal die Details: Namen, Nummern, Prozessschritte.
• Legen Sie die Vertrauensstufe fest: Brainstorming-Partner vs. Entwurfsassistent vs. „Nicht für dieses Thema“.

Das Erkennen einer einzelnen Halluzination kann den weiteren Verlauf des Gesprächs verbessern – vorausgesetzt, Sie präzisieren die Vorgaben. Das Modell „fühlt sich nicht schuldig“, aber Ihre klareren Anweisungen verändern, worauf es optimiert. Sie haben die Kontrolle. Lenken Sie umso stärker, wenn sich Einfallsreichtum zeigt. 

Alltagssituationen, in denen dies im Stillen eine Rolle spielt

Berufliche E-Mails: Eine erfundene „branchenübliche Zeitvorgabe“ kann Erwartungen wecken, die man nicht erfüllen kann. Schule und Lernen: Eine falsche Erklärung kann sich unbemerkt im Kopf festsetzen. Entwürfe für den Kundensupport: Eine ausgedachte Rückerstattungsregel wird zum Versprechen. Kreatives Schreiben: Lassen Sie Ihrer Fantasie freien Lauf – das ist der Spielplatz.

Der rote Faden ist die Konsequenz. Wenn falsche Worte Geld, Vertrauen, Noten oder Sicherheit kosten, ist die Überprüfung keine optionale Fleißarbeit. Wenn falsche Worte nur ein Achselzucken hervorrufen, kann man gelassener sein. Vorsicht und Konsequenz in Einklang zu bringen, ist hier die entscheidende Fähigkeit – weit mehr als das Auswendiglernen des Wortes „Halluzination“

Außerdem sollten Teams Formulierungen wie „Ich habe diese Aussage überprüft“ genauso selbstverständlich machen wie „Rechtschreibprüfung bestanden“. Sonst wird ein gut formulierter Absatz über Nacht zum Allgemeinwissen. Autsch!.

Wichtigste Erkenntnisse

Warum KI manchmal Dinge erfindet, lässt sich also folgendermaßen zusammenfassen: Diese Systeme sagen plausible Formulierungen voraus, füllen Lücken durch Mustererkennung und wirken dabei oft selbstsicher. Diese Kombination erzeugt selbstbewusste, falsche Antworten, erfundene Zitate und ausgedachte Details, die nie stattgefunden haben.

Sie müssen das Werkzeug nicht fürchten. Sie brauchen Gewohnheiten. Überprüfen Sie stichprobenartige Behauptungen. Verbannen Sie erfundene Quellen. Fügen Sie konkreten Kontext ein. Fragen Sie nach Unsicherheit. Nutzen Sie Nachfassgespräche als Kontrollen. Heben Sie sich die freie Ideenfindung für unkritische, kreative Aufgaben auf.

Flüssiges Tippen ist keine Charakterbeschreibung. Betrachten Sie es wie einen talentierten Praktikanten, der unglaublich schnell tippt, manchmal Meetings erfindet, die nie stattgefunden haben, und trotzdem unter Anleitung hervorragende Leistungen erbringt. Behalten Sie die Anleitung bei. Behalten Sie den Witz bei. Bewahren Sie die Skepsis leicht, aber realistisch. So erzielen Sie die Vorteile, ohne Fiktion als Fakt zu verkaufen.

Praktisches Beispiel: Aufspüren erfundener Zitate in einem Forschungsbericht eines Mitbewerbers

Halluzinationen wirken abstrakt, bis ein ausgefeilter Absatz beinahe in einer Kundenpräsentation landet. Hier erfahren Sie, wie ein britischer Marketinganalyst die in diesem Leitfaden beschriebenen Gewohnheiten nutzte, um zu verhindern, dass fiktive Inhalte als Forschungsergebnisse getarnt werden – ohne dabei den Chatbot aufzugeben.

Szenario

Sam hat zwei Stunden Zeit, um für ein Vertriebs-Kickoff eine einseitige Wettbewerbsanalyse zu erstellen. Die Aufgabenstellung ist bekannt: Stärken, Preissignale und „ein paar glaubwürdige Quellen“. Wie immer tippte Sam „Wettbewerber X mit Quellen zusammenfassen“ ein und erhielt eine übersichtliche Analyse mit drei akademisch anmutenden Zitaten und einer präzisen Marktanteilsangabe. Sie klang zwar auswendig gelernt, war aber größtenteils frei erfunden. Ein Titel fehlte. Die Marktanteilsangabe war nirgends auf der Website des Konkurrenten zu finden.

Sam braucht kein besser klingendes Modell. Sam braucht einen soliden Arbeitsablauf: Quellenangaben einfügen, gefälschte Quellen ausschließen, Unsicherheitskennzeichnungen erzwingen, zuerst die überzeugendste Aussage stichprobenartig überprüfen und dann nur den fehlerhaften Abschnitt wiederherstellen.

Ziel ist ein Briefing, auf das sich das Team bei den Gesprächspunkten verlassen kann – keine aus dem Gedächtnis zusammengetragene Quittung, die nur so aussieht wie eine Quittung.

Was der Assistent benötigt

• Sam verfügt bereits über folgendes Quellmaterial: Homepage-Text, Preisseitentext, zwei aktuelle Support-Tickets, Notizen zu einem verlorenen Geschäft
• Eine eiserne Regel: Verwenden Sie für Tatsachenbehauptungen ausschließlich eingefügten Text; schreiben Sie „Ich weiß es nicht“, wenn die Notizen stumm sind
• Ein Verbot erfundener Zitate, URLs und Statistiken
• Eine Ausgabeform, die bekannte, abgeleitete und vermutete Werte trennt
• Zeit für eine stichprobenartige Überprüfung der Namen, Nummern und etwaiger Quellenangaben, bevor die Karten verteilt werden
• Erlaubnis, anstelle des Ausfüllens von Lücken bis zu drei klärende Fragen zu stellen

Beispielanleitung

Nachricht 1 – Kurzbeschreibung: Erstellen Sie anhand der unten eingefügten Notizen eine einseitige Wettbewerbsanalyse für den Vertrieb. Abschnitte: Behauptungen der Konkurrenz / Kundenbeschwerden / Preissignale / Offene Fragen. Erfinden Sie keine Zitate, URLs oder Statistiken. Falls eine Information nicht in den Notizen enthalten ist, schreiben Sie „unbekannt“ und führen Sie sie unter „Offene Fragen“ auf. Kennzeichnen Sie jeden Stichpunkt mit: bekannt / abgeleitet / vermutet. Britisches Englisch. Keine Einleitung.

Nachricht 2 – Zweifelsbekundung: Listen Sie alle Ihre Annahmen auf. Entfernen Sie alle als „Vermutung“ gekennzeichneten Einträge, es sei denn, Sie können einen eingefügten Satz angeben, der diese belegt. Falls Sie zuvor eine Quelle erfunden haben, löschen Sie diese und geben Sie dies an.

Nachricht 3 – Überarbeitung mit Fokus auf das Wesentliche: Die Linie zum Marktanteil ist nicht begründet. Schreiben Sie nur den Abschnitt zu den Preissignalen neu, ohne Zahlen, es sei denn, sie erscheinen in meinen Notizen. Behalten Sie die übrigen Abschnitte bei.

Wie man es testet

• Führen Sie eine freie Aufgabenstellung durch („Fassen Sie Wettbewerber X anhand von drei Fachquellen zusammen“) und bearbeiten Sie die oben genannte konkrete Aufgabenstellung. Vergleichen Sie erfundene Titel und fiktive Statistiken.
• Prüfen Sie zunächst stichprobenartig die riskanteste Behauptung (eine Zahl oder eine namentlich genannte Studie), nicht die gesamte Seite.
• Frage: „Worin sind Sie sich am wenigsten sicher?“ Eine überzeugende Antwort benennt die Lücken; eine unsichere Antwort verstärkt die Unsicherheit.
• Sonderfall: Entfernen Sie die Preisangaben aus den eingefügten Notizen und bestätigen Sie, dass im Entwurf „unbekannt“ steht, anstatt einen Planpreis zu erfinden.
• Akzeptanzprüfung vor der Veröffentlichung: (1) Jeder "bekannte" Punkt entspricht einer eingefügten Zeile, (2) keine erfundenen Zitate, (3) offene Fragen listen die tatsächlichen Lücken auf, (4) Sie haben jeden verbleibenden Titel selbst recherchiert, (5) keine genauen Statistiken ohne dazugehörige Anmerkung.

Ergebnis

Beispielhaftes Ergebnis (geschätzte Daten für den Workflow eines Analysten bei der Erstellung von Wettbewerbsanalysen, keine veröffentlichte Studie): Bei acht Briefing-Aufgaben stieg die Bearbeitungszeit von „Notizen geöffnet“ bis „Entwurf bereit für die Faktenprüfung“ leicht von durchschnittlich etwa 12 Minuten (einfache, gut formulierte Fiktion) auf etwa 15 Minuten mit der praxisorientierten Aufgabenstellung – gleichzeitig sanken jedoch der Aufwand für Korrekturen und das Risiko peinlicher Situationen. Die manuelle Überprüfung von Kernaussagen verkürzte sich von durchschnittlich etwa 18 Minuten (Aufspüren falscher Titel und Überarbeitung) auf etwa 6 Minuten, nachdem Aussagen vorab getaggt und erfundene Quellen ausgeschlossen wurden. Die Nettozeit sank somit um etwa 9 Minuten pro Briefing bzw. um etwa 72 Minuten insgesamt. Anhand einer Checkliste für die Annahme (keine erfundenen Zitate, keine unbegründeten Statistiken, bekannte/abgeleitete/vermutete Tags vorhanden, offene Fragen, die die Lücken aufzeigen) wurden sieben von acht praxisorientierten Entwürfen beim ersten Durchgang akzeptiert, im Vergleich zu nur zwei von acht einfachen Entwürfen. Einschränkungen: kleine Stichprobe, ein Analyst, ein Briefing-Typ. Leicht zugängliche Konkurrenten mit transparenter Preisgestaltung verringern die Lücke; die „Verifizierungszeit“ umfasste auch Websuchen nach verdächtigen Titeln.

Um Ihre eigene Version zu messen: Erstellen Sie 5 Kurzberichte mit Ihrer aktuellen Vorgehensweise und 5 mit eingefügten Quellen + verbotenen erfundenen Zitaten + Behauptungs-Tags; notieren Sie die mittlere Entwurfszeit, die mittlere Überprüfungszeit und die Checklisten-Erfolgsquote mit dem angegebenen Nenner.

Was kann schiefgehen?

• Flüssigkeitsbias: Perfekte Grammatik und übersichtliche Stichpunkte verleiten dazu, die Stichprobenkontrolle zu überspringen.
• Zitier-Cosplay: Nach „Quellen“ zu fragen, ohne Material einzufügen, lädt zu einer Form der Wissenschaftlichkeit ohne entsprechende Dokumentation ein.
• Übervollständige Listen: "Nennen Sie mir zehn Studien" belohnt Füllmaterial, obwohl in Ihren Notizen nur drei vorhanden sind.
• Den gesamten Aufsatz neu gestalten: Nach einer fehlerhaften Zeile bitten Sie um eine präzise Überarbeitung dieses Abschnitts – nicht um eine komplett neue, polierte Fassung.
• Bei hochbrisanten Themen wie Gesundheit, Recht, Finanzen und Compliance sind stärkere menschliche Kontrollmechanismen erforderlich als eine kurze Zusammenfassung von Verkaufsargumenten.
• Keine menschliche Fehlersuche: Ein markierter Entwurf kann einen eingefügten Satz immer noch falsch interpretieren. Sam behält weiterhin die Kontrolle über den Teilen-Button.

Praktische Erkenntnisse

KI erfindet Dinge, weil sie plausible Formulierungen für Lücken vorhersagt – nicht, um Sie zu täuschen. Betrachten Sie flüssiges Schreiben als Stilmittel, nicht als Beweis. Setzen Sie klare Grenzen, verbieten Sie falsche Quellen, kennzeichnen Sie Unklarheiten, überprüfen Sie die überzeugendsten Aussagen stichprobenartig und korrigieren Sie den Gedankengang, wenn etwas ins Wanken gerät. So behalten Sie die Vorteile eines schnellen Schreibpartners, ohne eine überzeugende Geschichte zu präsentieren, die nie stattgefunden hat.

Häufig gestellte Fragen

Warum erfindet KI manchmal Dinge?

Die meisten Chat-Modelle funktionieren nach Schema F: Sie generieren Antworten, die dem Muster einer guten Antwort entsprechen, nicht aber einer verifizierten Wahrheit. Lücken werden mit allem gefüllt, was statistisch plausibel klingt – einem wissenschaftlich wirkenden Zitat, einer plausiblen Zahl oder einem zeitgemäßen Detail. Ziel der Generierung ist ein flüssiger Text, daher kann „klingt plausibel“ wichtiger sein als „ist richtig“. Aus diesem Grund sind erfundene Antworten oft grammatikalisch einwandfrei und mit prägnanten Stichpunkten versehen.

Ist KI-Konfidenz gleichbedeutend mit Genauigkeit?

Nein. Selbstvertrauen und Genauigkeit sind zwei unterschiedliche Dinge – das eine kann hoch sein, das andere fast auf Null. Standardantworten wirken oft souverän, weil Schulungen hilfreiche Formulierungen belohnen, nicht weil jede Behauptung fundiert ist. Behandeln Sie eine selbstbewusste Ausdrucksweise als Stilmittel, nicht als Beweis. Wenn eine Antwort keine überprüfbaren Quellen, keine Unklarheiten und viele konkrete Namen oder Zahlen enthält, sollten Sie langsamer vorgehen.

Warum erfinden Chatbots Zitate und gefälschte Quellen?

Zitierformen sind in Schulungstexten üblich. Daher kann die Anforderung von „Quellen“ den Anschein wissenschaftlicher Arbeit erwecken, ohne dass tatsächliche Belege vorliegen – vergleichbar mit dem Abrufen einer Quittung aus dem Gedächtnis. Gefälschte Titel von Artikeln, Zeitschriftennamen, URLs und zugeschriebene Zitate wirken oft professionell genug, um Leser zu täuschen. Verlangen Sie Titel, die Sie selbst recherchieren können. Lässt sich eine Quelle nicht schnell finden, betrachten Sie die Behauptung als unbegründet.

Wann ist das Risiko von KI-Erfindungen am höchsten?

Das Risiko steigt bei Nischenthemen, aktuellen oder sehr spezifischen Themen sowie bei der Abfrage exakter Zahlen, genannter Dokumente, vertraulicher interner Informationen oder langer Listen von Fachstudien. Zu den risikoreichen Bereichen zählen Gesundheit, Recht, Finanzen, Compliance, Sicherheit, die Nennung namentlich genannter Personen und exakte Statistiken. Brainstorming, das Erstellen von Gliederungen, das Überarbeiten des eigenen Entwurfs und die Anpassung des Tons bergen in der Regel ein geringeres Risiko. Lange, beeindruckende Antworten können sich ebenfalls sicherer anfühlen, als sie tatsächlich sind.

Wie kann ich von KI erfundene Antworten erkennen, ohne jedes Wort zu überprüfen?

Prüfen Sie zunächst die wichtigsten Informationen – Nummer, Name, Richtlinie oder Zitat. Falls das fehlschlägt, nehmen Sie die übrigen Informationen kritisch unter die Lupe. Achten Sie auf Widersprüche und eine übertrieben perfekte Darstellung ohne Einschränkungen oder Kompromisse. Fragen Sie nach den Unsicherheiten des Modells, überprüfen Sie Namen und Titel außerhalb des Chats und bevorzugen Sie Antworten, die sich auf eingefügten Text beziehen, gegenüber unausgesprochenen Fakten.

Welche Gewohnheiten zur Förderung von KI-Halluzinationen reduzieren diese?

Halluzinationen lassen sich nicht mit einem einzigen Satz beseitigen, aber man kann ihren Einfluss verringern. Beschränken Sie Ihr Wissen auf eingefügte Notizen und geben Sie zu, wenn etwas fehlt. Vermeiden Sie erfundene Zitate, Anführungszeichen und URLs. Verwenden Sie Kennzeichnungen wie bekannt, abgeleitet oder vermutet, fragen Sie nach Annahmen und bevorzugen Sie die Argumentationsstruktur „Behauptung/Beweis“. Indem Sie dem Modell signalisieren, dass es in Ordnung ist, „Ich weiß es nicht“ zu sagen, reduzieren Sie den Druck, falsche Gewissheit vorzutäuschen.

Was bedeutet „Grundlage“ im Zusammenhang mit der Verwendung von KI für faktische Arbeit?

Die Fundierung verknüpft die Antwort mit etwas außerhalb der Modellimprovisation – Ihrem Strategiepapier, Ihrer Tabelle, Ihren Besprechungsnotizen oder einer öffentlichen Seite, die Sie selbst überprüfen. Wenn Antworten innerhalb dieser Grenzen bleiben müssen, hat die Kreativität weniger Spielraum. Nachfragen dienen als zweite Barriere: Fragen Sie nach der Herkunft einer Zahl, nach Schlussfolgerungen oder ob Studien ohne Nennung der Studien neu formuliert werden sollen. Beziehen Sie bei wichtigen Entscheidungen immer eine menschliche Person mit ein.

Was soll ich tun, wenn ich mitten im Gespräch eine Halluzination bekomme?

Benennen Sie den Fehler, verankern Sie ihn erneut im Originaldokument oder den Originaldaten und überarbeiten Sie nur den fehlerhaften Abschnitt, anstatt einen komplett neuen, überarbeiteten Text anzufordern. Überprüfen Sie alle Details – Namen, Zahlen, Prozessschritte – und entscheiden Sie dann, ob das Tool als Brainstorming-Partner, Entwurfshilfe oder „für dieses Thema ungeeignet“ dient. Klarere Vorgaben verändern die Optimierungsziele des Modells; lenken Sie es gezielter ein, wenn sich neue Ideen zeigen.

Wie kann ich erfundene Zitate in einem Marktforschungsbericht eines Konkurrenten unterbinden?

Fügen Sie Ihre vorhandenen Quellenangaben ein, verbieten Sie gefälschte Quellen und unbegründete Statistiken und fordern Sie die Kennzeichnung „bekannt“, „abgeleitet“ und „vermutet“ sowie eine Liste offener Fragen an. Überprüfen Sie zunächst die riskanteste Behauptung stichprobenartig, entfernen Sie unbegründete Vermutungen und überarbeiten Sie nur den fehlerhaften Abschnitt, falls eine Zahl unbegründet ist. Die Annahme erfolgt, wenn jeder „bekannte“ Punkt einer eingefügten Zeile zugeordnet ist und der verbleibende Titel manuell geprüft wird.

Wann ist es noch vertretbar, KI freie Hand beim Erfinden zu lassen?

Kreatives Schreiben und andere Aufgaben mit geringem Risiko lassen Raum für Metaphern – das ist der ideale Spielraum. Vorsicht ist geboten: Wenn falsche Formulierungen Geld, Vertrauen, Noten oder Sicherheit kosten, ist eine Überprüfung unerlässlich. Wenn sie nur ein Achselzucken hervorrufen, kann man es lockerer sehen. Sprachgewandtheit ist kein Gütesiegel; behandeln Sie das Modell wie einen fleißigen Praktikanten, der bei sachlichen Aufgaben noch Anleitung benötigt.

Referenzen

1. OpenAI - openai.com
2. Anthropic - anthropic.com
3. NIST - nist.gov
4. IBM - ibm.com
5. Google AI – ai.google.dev
6. Google Cloud – Grundlagen – docs.cloud.google.com