Die sogenannten KI-Halluzinationen beschreiben das Phänomen, dass KI-Modelle falsche oder frei erfundene Informationen erzeugen. Wenn diese Falschinformationen massenhaft durch KI-generative Webseiten oder Social Media verbreitet werden, wird es für User immer schwieriger, zwischen Fake- und relevanten Inhalten zu unterscheiden. Gleichzeitig gehen wertvolle Werbeausgaben verloren.

Laut KI-Forscher Yann LeCun liegt die Ursache für KI-Halluzinationen darin, dass große Sprachmodelle keinerlei wirkliches Verständnis für die Welt haben, die sie beschreiben. Sie erkennen lediglich statistische Muster in den Daten, mit denen sie trainiert wurden, und können die Welt sprachlich abbilden. Ohne ein echtes Verständnis für den Kontext oder die zugrunde liegende Realität entstehen oft Fehler und ungenaue oder falsche Inhalte, die dabei überzeugend sowie glaubwürdig wirken.

Der deutsche Physiker und Journalist Jürgen Scriba hat in einem ebenso amüsanten wie aufschlussreichen Experiment gezeigt, wie mühelos KI fehlerhafte Inhalte erzeugen kann. Mit einer simplen Frage an den Chatbot – nach bekannten Persönlichkeiten der Zeitgeschichte mit dem Namen Wirsing – ließ er detaillierte Biografien völlig fiktiver Figuren entstehen. So „erschuf“ die KI unter anderem Carl Wirsing, einen einflussreichen CDU-Politiker aus Baden-Württemberg, den Kristallographie-Spezialisten und Ernährungswissenschaftler Dr. Anton Wirsing sowie Gretchen von Wirsing, die heimliche Muse von Goethe und Schiller.

Das skurrile Wirsing-Experiment verdeutlicht, wie schnell und mühelos falsche Inhalte entstehen können: ein Paradies für digitale Betrüger. Die Verbreitung von Fake News und erfundenen Geschichten wird durch KI einfacher denn je. Einmal generiert, finden solche Erzählungen über Content-Farmen, soziale Medien und Clickbait-Websites immer neue Kanäle, um weiterverbreitet zu werden.

Ein anschauliches Beispiel hierfür ist die Website nbcsportz.com. Diese Fake-News-Website publiziert sportbezogene Inhalte, die scheinbar nie ein Mensch gegengelesen hat. Sie steht exemplarisch dafür, was dabei herauskommt, wenn KI „sich selbst überlassen wird“. Die Artikel auf Nbcsportz weisen oft nur minimale Änderungen zwischen den Variationen auf.

Veröffentlicht sind dort auch Artikel, die aus einer Aneinanderreihung von redundanten Zitaten bestehen, welche wie Artefakte wirken, die sich im Internet verirrt haben. Dazwischen „prankt“ kaum sichtbar Display-Werbung und Native Advertising. Ein klassisches Beispiel für das Werbeverhalten von MFA-Webseiten.

Die blitzschnelle Verbreitung fehlerhafter Inhalte setzt Werbetreibende unter erheblichen Druck: Werbebudgets, die auf KI-generierten Content-Farmen landen, fließen an Umfelder, die weder ihren Leistungszielen entsprechen noch mit ihrer Markenidentität harmonieren.

Auf der anderen Seite sind Publisher von Fake-KI-Content betroffen, da sie den Werbekuchen mit fragwürdigen Websites teilen müssen und gleichzeitig umso mehr dafür kämpfen müssen, verloren gegangenes Vertrauen in Online-Inhalte durch Premium-Content wiederherzustellen.

In diesem Kontext wächst der Bedarf nach zuverlässiger Verifizierung und Qualitätskontrolle, damit Werbekampagnen in vertrauenswürdigen, relevanten und qualitativ hochwertigen Umfeldern erscheinen. Ironischerweise hat KI damit nicht nur das Problem der Halluzinationen geschaffen, sondern kann durch KI-getriebene Qualitätskontrollen auch eine Lösung darstellen: Inhalte müssen auf Grundlage von Richtlinien mittels KI klassifiziert werden, um Werbetreibenden eine genaue Einordnung und Schutz zu bieten. So lassen sich Risiken wie Ad Fraud und unzuverlässiger Content minimieren, während das Markenimage geschützt wird.

KI ist damit Problem und Lösung gleichzeitig. Dieser Umstand zeigt abermals, wie wichtig menschliches Eingreifen und manuelle Steuerung von solch mächtigen Tools wie KI sind.