Die Bing-KI hat das von ChatGPT erfundene Kinderbuch „Oje, ein Zaubernieseln“ für mich illustriert. Und alternative Fakten darüber erfunden. Willkommen zum zweiten Teil der Saga, welche die Autorin und Lektorin Sabrina Železný einst in einem berühmten Twitter-Thread begann …
Es gibt irrationale Technikfeindschaft, und es gibt irrationalen Technikglauben. Während des aktuellen KI-Hypes kommen wir in den Genuss von beiden Phänomenen. Als zunehmend verzweifeltes Mitglied von zwei Organisationen mit einem Bildungsauftrag irritiert es mich am meisten, dass viele Menschen Chatbots wie ChatGPT für Informationsquellen halten. Ja, oft behandeln sie die Chatbot-Texte sogar, als wären sie von den besten Fachleuten geschrieben und überprüft worden.
KI-Chatbots erfinden Informationen
KIs sind tatsächlich überhaupt keine Informationsquellen. Es ist nicht die Funktion der KI-Textgeneratoren, Suchmaschinen oder Wissensdankenbanken zu ersetzen. Eine bekannt gewordene Unterhaltung der Lektorin Sabrina Železný mit ChatGPT illustrierte eindrucksvoll, wie ChatGPT Bücher, deren Inhalte, einen Buchpreis und einen Inhaltsvergleich komplett erfunden hat.
Angeblich werden die Chatbots aber „besser“ (bei etwas, das gar nicht ihre Funktion ist?). Ich habe die Konversation von Sabrina Železný mit dem Bing-Chatbot weitergeführt, um diese These zu prüfen. Der Chatbot beruht auf der neuesten Chatbot-KI namens GPT-4 statt GPT 3.5, wie noch ChatGPT.
ChatGPT erfindet das Kinderbuch „Oje, ein Zaubernieseln“
KIs können wahr und falsch nicht unterscheiden. Sie spucken unterschiedslos wahre und falsche Informationen aus und stellen sie genau gleich dar. Und zwar so, als wären sie faktisch richtig. In einem lexikalisch-informierenden Tonfall. Ausschließlich sprachlich sind die Texte der Chatbots korrekt, wenn auch stilistisch mäßig. Inhaltlich sind sie unbrauchbar. Jeder sollte sich diesen Twitter-Thread der Lektorin Sabrina Železný durchlesen:
Die KI erfindet in der Unterhaltung mehrere Bücher, einen Buchpreis, mehrere Verfilmungen, den Inhalt von Büchern, schreibt sie fälschlich real existierenden Urhebern zu und ChatGPT vergleicht sogar den Inhalt von zwei Büchern, die gar nicht existieren. In diesem umfassenden Austausch mit ChatGPT gibt es also nicht ein paar Fehler irgendwo, sondern nichts stimmt. Interessenten an einem Buch erhalten seitenlange Falschinformationen.
Die Chatbots ersetzen keine journalistischen Artikel, keine Fachtexte und keine Lexika. Nicht einmal ein bisschen. Eine einfache Google-Suche führt mit dramatisch höherer Wahrscheinlichkeit zu verlässlichen Informationen, die außerdem stilistisch und strukturell besser aufbereitet werden.
Der Bing-Chatbot erfindet „Oje, ein Zaubernieseln“ neu
Ja, aber die KIs werden schließlich „besser“, heißt es dann. Schauen wir mal! ChatGPT beruht auf GPT-3.5. Ich habe die Bing-KI, die auf dem aktuellen GPT-4 aufbaut und über die neuesten Infos aus dem Internet verfügt, weiter zu „Oje, ein Zaubernieseln“ befragt. Der Bing-Chatbot ist der Meinung, dass dieses Buch existiert und fasst den Inhalt zusammen. Seine Hauptquelle? Der Twitter-Thread von Sabrina Železný. Doch das ist längst nicht alles.
Aus der jüngsten Tochter Lotta, die ChatGPT erfunden hat, macht Bing „Lina“. Und wiederholt die falsche Angabe über die Autorin und die Illustratorin. Tatsächlich haben die beiden schon einmal an einem echten Buch zusammengearbeitet, dieses heißt allerdings „De blauwe reus“ und hat nichts mit Nieseln zu tun.
Während es in der ChatGPT-Version darum geht, dass das Nieseln verschwindet, geht es laut Bing darum, dass Lina zusammen mit Nieseln, nun im Plural, ihre Großmutter rettet. Auch erfindet Bing einen Zauberer, während ChatGPT das Nieseln als „Zauberwesen“ bezeichnete, ohne einen Zauberer zu erwähnen. Den erfundenen Originaltitel übernimmt Bing von ChatGPT.
Doch im Gegensatz zu ChatGPT benennt Bing Quellen. Neben dem Twitter-Thread, von dem Bing glaubt, er enthalte faktische Informationen, führt Bing auch eine Seite auf kinderbuch-liebling.de an. Der Link führt namentlich zur Seite Zum Welttag des Buches: Oje, ein Buch! – Kinderbuch-Liebling Kinderbuchblog. Dort wird das Bilderbuch “Oje, ein Buch!” vorgestellt, das gar nichts mit „Oje, ein Zaubernieseln“ zu tun hat. Vielmehr stammt dieses Bilderbuch von Lorenz Pauli und Miriam Zedelius und wurde vom schweizerischen Verlag Orell Füssli veröffentlicht.
Ich habe außerdem vom Bing Image Creator ein Cover für das erfundene Buch „Oje, ein Zaubernieseln“ gestalten lassen. Warum der KI-Bildgenerator erfundene Bücher illustrieren kann, wer weiß. Das Cover sieht auf den ersten Blick gut, wenn auch kitischig aus. Man sollte aber nicht zu genau hinsehen.
Das Cover zeigt aus irgendeinem Grund zwei Mädchen, eines davon ist nun offenbar selbst Zauberin. Außerdem ist ein Schloss zu sehen und links unten dürfte wohl ein „Nieseln“ auszumachen sein.
Hier der Befehl („Prompt“), den ich zur Bilderzeugung nutzte. Ich gebe fälschlicherweise an, dass es ein Kinderbuch von Anke de Vries und Annemarie van Haeringen sei:
Das Zeitalter der Fake-News-Generatoren
Es passt zu unserem Fake-News-Zeitalter, dass wir nun Fake-News-Generatoren haben – und viele Leute die freiwillig verwenden und ihnen alles glauben.
Übrigens ist Folgendes der Inhalt von „Oje, ein Buch!“: „Juri bekommt ein Buch. Frau Asperilla soll es vorlesen – doch die Smartphone-Gewohnte kommt mit dem Umblättern nur klar, weil Juri ihr hilft. Er zeigt, fragt, spekuliert und mutet Frau Asperilla die haarsträubende Geschichte einer unerschrockenen Maus zu.“
In dem schweizerischen Kinderbuch geht es darum, dass Kinder wegen ihrer Smartphone-Nutzung Bücher nicht einmal mehr umblättern können. Was erwarte ich da nur einen Hauch von Medienkompetenz von Erwachsenen?
Aufklärung 2.0 