Amazon, wir haben ein KI-Buch-Problem. Und zwar ein heftiges.
AI-Book-Slop – billige KI-Bücher – fluten seit einiger Zeit die Kanäle von Amazon und Co. Wir zeigen Euch, woran Ihr solche Billigbücher erkennen und Euch schützen könnt.
Ja, es ist mir passiert: Ich habe ein KI-Slop-Buch gekauft – und verschenkt. Und erst durch das Feedback der Person wurde klar, dass ich KI-Buch-Slop auf den Leim gegangen bin. Dabei war ich der Ansicht, dass ich per KI hingerotztes KI-Zeug in der Regel eindeutig erkennen kann. Konnte ich wohl nicht. Amazon, wir haben ein Problem.
Dabei ist es eigentlich recht einfach, KI-Slop-Bücher zu erkennen, denn die "Autoren" geben sich tatsächlich nicht einmal ansatzweise Mühe, ehe sie ihre "Werke" per Amazon Kindle Direct Publishing unters Volk bringen. Gerade im Bereich der Kinderbücher hat sich das Problem multipliziert: Eltern – ich kenne das selbst – sind immer auf der Suche nach Büchern zu allerlei Themen, die Kinder beschäftigten.
Gemeinsam haben diese "Kinderbücher", der Book-Slop, den immer gleichen KI-Look: Bilder sehen entweder nach Pixar oder Studio Ghibli aus, was darauf hindeutet, dass hier kein Illustrator, sondern eine KI am Werk war. Das sieht dann so aus:
KI-Bücher überfluten den Markt
Es gibt im englischsprachigen Raum sogar jede Menge billige Kopien bekannter Franchises, und obwohl das Problem hierzulande noch nicht so deutlich sichtbar ist, ist es nur eine Frage der Zeit, bis auch der deutsche Büchermarkt mit solchem Zeug geflutet wird.
Autoren, die sich nicht einmal die Mühe machen, einen echten Zeichner zu engagieren, dürften auch wenig Wert auf den Inhalt des Buches legen – und höchstwahrscheinlich ist der dann auch KI-generiert. Die oft sehr dümmlichen Titel geben hier bereits einen Anhaltspunkt.
Was ich nicht wusste: Das Problem betrifft längst nicht nur mehr Kinderbücher, sondern auch Sachbücher und Romane. Das Ergebnis sind sinnfreie bis völlig wahnsinnige Inhalte, die Leser im besten Fall enttäuscht, im schlechtesten Fall verärgert zurücklassen.
So war das auch bei meinem Buchgeschenk: Das hauchdünne Büchlein für 9,99 Euro, wie sooft in letzter Minute bestellt und nur kurz durchgeblättert, war 100 Prozent KI-generiert. Dumme Texte, nichtssagende Illustrationen – das ist ärgerlich für den Beschenkten und peinlich für den Schenker, also in dem Fall mich.
Was sagt Amazon zu KI-Büchern von Kindle Direct Publishing?
Auf Nachfrage von Tutonaut.de meldete uns Amazon folgendes zurück:
Alle Bücher, die mit Kindle Direct Publishing veröffentlicht werden, müssen unseren Inhaltsrichtlinien entsprechen.
Amazon Pressestelle
Die wiederum besagen, dass KI-Inhalte eigentlich gekennzeichnet werden müssen. "KI-generierte Bilder umfassen Cover- und Inhaltsbilder sowie Illustrationen. Sie sind nicht verpflichtet, KI-assistierte Inhalte offenzulegen." Und weiter: "Wir definieren KI-generierte Inhalte als Texte, Bilder oder Übersetzungen, die mithilfe eines KI-basierten Werkzeugs erstellt wurden."
KI-assistiert sind demzufolge alle Inhalte, die auf Basis von irgendwas mit KI optimiert sind. Und schon befinden wir uns mitten in einer Grauzone, denn eine klare Grenze wird durch Amazon erst dort gezogen, wo 100 Prozent KI zum Einsatz kommt. Was ist mit Bildern, die anhand einer schnell hingefummelten Skizze generiert wurden? Klar: Die sind nach dieser Logik "KI-assistiert", nicht KI-generiert.
Bei Text kommt hinzu: Er lässt sich wesentlich weniger einfach als KI-Text entlarven, als etwa Bilder – sofern er nicht völlig lieblos ist. Doch was ist zum Beispiel mit Text, den die KI erstellt und der "Autor" ein wenig umgebaut hat? KI-assistiert? KI-optimiert? Der Verweis auf die schwammigen KDP-Richtlinien wirkt ein wenig wie ein Ablenkungsmanöver durch Amazon.
Book-Slop bei Amazon erkennen
Grundsätzlich bin ich der Meinung, dass man Autoren – selbst wenn der Text tatsächlich händisch geschrieben sein sollte – nicht unterstützen sollte, wenn sie schon KI-Slop schon im Cover gutheißen und dafür auf die Arbeit eines Illustrators oder einer Illustratorin verzichten.
Da fehlt das Herzblut, das suggeriert Scheißegal-Einstellung – und das lässt nichts gutes für den Inhalt hoffen. Dementsprechend verzichten wir hier bei Tutonaut.de inzwischen auch wieder auf KI-Titelbilder.
Was uns natürlich zu der Frage bringt, wie man KI-Bücher bei Amazon erkennen kann. Das ist nämlich nicht immer ganz so einfach wie bei den "Werken" wie diesen hier, die dank Studio-Ghibli-Pixar-Ripoff-Optik recht eindeutige KI-Slop-Vibes versprühen und dadurch recht eindeutig zeigen, wohin die Reise geht (und dass man besser die Finger davon lässt!).
Erster Hinweis auf Book Slop: Independently Published verheißt meist nichts Gutes
Es gibt einige wichtige Anhaltspunkte, ob es sich um ein KI-Slop-Buch handelt. Der erste ist, neben dem Cover, natürlich die Frage, welcher Verlag dahinter steht. Kindle Direct Publishing-Titel sind nämlich immer ohne Verlagsangabe. Das seht Ihr direkt auf der Produktseite, wenn Ihr auf "Alle Details anzeigen" klickt: Hier steht normalerweise ein Herausgeber, und der ist (zumindest bei Qualitätslektüre) in der Regel ein namhafter Verlag.
Bei der hervorragenden, liebenswerten Kinderbuch-Reihe "Hörnchen und Bär" etwa ist es der Arena-Verlag, beim guten, alten Sammelband von "Per Anhalter durch die Galaxis" ist es der Heyne-Verlag und so weiter.
Bei KI-Werken steht hingegen immer "Independently Published", sprich: Per Kindle Direct Publishing und ohne Verlag veröffentlicht. Das muss nicht im Umkehrschluss heißen, dass KDP-Bücher immer KI sind, im Gegenteil: Es gibt sehr viele Nicht-KI-Titel, die unabhängig veröffentlicht wurden. Allerdings gibt es hier auch viel Schund, denn die wenigsten Autoren würden Direktveröffentlichungen in Eigenregie einem Deal mit einem namhaften Verlag vorziehen.
Was bedeutet: Entweder ist es KI-Slop – oder eben anderweitig nicht "verlagstaugliches" Material. Zumal die Bücher dann oft nicht durch Dritte lektoriert, vernünftig gesetzt oder gegliedert sind. Also sind auch die Nicht-KI-Bücher meist eher Titel niedriger Qualität. Aber Vorsicht: Das muss nicht sein – so mancher bekannte Autor jüngerer Zeit ist erst nach Direkt-Veröffentlichung an einen Verlagsvertrag gekommen.
Zweiter Hinweis: Die Sache mit dem ChatGPT-Geburtsdatum
Es gibt einen Tag 0 der KI-Texterstellung, und das war der 30. November 2022: Damals wurde ChatGPT erstmals für die Öffentlichkeit verfügbar gemacht, und seither ist es selbst für einfachst gestrickte Menschen möglich, Texte verfassen zu lassen. Mit Betonung auf "Verfassen zu lassen", denn der Promptschreiber ist eigentlich nur der Auftraggeber. Und der ausführende Autor, die KI liefert dann fragwürdig-unzuverlässigen Kram. Aber gut, für Euch (also die breite Masse) reicht's – sagt zumindest der Youtube-Kanal Ultralativ.
Mit ChatGPT setzte eine unfassbare Slop-Flut auf allen Kanälen ein, was in mehrfacher Hinsicht ein Problem ist. Um so wichtiger ist es, dass Inhalte durch Redaktionen, Verlage oder Teams auf Authentizität geprüft werden.
Überall, wo es diese Kontrollmechanismen nicht gibt – sämtliche Social-Media-Angebote, leider auch Blogs und natürlich der Direct-Publising-Markt – wird seither mit KI-Müll geflutet. ChatGPTs "Geburt" ist allerdings der Stichtag: Ältere Kreativprodukte und Medien sind KI-frei, neuere müssen sich zumindest fragen lassen, ob nicht vielleicht KI beteiligt war.
Ja, auch dieser Blogbeitrag.
Nein: Hier war tatsächlich keine KI am Werk, ich schreibe frei nach Schnauze, lasse keine KI korrigieren und meine Fehler bleiben deshalb auch drin ;)
Zurück zu den KI-Büchern: Ist ein Buch nach dem 30.11.2022 veröffentlich, solltet Ihr Euch fragen, ob vielleicht KI dahinter steckt. Muss nicht, kann aber – insbesondere wenn schon das Cover den typisch trashigen Look hat.
Dritter Hinweis: Die Sache mit dem Illustrator
KI kann übrigens kein Urheberrecht beanspruchen. Interessanter noch: KI-Werk sind nicht schützenswert, zumindest nicht in der EU. Es sei denn, die KI-Nutzung sei nur untergeordnet. Was im Fall der KI-Bilder in den genannten Kinderbüchern nicht der Fall ist: Die Bilder sind vollständige KI-Werke.
Geschützte Werke im Sinne des Urheberrechtsgesetzes sind nur persönliche geistige Schöpfungen eines Menschen. Rein KI-basierte Inhalte genießen daher keinen urheberrechtlichen Schutz, da sich die Arbeitsweise der KI der Kontrolle des Nutzers entzieht. Auch lässt sich der erzeugte Inhalt nur bedingt steuern: Es entstehen damit Texte oder Bilder, die keinen Urheber im rechtlichen Sinne haben.
Bundesministerium der Justiz
Dementsprechend, und jetzt wird es interessant, können "Autoren" von KI-Büchern natürlich auch keinen Urheber für die Illustrationen (oder den Text) benennen – weil es sie bei KI einfach nicht gibt. Wird also, trotz scheinbar hochwertiger Illustration, kein Illustrator genannt, gibt es wahrscheinlich auch keinen – und das deutet oft sehr deutlich auf KI hin.
Bei Text gestaltet sich das leider komplexer: Das Problem ist, dass sich KI-Text – anders als KI-Grafiken oder Videos – nur sehr schwer entlarven lässt. Dementsprechend können alle Autoren immer behaupten, sie hätten einen Text selbst verfasst – wer soll es ihnen nachweisen, vom unbehaglichen Gefühl, das sich beim Lesen von KI-Machwerken einschleicht, einmal abgesehen?
Und wenn der Autor einen Text vorgeschrieben und von KI hat ausarbeiten und lektorieren lassen, ist das sogar nicht einmal geschummelt – oder? Im Endergebnis ist es aber das Gleiche: Das Text ist höchstwahrscheinlich KI-Schrott.
Romane: Für KI deutlich schwieriger als Kinderbücher
Übrigens: Auch wenn ich Eingangs von einem "Sachbuch" sprach: Es handelte sich eher um eine lose Geschichtensammlung, pro Doppelseite gab es eine Seite Text und ein großes Bild. Bei genauerem Hinsehen handelte es sich auch nicht wirklich um ein Sachbuch, sondern eher Belletristik – und damit Material, was KI in dieser Kürze heutzutage leider problemlos generieren kann.
Bei echten Sachbüchern oder auch Romanen liegt das Problem darin, dass KIs noch nicht wirklich in der Lage sind, Bilder für harte Fakten und lange, komplexe Texte zu generieren, noch dazu mit der Romanen oft eigenen Mischung aus Humor und Spannung. Da moderne LLMs wie Wundermaschinen wirken, sind sie am Ende des Tages doch kaum mehr als extrem ausgeklügelte Varianten der Textvorschlag-Engine, die Ihr von Eurem Smartphone kennt.
Kurzum: Sie verstehen nicht, was sie da von sich geben, sie verstehen Menschen nicht, können weder mit Motivationen, noch mit Prämissen etwas anfangen, die aus der menschlichen Natur entstehen. Im besten Fall können sie das Verständnis – bei kurzen oder einfachen Texten leider mit hoher Trefferquote – vorgeben. Bei langen Texten steigen sie jedoch zuverlässig aus, was übrigens auch der Grund ist, warum die meisten KI-Bücher derzeit auf einfache Texte und viel Bild setzen.
Sachbücher: Von Fakten und Halluzinationen
Noch schlimmer ist es bei Sachbüchern: Hier kann eine KI nicht liefern, weil sie nach einer Weile anfängt, die Fakten zu verdrehen. Diese Halluzinationen entstehen durch die schiere Menge an Material, die die LLM gesichtet hat: Hierbei gibt es natürlich auch jede Menge Falschinformationen, und jeder komprommitierte KI-Text verschärft das Problem.
Selbst Kinder-Sachbücher wie die seit Jahrzehnten beliebten Was-ist-Was-Bücher sind für KI kaum machbar: Die KI könnte, mit viel Geduld des Nutzers, zwar die Texte und passende Bilder generieren. Doch die Fehlerquote ist (noch?) enorm. Auch hier greift die Funktionsweise der LLMs: Sie begreifen nicht, was sie erstellen – und können Fakt nicht von Fiktion unterscheiden. Was natürlich nicht bedeutet, dass neue KI-Modelle das nicht irgendwann schaffen.
Fazit: Was bleibt ist der Doppel-Check, Retouren – und Warnungen
Leselustigen, die bei Amazon (oder bei anderen Online-Buchhändlern mit Self-Publishing!) nach Lesestoff suchen, bleibt aktuell nur, das Buch genau zu prüfen. Es kann sich zum Beispiel lohnen, per Google-Abfrage Autor und Illustrator zu prüfen: Gibt es eine Website, eine Verlags-Homepage, vielleicht sogar Online-Profile? Wird der Autor vielleicht anderswo im Zusammenhang mit KI erwähnt? Sehen die Bilder nicht nach KI aus und wirkt das Gesamtkonzept insgesamt stimmig? Alle oben genannten Faktoren können Hinweise auf KI-Slop-Bücher bei Amazon sein, sind aber keine eindeutigen Signale.
Perfiderweise schiebt der Amazon-Algorithmus immer weiter KI-Slop als Empfehlung nach, wenn man sich eines der Bücher anschaut, weshalb man danach besonders schnell in die Falle tappt. Amazon sollte eigentlich etwas gegen dieses Problem unternehmen, scheint sich aber nicht dafür zu interessieren, da die Umsätze stimmen. So manches der KI-Bücher hat bereits hohe Rankings in Amazons Bestenliste erzielt.
Im Grunde gibt es nur eine Möglichkeit, Buchhändlern, die KI-Slop anbieten – und das betrifft längst nicht nur Amazon – zu zeigen, was man davon hält: Retouren, Retouren, Retouren! Und zwar mit deutlichem Hinweis auf KI-Slop. Retouren sind teuer, Retouren binden Personal, Retouren sind etwas, das Online-Händler gar nicht mögen. Und natürlich die Bewertungsfunktion, in denen Ihr deutlich vor den Book-Slop-Inhalten warnen solltet.
