Jetzt will die KI Menschen vergiften, also macht das Spaß

Als ob der Albtraum KI-geschriebener Sachbücher nicht schon schlimm genug wäre, haben wir jetzt einen Punkt erreicht, an dem er von frustrierend (KI-geschriebene neuheidnische Bände voller aggressiver Fehlinformationen über Mythen und Geschichte) zu potenziell frustrierend geworden ist tödlich, mit von der KI erstellten Anleitungen zur Nahrungssuche nach Wildpflanzen und Pilzen. Ja, das ist wirklich nicht das Äquivalent eines Zufallswortgenerators. Nicht, es sei denn, Sie möchten, dass Menschen tatsächlich sterben.

Autoren, insbesondere kleine Verlage und unabhängige Autoren in Nischenbereichen, versuchen seit einiger Zeit, das Problem KI-generierter Bücher anzugehen. Sie übertönen nicht nur echte menschliche Autoren aufgrund ihres schieren Umfangs und der Auswirkungen, die sie auf den Algorithmus hat, sondern auch, weil die darin enthaltenen Informationen im Wesentlichen aus Crowdsourcing stammen und dann im Prozess der „Erschaffung“ von etwas „Neuem“ weiter vermischt werden. Der Markt wird mit haufenweise Fehlinformationen überschwemmt, die die schlimmsten und am schlechtesten recherchierten Lügen der Vergangenheit plausibel erscheinen lassen. Es ist schon schlimm genug, wenn es um Themen wie Religion und Geschichte geht – wir haben alle gesehen, wohin Fehlinformationen zu diesen Themen führen –, aber bei so etwas wie der Nahrungssuche, bei der es um Leben und Tod geht, eine Pflanze richtig zu identifizieren, ist es plötzlich viel akuter Problem.

Wenn es darum geht, Bücher als KI-generiert zu identifizieren, kann es schwierig sein, absolut sicher zu sein. Es ist immer möglich, dass Sie auf einen Autor gestoßen sind, der überhaupt keine Internetpräsenz hat, nicht einmal soziale Medien. Einer, der zufälligerweise sowohl ein produktiver als auch ein schrecklicher Schriftsteller ist, dessen Arbeit ungefähr so ​​genau ist wie die eines bekifften College-Studenten, der hofft, über die Runden zu kommen, indem er auftaucht und etwas abgibt. Dessen Bücher eine Menge verdächtig positiver Fünf-Sterne-Rezensionen haben die nicht ganz mit dem tatsächlichen Inhalt des Buches übereinstimmen, und dann eine Handvoll Ein- oder Zwei-Sterne-Bewertungen von echten Leuten, die wissen wollen, was zum Teufel das überhaupt ist? Möglich, aber äußerst unwahrscheinlich.

Dennoch ist es schwierig, etwas Negatives zu beweisen, insbesondere wenn man die Verwendung von Pseudonymen oder die Tatsache berücksichtigt, dass KI-Bücher jetzt ohne Zustimmung veröffentlicht werden, wobei die Namen und Identitäten echter Autoren angehängt werden. Die Situation ist chaotisch, und alles, was wir haben, sind beste Vermutungen, aber einige dieser Vermutungen sind ziemlich vernichtend, wenn man alle Beweise zusammenfasst.

Es waren Mitglieder von Online-Futtersuchgemeinschaften auf Facebook, Reddit und anderen Social-Media-Plattformen, die wegen dieser mit ziemlicher Sicherheit von KI erstellten, definitiv schrecklichen Anleitungen zum Auffinden und Verarbeiten von Wildlebensmitteln Alarm schlugen.

Die fraglichen Bücher erschienen erstmals etwa im Jahr 2022 auf Amazon, alle mit sehr ähnlichen Titeln und Einbänden, und jedes verspricht, eine Variante der ultimativen „Bibel“ für die Nahrungssuche zu sein oder der einzige Leitfaden für wildlebende Lebensmittel, den Sie jemals brauchen würden. Trotz dieser hochtrabenden Behauptungen sind die Informationen in den Büchern bestenfalls unzureichend, schlimmstenfalls seltsam oder irreführend.

Ein solches Buch enthält Einträge über Brokkoli, Rosenkohl, Orangen und Zitronen – alles domestizierte Pflanzen, die man nur „sammeln“ kann, indem man den Garten eines anderen plündert, und schon gar nicht etwas, das man wild wachsend findet. Bilder, die für jeden Ratgeber über wilde, essbare Pflanzen unerlässlich sind, fehlen entweder in Schwarzweiß oder sind nicht detailliert genug, um von Nutzen zu sein, und die Bewertungen sind zwischen bedeutungsloser Fünf-Sterne-Bewertung und äußerst kritischer Bewertung gespalten Zwei-Sterne-Künstler möchte wissen, warum der Inhalt des Buches nicht mit den Angaben auf dem Cover übereinstimmt.

Am verheerendsten ist die Tatsache, dass die mutmaßlichen Autoren dieser Bücher offenbar überhaupt keine Online-Präsenz haben. Selbst eine umgekehrte Bildsuche der Fotos ihrer Autoren ergab nichts, was darauf hindeutet, dass diese „Fotos“ wahrscheinlich ebenfalls KI-generiert sind.

Für einen erfahrenen Sammler ist es leicht, Bücher wie dieses abzutun, aber das ist natürlich auch nicht die Zielgruppe. Bücher wie dieses richten sich an Anfänger, und das Problem dabei ist, dass man nicht weiß, was man nicht weiß. Während einige offensichtlicher nutzlos sind als andere (das Buch zum Selbstsuchen von Brokkoli und das mit einer Liste von Rezepten, aber ohne konkrete Anleitung, wie man sie in den Sinn bringt), werden andere für die Leute einfach nur schwerer zu erkennen sein Am Anfang wird es gefährlich gefährlich.

Viele Wildpflanzen sind tödlich und haben, wie die Wasserschierlingspflanze, große Ähnlichkeit mit harmlosen essbaren Pflanzen. Sie müssen wirklich wissen, was Sie tun, wenn Sie mit der Nahrungssuche beginnen wollen, und jede verbreitete Fehlinformation, insbesondere wenn dahinter die Behauptung von Fachwissen steckt, kann jemanden töten.

Die Nahrungssuche ist nicht das einzige potenziell tödliche Hobby, das von diesen von der KI verfassten Leitfäden wahrscheinlich beeinträchtigt wird. In vielen Handwerkskreisen ist es üblich, dass erfahrene Bastler und Profis selbst veröffentlichte Handbücher erstellen, um ein wenig mehr Geld zu verdienen, und während ein KI-Leitfaden zum Häkeln wahrscheinlich nur lästig ist, haben KI-Bücher über Elektronik oder Metallarbeiten dies potenziell äußerst gefährlich sein. Es reicht aus, einen einzigen Schritt zu verpassen (etwas nicht richtig zu erden, den Metallton vor dem Brennen nicht vollständig auszutrocknen), und schon kann jemand tot oder schwer verletzt sein. Und wie bei Neulingen in der Nahrungssuche wissen Sie nicht, was Sie nicht wissen.

Wir sind es gewohnt, davon ausgehen zu können, dass alles, was in einem Buch steht, wahrscheinlich, wenn nicht 100 % korrekt, so doch zumindest sicher ist. Ein richtiger Verlag sollte das vor Drucklegung sicherstellen – schon allein deshalb, weil niemand eine Klage will. Dank des von Amazon angeheizten Booms im Self-Publishing ist dies seit rund einem Jahrzehnt keine sichere Annahme mehr, aber die Verbreitung von KI-produzierten Werken hat das Problem aufs Äußerste verschärft, und wenn nicht etwas unternommen wird, um es zu entschärfen Es wird nur noch schlimmer werden.

Das bedeutet nicht, dass wir nicht allem vertrauen können, was wir lesen, oder dass wir uns für hochwertige Informationen nur auf große Mainstream-Verlage verlassen können. Wir müssen bei der Auswahl unserer Quellen nur viel vorsichtiger sein, und eine der wichtigsten Möglichkeiten, dies zu tun, sind vielleicht ironischerweise die sozialen Medien. Unabhängige Autoren und Experten müssen, oft zu ihrem Leidwesen, seit einiger Zeit eine aktive Social-Media-Präsenz aufrechterhalten, um ihr Fachwissen zu etablieren und eine Anhängerschaft für ihre Arbeit aufzubauen.

Bevor Sie etwas bei Amazon oder einem ähnlichen Marktplatz kaufen, ist es wichtig, den Autor gründlich zu recherchieren, nicht nur um sicherzustellen, dass er jetzt dank KI eine echte Person ist (und tatsächlich der Autor hinter dem Buch), sondern auch um sicherzustellen, dass er weiß, was er will. Ich spreche davon, dass sie von ihren Kollegen respektiert werden und keine Pseudowissenschaft oder Desinformation verbreiten. Vor allem, wenn es sich um etwas handelt, bei dem ein hohes Risiko besteht, dass man sich selbst tötet oder verletzt, wenn man es falsch macht.

Was die Flut an KI-Büchern betrifft, die wir derzeit auf Amazon sehen, wird sie nur dann ein Ende haben, wenn Amazon beschließt, etwas dagegen zu unternehmen. Was unwahrscheinlich ist, es sei denn, es ist für sie nicht mehr profitabel oder rechtliche Schritte zwingen sie dazu. Es muss etwas gegen KI-generierte Arbeit unternommen werden, vorzugsweise bevor sie jemanden vergiftet oder zu Verbrennungen dritten Grades führt. Die Frage ist nur, wie wir sicherstellen können, dass dies geschieht.

(Ausgewähltes Bild: Fox)

Haben Sie einen Tipp, den wir kennen sollten? [email protected]

Siobhan Ball (sie/sie) ist eine Autorin, die über Nachrichten, queere Themen, Politik und Star Wars berichtet. Als ehemalige Historikerin und Archivarin unternahm sie ihre ersten Versuche im Journalismus, indem sie ca. 2016 und von da an ging es rasant. Wenn sie nicht arbeitet, schreibt sie immer noch, schreibt unterwegs mehrere Romane und ein Buch über irische Mythen und entwickelt ihre Fähigkeiten als Juwelierin weiter.