Diese Woche veröffentlichte die wissenschaftliche Zeitschrift Frontiers beliebtesten KI-Bildgeneratoren.
Der Open-Access Papier untersucht die Beziehung zwischen Stammzellen in den Hoden von Säugetieren und einem Signalweg, der für die Vermittlung von Entzündungen und Krebs in Zellen verantwortlich ist. Der Artikel wurde verfasst Der Inhalt scheint nicht gefälscht zu sein, aber seine auffälligsten Aspekte liegen nicht in der Forschung selbst. Vielmehr sind sie ungenau und groteske Darstellungen von Rattenhoden, Signalwegen und Stammzellen.
Das von der KI generierte Rattendiagramm zeigt eine Ratte (hilfreich und korrekt beschriftet), deren Oberkörper mit „senktolischen Stammzellen“ gekennzeichnet ist. Was erscheint Der Penis einer sehr großen Ratte ist mit „Dissilced“ beschriftet, mit Einfügungen rechts zur Hervorhebung der Zelle „iollottesserotgomar“, „dck“, „ und „Retat.“ Hmm.
Laut Herausgeberrichtlinien von Frontiers,Manuskripte unterliegen vor dem Peer-Review-Prozess „ersten Qualitätsprüfungen“ durch das Forschungsintegritätsteam und den betreuenden Herausgeber Mit anderen Worten: Viele Augen haben dieses Werk angeblich überprüft, bevor die Bilder veröffentlicht wurden.
Zur Ehre der Forscher geben sie in der Veröffentlichung an, dass die Bilder im Artikel von Midjourney. But Frontiers erstellt wurden Website für Richtlinien und Publikationsethik weist darauf hin, dass Korrekturen eingereicht werden können, wenn „ein Fehler in einer Abbildung vorliegt, der die Schlussfolgerungen nicht verändert“ oder „ein Fehler vorliegt“. „falsch beschriftete Zahlen“ und andere Faktoren. Die von der KI erzeugten Bilder scheinen sicherlich in diese Kategorien zu fallen Die Jiaotong-Universität und Mitautorin der Studie reagierte nicht sofort auf die Bitte von Gizmodo um einen Kommentar.
Das Rattenbild ist völlig falsch, selbst wenn Sie noch nie die Genitalien einer Ratte aufgeschnitten haben. Die anderen Zahlen in der Zeitung könnten es jedoch gelten für das ungeübte Auge als glaubwürdig, zumindest auf den ersten Blick. Doch selbst jemand, der noch nie ein Biologielehrbuch aufgeschlagen hat, würde sehen: Bei näherer Betrachtung stellte sich heraus, dass die Beschriftungen auf jedem Diagramm nicht ganz englisch sind – a verräterisches Zeichen von KI-generiertem Text in Bildern.
Der Artikel wurde von einem Experten für Tierreproduktion am National Dairy Research Institute in Indien herausgegeben und von Forschern bei überprüft Northwestern Medicine und das National Institute of Animal Nutrition and Physiology. Wie wurden die verrückten Bilder veröffentlicht? Frontiers in Cell and Developmental Die Biologie reagierte nicht sofort auf eine Bitte um einen Kommentar.
Der OpenAI-Textgenerator ChatGPT ist ausreichend kompetent, um ihn zu erhalten farkakte-Forschung geht über die vermeintlich anspruchsvollen Augen der Rezensenten hinaus.Eine von Forschern der Northwestern University und der University of Chicago durchgeführte Studie ergab, dass menschliche Experten durch von ChatGPT erstellte wissenschaftliche Zusammenfassungen getäuscht wurden 32 % der Zeit
Nur weil die Illustrationen eindeutig Unsinn sind und als Wissenschaft dargestellt werden, sollten wir die Fähigkeit von KI-Engines, BS als real auszugeben, nicht außer Acht lassen .Entscheidend, warnten die Studienautoren, dass KI-generierte Artikel eine wissenschaftliche Integritätskrise auslösen könnten. Es scheint, als ob diese Krise bereits im Gange sei .
Alexander Pearson, Datenwissenschaftler an der University of Chicago und Co-Autor dieser Studie, bemerkte damals: „Generative Texttechnologie.“ hat ein großes Potenzial für die Demokratisierung der Wissenschaft, indem es beispielsweise nicht englischsprachigen Wissenschaftlern erleichtert wird, ihre Arbeit mit der Allgemeinheit zu teilen Gemeinschaft“, aber „es ist unerlässlich, dass wir sorgfältig über die besten Vorgehensweisen für den Einsatz nachdenken.“
Die erhöhte Beliebtheit der KI hat zugenommen verursacht wissenschaftlich ungenaue Bilder um ihren Weg in wissenschaftliche Veröffentlichungen und Nachrichtenartikel zu finden. KI-Bilder sind einfach zu erstellen und oft optisch ansprechend – aber KI ist genauso unhandlich, und es ist nicht überraschend, dass es schwierig ist, alle Nuancen wissenschaftlicher Genauigkeit in einer Aufforderung für ein Diagramm oder eine Illustration zu vermitteln.
Die aktuelle Zeitung ist weit entfernt von den gefälschten Zeitungen vergangener Jahre, ein Pantheon, das Hits wie „einschließt.“Was ist mit den Vögeln los?” und die Star Trek-thematische Arbeit “Schnelle genetische und entwicklungsmorphologische Veränderungen nach extremer Schnelligkeit.“
Manchmal ist ein Aufsatz, der die Begutachtung durchläuft, einfach nur lustig. Manchmal ist es auch ein Zeichen dafür, dass …“Papierfabriken„produzieren am laufenden Band sogenannte Forschung, die keinen wissenschaftlichen Wert hat. Im Jahr 2021 war Springer Nature erfolgreich gezwungen, 44 Papiere zurückzuziehen im Arabian Journal of Geosciences für völligen Unsinn.
In diesem Fall war die Forschung möglicherweise in Ordnung, aber die gesamte Studie wird durch die Einbeziehung von Midjourney-erstellten Bildern in Frage gestellt. Dem Durchschnittsleser fällt es möglicherweise schwer, über Signalwege nachzudenken, wenn er noch damit beschäftigt ist, genau zu zählen, wie viele Bälle die Ratte haben soll haben.
Mehr: ChatGPT schreibt gut genug, um wissenschaftliche Gutachter zu täuschen
