Der neue Bildgenerator von OpenAIs aktualisiertem KI-Modell GPT-4o hat eine Fähigkeit dazugewonnen, die wohl nicht überall auf Beliebtheit stossen dürfte. Er kann nämlich in die generierten Bilder realistischen Text einfügen. Bisher konnten KI-Bildgeneratoren als Text jeweils nur eine Art Kauderwelsch erzeugen, so dass KI-generierte Bilder mit Text leicht als solche zu erkennen waren.
In einem X-Post zeigt User @deedydas eine täuschend echt aussehende Restaurantquittung, die er offenbar mithilfe von GPT-4o erstellt hat. Sein Kommentar dazu: "Es gibt zu viele Überprüfungs-Workflows in der realen Welt, die sich auf 'echte Bilder' als Beweismittel stützen. Diese Ära ist vorbei."
Fake-Rechnungen und gefälschte Quittungen sind nur noch einen Prompt entfernt, wie die Kollegen von "Golem.de"
selbst ausprobiert haben: Die Redaktion fragte nur nach einer Quittung eines fiktiven Steakhouse und erhielt ein Bild mit passenden, sinnvollen Posten und korrekt berechneter Summe. Auf diese Weise lassen sich natürlich auch echte Rechnungen nachträglich manipulieren und zum Beispiel ein anderes Rechnungsdatum sowie höhere oder niedrigere Beträge einsetzen.
(ubi)
