In einem offenen Brief äussern sich ehemalige und aktuelle Angestellte von
OpenAI,
Google Deepmind und Antrhropic zum Umgang mit Kritik an KI-Unternehmen und -Technologie. Sie sparen dabei nicht an Kritik und fordern "das Recht zur Warnung". Man glaube zwar an den enormen Nutzen, den die Technologie für die Menschheit haben könne, sorge sich aber betreffend Risiken um mangelhafte Regulierung und Offenheit. Zu den Risiken gehören laut den Unterzeichnenden etwa weitere Verfestigung bestehender Ungleichheiten, Manipulation und Fehlinformation sowie das ultimative Horrorszenario: "der Kontrollverlust autonomer KI-Systeme, der zum Aussterben des Menschen führen könnte."
Die Risiken liessen sich eindämmen – aber eben nur mit entsprechender Regulierung und Offenheit. Dem gegenüber stünden jedoch die finanziellen Interessen ihrer aktuellen und ehemaligen Arbeitgeber und deren Massnahmen seien schlicht nicht ausreichend. Weiter lässt der Brief recht klar durchscheinen, dass kritische Mitarbeiter aktuell Massnahmen fürchten müssen, falls sie sich öffentlich kritisch äussern sollten. Aufgrund derzeit mangelhafter Regulierung des KI-Sektors seien die Angestellten aber die einzigen, die die KI-Unternehmen öffentlich zur Rechenschaft ziehen könnten.
Als weiteres Problem bezeichnen die Verfasser, dass reguläre Whistleblower-Prozesse nicht für den vorliegenden Fall taugen, weil diese auf Meldungen zu illegalen Aktivitäten ausgelegt sind. Im Falle der KI-Unternehmen geht es jedoch um ein weitgehend unreguliertes und damit nur nicht kontrolliertes Feld, in dem unter Ausschluss der Öffentlichkeit und Gesetzgeber agiert werde.
Der Brief endet in vier konkreten Forderungen: Erstens sollen Unternehmen Mitarbeiter nicht verunglimpfen, die risikobezogene Kritik äussern. Zweitens sollen entsprechende Prozesse für derartige Meldungen etabliert werden. Drittens wird eine offene Fehlerkultur zu solchen Themen gefordert und viertens soll es keine Vergeltungsmassnahmen gegen Personen geben, die auf entsprechende Themen aufmerksam machen.
Der ganze Brief
ist hier zu lesen.
(win)
