KI-Forscher fordern “Right to Warn”

Heute in der Brotdose 🥪

• KI-Forscher fordern “Right to Warn”

• Elon Musk priorisiert KI-Prozessoren für X

• Lasse Bilder mit GPT-4o in Echtzeit erklären

• OpenAI-Forscher prognostiziert AGI bis 2027

Lesedauer: 3 Minuten

NEUESTE ENTWICKLUNGEN

OpenAI
KI-Forscher fordern “Right to Warn”

Aktuelle und ehemalige Mitarbeiter von führenden KI-Labors wie OpenAI, Anthropic und DeepMind haben einen offenen Brief veröffentlicht, in dem sie eine Ausweitung des Whistleblower-Schutzes fordern. Dies soll es den Mitarbeitern ermöglichen, potenzielle Gefahren der KI ohne Angst vor Repressalien zu melden. Die „Right to Warn AI“-Petition, unterstützt von prominenten KI-Visionären wie Yoshua Bengio, Geoffrey Hinton und Stuart Russell, fordert die Unternehmen auf, mehrere Prinzipien zu akzeptieren: die Abschaffung von Nicht-Diskreditierungsklauseln in Bezug auf KI-Risiken, die Einrichtung anonymer Kanäle zur Äußerung von Bedenken und die Erweiterung des Whistleblower-Schutzes sowie Maßnahmen gegen Repressalien.

In Threads berichten Forscher von ihren Erfahrungen, wobei Daniel Kokotajlo erklärte, dass er OpenAI verlassen habe, nachdem er „die Hoffnung verloren hatte“, dass das Unternehmen verantwortungsvoll handeln würde.

Diese Entwicklungen verdeutlichen die zunehmenden Spannungen in der Diskussion um KI-Sicherheit. Es zeigt sich eine deutliche Spaltung in der Branche, die über einzelne Unternehmen und Forscher hinausgeht. Die vorgeschlagenen Prinzipien erscheinen vernünftig und notwendig, doch es bleibt abzuwarten, ob die führenden KI-Unternehmen tatsächlich darauf reagieren werden.