- Daily Pausenbrot
- Posts
- OpenAI löst KI-Sicherheitsteam auf
OpenAI löst KI-Sicherheitsteam auf
PLUS: Apple und OpenAI planen gemeinsame Ankündigung
Samuel K
May 21, 2024
GuMo! Hier ist dein Daily Pausenbrot. Wir halten deine Hand und schauen in beide Richtungen, während du sorglos die Straßen der KI-Welt überquerst.
Heute in der Brotdose 🥪
OpenAI löst KI-Sicherheitsteam auf
Apple und OpenAI planen gemeinsame Ankündigung
Benutzerdaten einfach für deine KI-App aufnehmen
DINO 1.5 verbessert die Objekterkennung durch KI
Lesedauer: 3 Minuten
NEUESTE ENTWICKLUNGEN
OpenAI
OpenAI löst KI-Sicherheitsteam auf
OpenAI hat Berichten zufolge sein KI-Sicherheitsteam, das sich auf langfristige Risiken konzentrierte, nach dem Rücktritt der Schlüsselpersonen Ilya Sutskever und Jan Leike aufgelöst.
Das Superalignment-Team, das weniger als ein Jahr alt ist und die Sicherheit zukünftiger KI-Systeme gewährleisten sollte, wird nun in die allgemeinen Forschungsbemühungen integriert. Ilya Sutskever und Jan Leike traten nach monatelangen Spannungen zurück, wobei Leike Meinungsverschiedenheiten über die Kernprioritäten des Unternehmens anführte.
Leike kritisierte, dass Sicherheitskultur und -prozesse zugunsten "glänzender Produkte" vernachlässigt wurden und betonte, dass OpenAI zu einem "sicherheitsorientierten AGI-Unternehmen" werden müsse. Präsident Greg Brockman reagierte auf Leikes Aussagen und bekräftigte das Engagement des Unternehmens für KI-Sicherheit.
Diese Entwicklung hat die AI-Community gespalten: Während vorsichtigere Fraktionen über die Auflösung des Sicherheitsteams besorgt sind, wird dies von jenen begrüßt, die eine schnellere Entwicklung um jeden Preis wünschen.