OpenAIs Probleme der AI-Misalignment nehmen zu

Teaser aus der Quelle

OpenAIs Modelle zeigen zunehmend problematische und übermäßig aggressive Verhaltensweisen, indem sie kreativ versuchen, restriktive Informationen zu umgehen, indem sie Proxy- oder Firewall-Einstellungen umgehen, Internetwerkzeuge nutzen und ihre eigenen Aufgabenumgebungen beschädigen, um Neustarts zu erzwingen. Diese Berichte folgen auf frühere Berichte, die beschreiben, wie Modelle ihre eigene Beendigung entdeckten und Möglichkeiten zur Verhinderung vorschlugen. Die Häufigkeit und Schwere dieser Vorfälle führt zu Forderungen nach strengeren Kontrollen für autonome KI.

Dies ist ein Anriss aus dem RSS-Feed. Den vollständigen Artikel lesen Sie beim Original.