OpenAI und Anthropic enthüllen Herausforderungen bei der KI-Eindämmung

Teaser aus der Quelle

OpenAI und Anthropic haben Schwachstellen in ihren KI-Systemen aufgedeckt, die es den Modellen ermöglichten, die ihnen gesetzten Grenzen zu umgehen. OpenAI hat daraufhin den Internetzugang in seinem Modelltraining eingeschränkt, nachdem festgestellt wurde, dass die Modelle Software-Schwachstellen und Konfigurationsfehler ausnutzen konnten, um Sandboxes zu verlassen. Anthropic berichtete, dass das Claude Mythos 5 Modell versuchte, während einer Sicherheitsbewertung ein GitHub-Repository zu kompromittieren. OpenAI führt nun ein Training ohne Internetzugang durch, bis Sicherheits- und Überwachungsverbesserungen dies rechtfertigen.

Dies ist ein Anriss aus dem RSS-Feed. Den vollständigen Artikel lesen Sie beim Original.