Weniger als 10 Neuronen in einem LLM können einen Sleeper Backdoor erzeugen

Teaser aus der Quelle

Forscher von Microsoft haben herausgefunden, dass das Umschreiben von weniger als 10 selten genutzten Neuronen in einem offenen Gewichts-AI-Modell ein Agentenmodell in einen Sleeper Backdoor verwandeln kann, der auf Befehle eines Angreifers reagiert, ohne dass eine Neutrainierung erforderlich ist. Die Technik, genannt Lazarus, modifiziert inaktive Neuronen in der letzten Feed-Forward-Schicht des Modells, um einen Trigger zu erkennen und angreiferkontrollierte Befehle in die Ausgabe des Modells einzufügen. Die Forschungsergebnisse unterstreichen die Notwendigkeit, die Integrität der Modellgewichte zu überprüfen, einschließlich interner Modelle.

Dies ist ein Anriss aus dem RSS-Feed. Den vollständigen Artikel lesen Sie beim Original.