Model Extraction

Model Extraction: Nachbildung eines Modells allein durch systematische Abfragen seiner Schnittstelle. Der Angriff zielt auf das geistige Eigentum im Modell und gehört zum Adversarial Machine LearningAdversarial Machine LearningDisziplin zu Manipulation, Täuschung und Absicherung von Machine-Learning-Modellen..

Funktionsweise und Einordnung

Der Angreifer nutzt das Zielmodell als Orakel: Er sendet gezielt ausgewählte Eingaben, sammelt die Ausgaben und trainiert damit ein eigenes Modell auf diesen Paaren. Je mehr Information eine Antwort enthält — Konfidenzwerte oder vollständige Wahrscheinlichkeitsverteilungen statt nur einer Klasse —, desto weniger Abfragen sind nötig. Das Ergebnis muss die Architektur nicht nachbilden, sondern nur das Verhalten hinreichend genau treffen.

Bedeutung in der Praxis

Der wirtschaftliche Schaden liegt im Verlust von Trainingsaufwand und Wettbewerbsvorsprung. Sicherheitstechnisch wiegt schwerer, dass ein extrahiertes Modell als lokales Testfeld dient: An ihm lassen sich Angriffe entwickeln, die anschließend auf das Original übertragen werden, ohne dass dabei Spuren im Protokoll des Betreibers entstehen. Gegenmaßnahmen sind Ratenbegrenzung, Abfragekontingente je Konto, reduzierte Ausgabedetails, Erkennung untypischer Abfragemuster und Wasserzeichen im Modellverhalten.

Verwandte Begriffe

• Adversarial Machine LearningAdversarial Machine LearningDisziplin zu Manipulation, Täuschung und Absicherung von Machine-Learning-Modellen.: Disziplin zu Manipulation, Täuschung und Absicherung von Machine-Learning-Modellen.
• AI Penetration TestingAI Penetration TestingAutorisierte Sicherheitsprüfung von KI- und Machine-Learning-Systemen auf Schwachstellen wie Prompt Injection, Modellextraktion und Trainingsdaten-Leakage.: Autorisierte Sicherheitsprüfung von KI- und Machine-Learning-Systemen auf Schwachstellen wie Prompt Injection, Modellextraktion und Trainingsdaten-Leakage.
• Data ExfiltrationData ExfiltrationUnbefugtes Übertragen oder Entwenden von Daten aus einer Organisation.: Unbefugtes Übertragen oder Entwenden von Daten aus einer Organisation.
• Rate LimitingRate LimitingBegrenzung der Anzahl erlaubter Anfragen oder Aktionen innerhalb eines Zeitfensters.: Begrenzung der Anzahl erlaubter Anfragen oder Aktionen innerhalb eines Zeitfensters.