Adversarial Machine Learning

Adversarial Machine Learning: Disziplin zu Manipulation, Täuschung und Absicherung von Machine-Learning-Modellen. Der Begriff ist für die Bewertung und Gestaltung moderner SicherheitsarchitekturenSecurity ArchitectureStrukturierte Gestaltung von Sicherheitskontrollen, Vertrauensgrenzen, Datenflüssen und betrieblichen Verantwortlichkeiten. relevant und sollte im jeweiligen technischen und organisatorischen Kontext angewendet werden.

Funktionsweise und Einordnung

Technisch beschreibt Adversarial Machine Learning einen Angriffsweg oder eine konkrete Vorgehensweise, nicht bloß ein einzelnes auffälliges Ereignis. Für eine belastbare Bewertung müssen Voraussetzungen, Einstiegspunkt, Ziel, mögliche Zwischenschritte und die erwartete Wirkung getrennt betrachtet werden. Dieselbe Technik kann je nach Systemarchitektur, Berechtigungen und vorhandenen Schutzmaßnahmen sehr unterschiedliche Folgen haben.

Bedeutung in der Praxis

In der Praxis sind sowohl vorbeugende Maßnahmen als auch erkennbare Spuren wichtig. Dazu gehören sichere Konfigurationen, begrenzte Rechte, robuste Eingabe- und Identitätsprüfungen sowie Telemetrie an den betroffenen Systemgrenzen. Ein einzelner Indikator beweist den Angriff meist nicht; erst der Zusammenhang aus Zeitverlauf, Quelle, Ziel und beobachteter Wirkung ermöglicht eine verlässliche Erkennung, Eindämmung und Behebung.

Verwandte Begriffe

• DatenvergiftungData PoisoningManipulation von Trainings- oder Referenzdaten, um Analyse- oder Lernsysteme zu beeinflussen.: Manipulation von Trainings- oder Referenzdaten, um Analyse- oder Lernsysteme zu beeinflussen.
• Sicherheit föderierten LernensFederated Learning SecuritySchutz verteilter Lernverfahren vor Datenabfluss, Manipulation und bösartigen Teilnehmern.: Schutz verteilter Lernverfahren vor Datenabfluss, Manipulation und bösartigen Teilnehmern.
• BedrohungsmodellierungThreat ModelingAnalysiert mögliche Angreifer, Angriffswege und Schutzmaßnahmen bereits im Design.: Analysiert mögliche Angreifer, Angriffswege und Schutzmaßnahmen bereits im Design.
• SicherheitstestsSecurity TestingPrüft Systeme, Anwendungen und Kontrollen auf Schwächen und Fehlverhalten.: Prüft Systeme, Anwendungen und Kontrollen auf Schwächen und Fehlverhalten.