Der Begriff Model Robustness stammt aus den Bereichen Künstliche Intelligenz, Big Data und Smart Data sowie Cyberkriminalität und Cybersecurity. Er beschreibt, wie widerstandsfähig ein KI-Modell oder ein datenbasiertes System gegenüber Störungen, Fehlern oder unbekannten Daten ist. Ein robustes Modell funktioniert also auch dann zuverlässig, wenn es mit neuen, ungewohnten oder fehlerhaften Eingaben konfrontiert wird.
Warum ist Model Robustness wichtig? In der Praxis arbeiten viele KI-Anwendungen – zum Beispiel bei der Kreditvergabe oder in der Bilderkennung – oft mit Daten, die kleine Abweichungen, Fehler oder Manipulationen enthalten können. Ein Modell, das in solchen Situationen trotzdem die richtigen Entscheidungen trifft, gilt als robust.
Ein anschauliches Beispiel: Stellen Sie sich eine Gesichtserkennungssoftware vor, die Menschen auch dann korrekt erkennt, wenn sie eine Brille tragen, schlecht beleuchtet sind oder das Foto leicht unscharf ist. Nur ein robustes Modell kann mit solchen kleinen Störungen umgehen und liefert trotzdem zuverlässige Ergebnisse. Model Robustness ist also ein entscheidender Faktor für die Sicherheit, Fairness und Zuverlässigkeit von KI-Anwendungen in der digitalen Welt.
Deutsch 
English (UK)