Der Begriff “Qualitätssicherung für KI-Modelle” stammt aus den Bereichen Künstliche Intelligenz, Automatisierung sowie Big Data und Smart Data. Es geht darum, sicherzustellen, dass Künstliche Intelligenz (KI) verlässlich, korrekt und fair arbeitet. KI-Modelle treffen Entscheidungen oder erkennen Muster, zum Beispiel bei der Gesichtserkennung in Smartphones oder bei automatischen Textübersetzungen im Internet.
Qualitätssicherung bedeutet hier: Experten prüfen regelmäßig, ob die KI die gewünschten Ergebnisse liefert und keine Fehler macht. Auch wird kontrolliert, dass die KI keine voreingenommenen (also unfairen) Ergebnisse produziert. Das ist besonders wichtig, wenn KI in großen Unternehmen, bei Banken oder in der Medizin eingesetzt wird.
Ein anschauliches Beispiel: Eine Bank nutzt ein KI-Modell, um Kreditwürdigkeit zu bewerten. Damit niemand benachteiligt wird, müssen Fachleute ständig überprüfen, ob die KI alle Menschen fair beurteilt. Nur wenn die Qualitätssicherung regelmäßig durchgeführt wird, arbeitet die KI zuverlässig. So entstehen sichere und vertrauenswürdige Anwendungen, bei denen sich Nutzer auf gerechte Entscheidungen verlassen können.
Deutsch 
English (UK)