General AI Safety gehört in die Kategorie Künstliche Intelligenz und Digitale Gesellschaft. Der Begriff beschreibt Maßnahmen und Konzepte, die dafür sorgen sollen, dass besonders fortschrittliche, allgemeine Künstliche Intelligenz (KI), also sogenannte General AI, keine Risiken für Menschen oder die Gesellschaft darstellt.
Während heutige KI meist auf bestimmte Aufgaben spezialisiert ist, zielt General AI darauf ab, Aufgaben genauso gut oder sogar besser als Menschen in vielen verschiedenen Bereichen zu lösen. Damit solche Systeme zuverlässig und sicher handeln, entwickeln Forscher Methoden, um ihre Ziele und Entscheidungen besser zu kontrollieren.
Ein einfaches Beispiel: Man stellt sich einen Roboter-Assistenten vor, der im Krankenhaus bei der Pflege hilft. Ohne General AI Safety könnte er Anweisungen falsch verstehen oder gefährliche Entscheidungen treffen, wie Medikamente falsch auszugeben. Mit passenden Sicherheitsvorkehrungen achtet die KI darauf, immer menschliche Interessen und Regeln einzuhalten.
General AI Safety ist damit ein wichtiges Thema, damit zukünftige, immer intelligentere KI-Systeme dem Menschen nützen – und keine Gefahren entstehen. Das Ziel ist, Technik und Gesellschaft verantwortungsvoll zusammenzubringen.
Deutsch 
English (UK)