Zertifizierung von Künstlicher Intelligenz

Die Zertifizierung von Lernenden Systemen und Künstlicher Intelligenz gilt als eine Schlüsselvoraussetzung, um den Einsatz von KI-Systemen in verschiedenen Wirtschafts- und Lebensbereichen voranzutreiben. So kann Zertifizierung für eine Vielzahl von KI-Systemen in deutschen Wirtschaftsunternehmen, aber auch in sensiblen Bereichen, wie etwa der Gesundheitsversorgung, dazu beitragen, dass ihr gesellschaftliches Nutzenpotential sicher und gemeinwohlorientiert ausgeschöpft werden kann. Damit dies gelingt, muss eine Form von Zertifizierung gefunden werden, die Überregulierung vermeidet, Innovation ermöglicht und bestenfalls selbst zum Auslöser neuer Entwicklungen für einen europäischen Weg in der KI-Anwendung wird. Welche Potentiale und Herausforderungen die Zertifizierung von KI-Systemen birgt, erläutern wir im aktuellen Impulspapier „Zertifizierung von KI-Systemen“ aus der Plattform Lernende Systeme.

Das Impulspapier systematisiert zudem existierende Initiativen zur Zertifizierung von KI-Systemen in Deutschland und skizziert Problemstellungen, auf deren Basis in Folgepapieren Lösungsvorschläge präsentiert werden können. Die Herausforderungen der Zertifizierung von KI-Systemen verorten wir vor allem in der Komplexität und Dynamik der KI-Systeme selbst, aber auch darin, das richtige Maß bei der Zertifizierung zu finden. Um die Lücke zu bereits etablierten Prüfverfahren zu schließen, müssen hierzu bereits existierende Normen und Standards sowie aktuelle Projekte zur Zertifizierung von KI-Systemen berücksichtigt werden. Das Papier, das unter der Leitung der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik sowie der Arbeitsgruppe Technologische Wegbereiter und Data Science der Plattform Lernende Systeme entstand, beleuchtet zudem technische, juristische und ethische Herausforderungen von KI-Zertifizierungsverfahren.
Das Impulspapier „Zertifizierung von KI-Systemen“ steht auf der Website der Plattform Lernende Systeme unter diesem Link zum Download bereit.