Das Thema Vertrauenswürdigkeit im Zusammenhang mit Künstlicher Intelligenz (KI) steht in der Relevanz hoch oben. "Unzureichend evaluierte KI-Systeme können gravierende gesellschaftliche Risiken verursachen – von diskriminierenden Algorithmen über physische Sicherheitsrisiken bis hin zu Fehldiagnosen im medizinischen Kontext", schreibt dazu die
ZHAW, und kündigt an, gemeinsam mit der Zertifizierungsstelle CertX ein Zertifizierungsschema für Künstliche Intelligenz entwickelt zu haben. Mit diesem Innosuisse geförderte Projekt, das den Namen CertAInty trägt, sollen KI-Technologien auf ihre Vertrauenswürdigkeit überprüft werden.
CertAInty soll einen strukturierten Rahmen für die Begutachtung von KI-Technologien bieten und dabei die folgenden vier zentralen Dimensionen umfassen:
• Zuverlässigkeit: Verlässliche Systemleistung unter verschiedenen Bedingungen
• Transparenz: Nachvollziehbarkeit von KI-Entscheidungsprozessen
• Autonomie und Kontrolle: Definition des Grads menschlicher Aufsicht
• Sicherheit: Vermeidung unerwünschter Folgen in kritischen Anwendungsbereichen, beispielsweise im Gesundheitswesen oder in autonomen Transportsystemen
Die Anwendbarkeit des Schemas sei anhand mehrerer realer Beispiele demonstriert worden, erklärt die
ZHAW, etwa der KI-gestützten Erkennung von Baufahrzeugen mittels Computer Vision. Dabei sei die Zuverlässigkeit der KI-gestützten Erkennung gegen Störfaktoren wie Wettereinflüsse und Bildverzerrungen systematisch evaluiert worden.
Besondere Bedeutung erhalte das Projekt durch den EU AI Act, der am 1. August 2024 in Kraft getreten ist und ab dem 2. August 2026 vollständig anwendbar sein wird. "Diese Regulierung wird für Hochrisiko-KI-Systeme eine obligatorische Zertifizierung einführen, die genau jene Dimensionen umfasst, die CertAInty adressiert", so die ZHAW. In naher Zukunft werde nämlich auch in der Schweiz eine regulatorische Regelung erwartet. Zudem müssten Schweizer Unternehmen, die ihre Produkte in der EU vertreiben, die Vorgaben des EU AI Acts einhalten.
"Die Zertifizierung von KI-Systemen durch eine akkreditierte Stelle erhöht das Vertrauen, beschleunigt die Akzeptanz und ermöglicht ihren Einsatz in sicherheitskritischen Anwendungen", erklärt dazu Ricardo Chavarriaga von der ZHAW School of Engineering. Joanna Weng, die das Projekt gemeinsam mit ihm leitet, führt aus: "Das CertAInty-Schema überbrückt die Lücke zwischen den abstrakten regulatorischen Vorgaben des EU AI Acts und konkreten technischen Methoden für die Bewertung von KI-Systemen."
(mw)
