💡 Zusammenfassung
In dieser Episode des Fraunhofer-Podcasts „Im Auftrag der Zukunft“ diskutiert Sven Oswald das Thema „Vertrauenswürdige KI“ und die Notwendigkeit, Künstliche Intelligenz (KI) auf ihre Vertrauenswürdigkeit hin zu überprüfen und zu zertifizieren. Dr. Maximilian Poretschkin vom Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme (IAIS) erklärt, wie komplex es ist, KI-Systeme sicher zu machen, da herkömmliche Verfahren zur Qualitätssicherung nicht ausreichen. Dabei spielen Faktoren wie Fairness, Robustheit und Cybersicherheit eine entscheidende Rolle. Ein weiteres Highlight ist der „Uncertainty Wrapper“, eine Entwicklung des Fraunhofer-Instituts für Experimentelles Software Engineering (IESE), der dazu dient, die Unsicherheit in den Entscheidungen von KI-Systemen zu messen und sie so sicherer zu machen. Diese Technologie ist insbesondere in sicherheitskritischen Anwendungen von großer Bedeutung.

⬆️ Highlights
🔍 Vertrauenswürdige KI: Wichtigkeit der Zertifizierung von KI-Systemen, um ihre Vertrauenswürdigkeit und Sicherheit zu gewährleisten.
🛡️ KI-Zertifizierung: Einführung von Prüfkatalogen zur systematischen Überprüfung und Absicherung von KI-Anwendungen durch das Fraunhofer IAIS.
🤖 Uncertainty Wrapper: Entwicklung eines Tools zur Messung der Unsicherheit in KI-Entscheidungen, um die Verlässlichkeit von KI-Systemen zu erhöhen.
🚨 KI als Werkzeug: Diskussion über die Notwendigkeit, KI als Werkzeug zu verstehen und sicherzustellen, dass sie nur für den vorgesehenen Zweck eingesetzt wird.

Kapitelübersicht
00:00:00 – Einleitung Einführung in das Thema „Vertrauenswürdige KI“ und die Bedeutung, KI-Systemen vertrauen zu können.
00:00:50 – KI und Arbeitsbedingungen Erörterung einer Umfrage, die zeigt, dass 52 % der Menschen glauben, KI könnte Arbeitsbedingungen verbessern, aber Vertrauen in KI-Entscheidungen ist ein Problem.
00:02:40 – Vertrauenswürdige KI Dr. Maximilian Poretschkin erklärt die Dimensionen der Vertrauenswürdigkeit von KI und die Herausforderungen bei der Zertifizierung.
00:06:06 – Prüfprozesse für KI Beschreibung der Prüfprozesse und der Schritte, die notwendig sind, um eine KI zu zertifizieren, einschließlich Risikoanalysen und technischer Tests.
00:09:32 – Weiterentwicklung von KI Diskussion über die Herausforderung, sicherzustellen, dass eine KI vertrauenswürdig bleibt, auch wenn sie sich im Betrieb weiterentwickelt.
00:11:24 – Worst-Case-Szenarien Erklärung möglicher Folgen, wenn KI-Systeme ohne angemessene Prüfung eingesetzt werden, einschließlich der Gefahr von Fehlentscheidungen.
00:14:53 – Der Uncertainty Wrapper Janek Groß erläutert, wie der „Uncertainty Wrapper“ Unsicherheiten in KI-Entscheidungen identifizieren kann, um die Sicherheit von KI-Systemen zu erhöhen.
00:16:36 – Fehleranfälligkeit von KIs Erklärung, warum KI-Systeme falsche Entscheidungen treffen und wie der „Uncertainty Wrapper“ hilft, diese Unsicherheiten zu erkennen.
00:24:05 – Einsatz in der Industrie Besprechung, wie der „Uncertainty Wrapper“ in verschiedenen Industrien eingesetzt werden kann, um die Sicherheit von KI-Systemen zu verbessern.
00:28:26 – Abschluss Abschließende Gedanken zur Rolle der KI als Werkzeug und die Bedeutung, sicherzustellen, dass sie zuverlässig funktioniert.