In der 35. Sitzung der „Denkfabrik Legal Tech“ hat Herr Dr. Maximilian Poretschkin, Leiter „KI-Absicherung und Zertifizierung“ am Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS zum Thema „Prüfung der Vertrauenswürdigkeit von KI-Anwendungen“ referiert.

Künstliche Intelligenz hält Einzug in viele Bereiche unseres Alltagslebens und übernimmt dabei zunehmend verantwortungsvolle Tätigkeiten. Insbesondere die rechtswissenschaftliche Domäne bietet viele spannende Möglichkeiten für den Einsatz von KI, man denke etwa an die teilautomatisierte Bearbeitung großer Dokumentenbestände (z.B. Übersetzungen, Informationsextraktion, Vergleich der Informationsgehalte unterschiedlicher Texte).

Dabei zeichnet sich ab, dass Künstliche Intelligenz nur dann ihr volles Potenzial entfalten können wird, wenn hinreichendes und nachweisbares Vertrauen in den Einsatz dieser Technologie besteht. Ein wichtiger Baustein hierfür stellt die Prüfung von KI-Systemen dar, welche durch den „AI Act“ der EU - den weltweit ersten Regulierungsentwurf für Künstliche Intelligenz - für sogenannte Hochrisiko KI-Anwendungen zudem verpflichtend vorgesehen ist. Gleichzeitig unterscheiden sich KI-Anwendungen oftmals stark von herkömmlicher Software, so dass etablierte Verfahren der Qualitätsprüfung von Software zu kurz greifen.

Dr. Poretschkin gab in seinem Vortrag einen Überblick über die Anforderungen an die Vertrauenswürdigkeit von KI-Anwendungen und die technischen Herausforderungen, die sich hieraus ergeben. Weiterhin stellte er einen am Fraunhofer IAIS entwickelten „KI-Prüfkatalog“ vor, anhand dessen sich die Anforderungen an die Vertrauenswürdigkeit (u.a. Fairness, Transparenz, Erklärbarkeit, Verlässlichkeit, Robustheit, Datenschutz, …) von KI-Anwendungen systematisch überprüfen lassen und berichtete von Erfahrungen aus durchgeführten KI-Prüfungen.

Die Präsentation von Herrn Dr. Poretschkin finden Sie hier.

Zur Aufzeichnung der 35. Sitzung der "Denkfabrik Legal Tech" gelangen Sie mit Klick auf diesen Link.