1. Vertrauenswürdige Künstliche Intelligenz – was ist mit diesem Begriff gemeint, Steven? Und warum sollten sich Unternehmen damit beschäftigen?

Die Vertrauenswürdigkeit von KI wird sehr vielschichtig definiert. Da man KI in vielerlei Hinsicht falsch um- und einsetzen kann, ist das auch sehr wichtig. Eine Sichtweise auf Vertrauenswürdigkeit betrifft z.B. die Robustheit der KI. Typische Fragen sind hier: Können wir damit rechnen, dass die Anwendung zuverlässig funktioniert? Trifft die KI Entscheidungen oder liegt sie oft daneben? Wenn man hier Vertrauen schaffen will, geht das sehr gut durch die systematische Einbindung möglichst vieler Informationsquellen und anderer Systeme. Das Schlüsselwort hier ist: Prinzip-Redundanz. Aber auch ganz andere Facetten sind wichtig, um von Vertrauenswürdigkeit zu sprechen - etwa Nachvollziehbarkeit und Beeinflussbarkeit. KI soll stets Einblick in die eigene Entscheidungsfindung bieten und Menschen ermöglichen, diese den eigenen Vorstellungen gemäß zu beeinflussen.

2. Die EU arbeitet derzeit mit Hochdruck am »EU Artificial Intelligence Act«, der vermutlich noch dieses Jahr verabschiedet wird. Auf welche Regularien müssen wir uns einstellen?

Tatsächlich hat der AI-Act tiefgreifende Auswirkungen auf den praktischen Einsatz von KI – und zwar nicht nur auf fertige Produkte. Das Gesetz sieht im aktuellen Stand auch vor, sogar schon Vorschriften zur Entwicklung von KI zu machen. Insgesamt ist der Ansatz risikobasiert: Wenn eine KI viel Schaden anrichten kann, muss sie umfangreichen Qualitätskriterien entsprechen und zwingend von Dritten zertifiziert werden. Kann KI weder physisch noch mental schädigen oder schweren Sachschaden verursachen, sind Entwickler:innen gestalterisch sehr frei. Am Fraunhofer IEM haben wir bereits einen detaillierteren Blick auf den aktuellen Entwurf des AI Acts geworfen. Wir waren überrascht darüber, wie viele KI-Anwendungen aktuell als Hochrisiko-KI gewertet werden würden und – nach dem aktuellen Vorschlag der EU-Kommission – strengen Regularien unterlägen. Für all diese Anwendungen muss z.B. in punkto Nachvollziehbarkeit sichergestellt werden, dass alle Entscheidungen der KI auf Anfrage nicht nur erklärt werden können, sondern dass sie auch exakt dokumentiert werden. Alle Handlungen einer KI müssten im Nachgang genau nachvollzogen werden können, falls sie beispielsweise Gegenstand einer rechtlichen Untersuchung würden.

3. Ist die Industrie für die Veränderungen gut aufgestellt? Wo sehen Sie den dringendsten Handlungsbedarf?

Auch wenn Regulierung immer einen unangenehmen, bevormundenden Beigeschmack hat: Die EU will mit dem AI Act Europas Wirtschaft stärken. Unternehmen in der EU sind vielfach führend in der Qualität, Zuverlässigkeit und eben Vertrauenswürdigkeit ihrer Produkte und Services. Dieses Premium-Label für KI nicht anzustreben, würde unseren unternehmerischen, aber auch diversen ethischen Normen widersprechen. Die Industrie muss KI-Regulierung als Chance und Wettbewerbsvorteil begreifen. Gerade jetzt zu Beginn der erwarteten Regulierungswelle kann ein Unternehmen mit einer proaktiven und exzellenten Umsetzung von vertrauenswürdiger KI als Vorreiter aus der Masse stechen. KI muss systematisch als Disziplin moderner Systementwicklung in den Produktentstehungsprozess integriert werden, das Qualitätsmanagement um die Schaffung und Prüfung von KI-Qualität erweitert werden. Es gibt nur zwei Möglichkeiten: Entweder jetzt das qualitative Produktportfolio um Premium-KI ergänzen – oder das Thema ignorieren und den Anschluss an eine der Schlüsseltechnologien und den Wettbewerb verlieren. Denn eins ist sicher: KI entwickelt sich technologisch und regulatorisch in einem nie dagewesenen Tempo - und wir müssen dranbleiben!

Sie wollen mehr erfahren? Dann nehmen Sie teil am Event Vertrauenswürdige KI in Engineering und Produktion - am 9. Mai 2023 in Paderborn!