EU AI Act: Spitch AG, TÜV, Workday

Die Schweizer Spitch AG ist ein führender Entwickler und Anbieter von Sprach- und Textdialogsystemen für Unternehmen und Behörden, insbesondere Lösungen mit Conversational AI.

Grundsätzlich erwartet Spitch, dass sich der EU AI Act überwiegend positiv auf den Einsatz von KI-Systemen auswirkt. Dennoch empfiehlt Spitch Unternehmen und Behörden, die eigenen KI-Anwendungen unter den neuen Risikoaspekten der EU-Regulierung unter die Lupe zu nehmen und gegebenenfalls Anpassungen vorzunehmen.

Zudem wird es nach Einschätzung des Schweizer Anbieters erforderlich sein, die KI-Anwendungen künftig „von Zeit zu Zeit“ erneut auf ihre Übereinstimmung mit den gesetzlichen Anforderungen hin zu überprüfen. Der Grund: Der Anbieter von Conversational AI erwartet, dass der AI Act in Zukunft von europäischen Standardisierungsgremien weiterentwickelt und präzisiert wird. Die dadurch entstehenden Änderungen müssten beim Einsatz von KI-Systemen Berücksichtigung finden, so Spitch.

Der Einschätzung von Spitch zufolge fällt keines der heute üblichen und typischen Einsatzgebiete für Sprach- und Textdialogsysteme auf KI-Basis (Conversational AI) im Kundenservice per se unter die von der EU aufgestellten Risikokategorien für KI-Systeme. Das gelte auch für den Einsatz biometrischer Identifizierungsverfahren, um etwa während eines Anrufs anhand der Stimme die Identität des Gesprächspartners zu verifizieren.

Allerdings gebe es auch Anwendungen und Einsatzgebiete für Conversational AI wie Chatbots, Sprachanalysen oder Wissensdatenbanken, die unter Umständen in die Kategorien „begrenztes Risiko“ oder „minimales Risiko“ fallen könnten. Das gelte beispielsweise für biometrische Verfahren, sofern die Systeme in der Lage seien, Emotionen anhand von Sprache zu detektieren und daraus Schlussfolgerungen beispielsweise zur Kategorisierung von Anrufern abzuleiten.

Für die meisten Einsatzgebiete von Conversational AI müssen die zusätzlichen Anforderungen nach Inkrafttreten des AI Act im Mai 2024 innerhalb von zwölf bis 36 Monaten erfüllt werden. Die Spitch AG bietet ihren Kunden Beratungsdienstleistungen an, um eine rechtzeitige und vollständige Compliance des KI-Einsatzes mit dem EU AI Act und anderen regulatorischen Anforderungen wie der Datenschutz-Grundverordnung (DSGVO) zu gewährleisten. Zudem hat sie eine ausführliche Information über mögliche Auswirkungen des EU AI Act auf den Einsatz ihrer Systeme veröffentlicht unter https://spitch.ai/eu_ai_act_changes_implications_help/

Der TÜV hat sich im Laufe der Erarbeitung des EU AI Acts gleich mehrfach dazu geäußert. Zuletzt beispielsweise am 2. Februar anlässlich der Zustimmung des EU-Rats. Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands, sieht in dem Gesetzeswerk einen entscheidenden Wettbewerbsvorteil und lobt: „Mit dem AI Act positioniert sich die EU klar als Vorreiter für sichere und vertrauenswürdige KI.“ Das vor der Ratsentscheidung befürchtete Scheitern aufgrund von Vorbehalten in Frankreich und Deutschland hätte seiner Ansicht nach gravierende negative Folgen gehabt: „Ein Scheitern des AI Acts hätte zur Folge gehabt, dass KI-Systeme auf absehbare Zeit unreguliert – und damit unsicher – geblieben wären“, so Bühler.

Insbesondere der grundsätzliche Ansatz des EU AI Acts findet Gefallen bei Bühler: „Mit dem risikobasierten Ansatz schafft der EU-Gesetzgeber die richtige Balance zwischen Innovationsoffenheit und dem notwendigen Schutzniveau. Der AI Act wird den Erfolg europäischer KI-Anbieter fördern, indem er Sicherheit und Vertrauen als wichtiges Alleinstellungsmerkmal von KI ‚Made in Europe‘ fördert.“

Vor diesem Hintergrund findet Bühler insbesondere für einen Punkt des Gesetzes positive Worte: „Ausdrücklich positiv zu bewerten ist ebenfalls, dass künftig auch sogenannte Allzweck-KI, zum Beispiel generative KI-Modelle wie ChatGPT, bestimmte Mindestanforderungen erfüllen müssen.“ Bühler warnt insbesondere davor, dass leistungsstarke KI-Modelle für Fake News, Deepfakes oder die Manipulation vulnerabler Gruppen genutzt werden könnten und damit große Risiken für Sicherheit und Demokratie bergen würden.

Für die Umsetzung des EU AI Acts fordert Joachim Bühler einheitliche Vorschriften und klare Leitlinien. Dass dabei durchaus eigene geschäftliche Interessen einer Prüf-Organisation durchscheinen, mindert die Sinnhaftigkeit dieser Forderungen nicht wirklich. Bühler betont: „Aus Sicht des TÜV-Verbands ist es wichtig, dass bestimmte hochriskante KI-Systeme zwingend von einer unabhängigen Prüfstelle geprüft werden müssen. So kann sichergestellt werden, dass alle Anforderungen an Transparenz, Datenqualität oder Cybersicherheit eingehalten werden.“

Konkret heißt das in seinen Worten: „Die Anforderungen des AI Acts müssen zeitnah durch harmonisierte europäische Normen konkretisiert werden, um Rechtssicherheit für KI-Anbieter, Prüforganisationen und Behörden zu schaffen. Darüber hinaus müssen Rechtsunsicherheiten bei der genauen Klassifizierung von Hochrisiko-KI-Systemen beseitigt werden. Der TÜV-Verband drängt darauf, dass die EU-Kommission zeitnah klare Umsetzungsleitfäden mit konkreten Beispielen veröffentlicht, um möglichen Fehleinschätzungen durch die Anbieter vorzubeugen.“

Bühler postuliert: „Der Umsetzungserfolg des AI Acts wird wesentlich von der rechtzeitigen und vollständigen Prüfbereitschaft aller Akteure im KI-Ökosystem abhängen." Anbieter von KI-Systemen seien deshalb aufgefordert, sich bereits heute mit den Anforderungen des AI Acts auseinanderzusetzen. Viele Anforderungen könnten Anbieter in bestehende Qualitäts- und Risikomanagementsysteme integriert werden.

Einen richtigen Schritt sieht der TÜV-Verband deshalb in der Verpflichtung der Mitgliedstaaten, sogenannte Reallabore („Regulatory Sandboxes“) einzurichten, in denen Anbieter ihre KI-Systeme entwicklungsbegleitend testen können. Kein Wunder, setzt sich der TÜV-Verband doch seit mehreren Jahren schon mit AI Quality & Testing Hubs für solche KI-Qualitätszentren ein. Die TÜV-Prüforganisationen bereiten sich schon seit geraumer Zeit intensiv auf den Aufbau von Prüf-Know-How vor. Bereits Anfang 2021 wurde das TÜV AI.Lab gegründet, um regulatorische und technische Anforderungen an KI zu begleiten und die Entwicklung von Prüfkriterien voranzutreiben. Das TÜV AI.Lab engagiert sich unter anderem als Partner in der Nationalen Initiative für Künstliche Intelligenz und Datenökonomie (MISSION KI) des Bundesministeriums für Digitales und Verkehr und der Deutschen Akademie der Technikwissenschaften (www.tuev-lab.ai).

Workday betreibt eine KI-basierte Enterprise-Plattform, die Unternehmen bei der Verwaltung von Mitarbeitern und Finanzen unterstützt. Das Unternehmen verweist in seiner Stellungnahme anlässlich der Zustimmung des EU-Parlaments stolz auf seine Beteiligung an den Konsultationen zum EU AI Act und zeigt sich mit dem Ergebnis durchaus zufrieden. Jens-Henrik Jeppesen, Senior Director Public Policy EMEA + APJ bei Workday, urteilt: „Die Verabschiedung des KI-Gesetzes durch das Europäische Parlament ist ein wichtiger und willkommener Meilenstein auf dem Weg zu verantwortungsvoller KI.“

Zur Motivation der eigenen Mitarbeit erklärt Jeppesen: „Wir sind uns bewusst, dass eine kontinuierliche Zusammenarbeit zwischen Regulierungsbehörden und Interessenvertretern bei der Entwicklung von KI unerlässlich ist.“ Nur mit einer angemessenen Regulierung könnten die enormen Chancen für Wachstum und Effizienz durch den Einsatz von KI realisiert werden. „Durch eine intelligente, risikobasierte und verhältnismäßige Regulierung können wir Vertrauen schaffen und das Risiko potenzieller Schäden mindern, während wir gleichzeitig Innovationen fördern und die Unternehmensleistung steigern,“ so Jeppesen.

Dass der EU AI Act diesen Anforderungen entspricht, klingt durchaus an, auch wenn Jeppesen keine eindeutige Prognose formuliert. Eher indirekt weist aber auch er – wie viele andere Experten – auf den wunden Punkt beim EU AI Act hin, wenn er eine ganz entscheidende Bedingung für positive Effekte des Gesetzes formuliert: „Effizient umgesetzt wird das KI-Gesetz eine maßgebliche Rolle beim Aufbau eines globalen Konsenses zu den Grundsätzen von Entwicklung und Nutzung von KI spielen.“

Gerade für Effizienz sind EU-Regelungen und insbesondere ihre Umsetzung in Deutschlang nun aber gerade nicht bekannt. Ob das in diesem Fall gelingt, dürfte von internationalem Interesse sein, ist sich Jeppesen sicher: „Wie bei der Datenschutz-Grundverordnung werden führende Politiker auf der ganzen Welt beobachten, wie diese neue Gesetzgebung in Europa den Weg für globale Veränderungen ebnet.“ Gerade der DSGVO kann nun aber wohl grundsätzlich zwar eine Art Vorbildcharakter zugesprochen werden, aber viele Stimmen monieren zu Recht viele Einschränkungen und bürokratische Hürden für eine datengetriebene Wirtschaft. Ob Jeppesen erwartet, dass das internationale Urteil über den EU AI Axt am Ende positiv(er) ausfallen wird, lässt er offen.