Regulierung von KI: Diskussion auf Grundlage neuster NFP 77 Forschungsergebnisse

Insgesamt 11 von 46 Projekten des NFP 77 «Digitale Transformation» thematisieren in der einen oder anderen Form die künstliche Intelligenz (KI). KI ist zwar nicht neu und wird seit über 60 Jahren entwickelt. Seit der Lancierung von ChatGPT im November 2022 sind die Möglichkeiten von KI aber viel mehr in den Vordergrund gerückt. Es stellt sich daher die Frage, wie die Regulierung (u.a. Gesetze, Verordnungen) auf diesen technischen Wandel reagieren soll. Derzeit ist die Bundesverwaltung dabei, eine Auslegeordnung zum Thema KI zu erarbeiten und den Regulierungsbedarf zu definieren.

Zusammen mit dem Bundesamt für Justiz hat das NFP 77 am 26. November 2024 eine Dialogveranstaltung in Bern durchgeführt, die auf grosses Interesse gestossen ist. Exemplarisch wurden zwei Forschungsprojekte des NFP 77 vorgestellt und diskutiert:

• Im Rahmen der digitalen Transformation wachsen digitale Hilfsmittel und Mensch immer mehr zusammen und werden zu einem eigentlichen Team. Thomas Burri und Markus Christen haben in ihrem NFP 77-Projekt die Interaktion zwischen Menschen und einer KI untersucht. Hier steht die Frage im Vordergrund, wie man in einem KI-unterstützten Prozess menschliche Kontrolle ausüben kann und welche Folgen dies für die Regulierung hat. Oder anders gefragt: Wie sind selbstfahrende Autos zu regulieren? In ihrem Projekt konnten die Forschenden unter anderem nachweisen, dass Probanden einem Team; bestehend aus Mensch und KI mehr Vertrauen schenken, als der KI oder dem Menschen alleine. Allerdings besteht auch das Risiko, dass der Mensch bei KI-Fehlleistungen zum «Sündenbock» wird.
• Daniel Kettiger hat mit seinem Team die Anonymisierung von Gerichtsurteilen untersucht: Per Gesetz müssen zahlreiche Gerichtsurteile publiziert werden, wobei die Urteile so verändert werden müssen, dass Rückschlüsse auf Personen nicht mehr möglich sind. Bei diesem Prozess kann KI an zwei Orten zum Einsatz kommen: Mehr und mehr werden solche Urteile mit der Hilfe einer KI anonymisiert und anschliessend nur noch von einem Menschen kontrolliert. Andererseits könnten publizierte Gerichtsurteile in ein KI-Modell gefüttert werden mit dem Ziel, die beteiligten Personen zu re-identifizieren. Die Forschung zeigt nun, dass einerseits zwar bereits gute Programme existieren, die eine automatische Anonymisierung ermöglichen, dass die Haltung der Akteure aber noch sehr zurückhaltend ist, wenn es um den Einsatz solcher Hilfsmittel geht. Ein weiteres Resultat: Mit bestehenden KI-Instrumenten ist das Risiko einer Re-Identifizierung gering. Allerdings ist dies nur ein momentanes Ergebnis. Die technische Entwicklung ist so rasant, dass auch dieses Resultat vielleicht in einigen Jahren kaum mehr Bestand hat.

In der Diskussion machte Markus Christen deutlich, dass die bestehende Regulierung KI zu grossen Teilen bereits erfasst. Die eingeladenen Praxisakteurinnen Ladina Caduff (Microsoft) und Estelle Pannatier (AlgorithmWatch) waren sich einig, dass KI zwar Anpassungen im bestehenden Rechtsrahmen braucht, dass aber sehr genau geklärt werden muss, wo welche Anpassungen notwendig sind. Susanne Kuster (Bundesamt für Justiz) meinte denn auch, dass eine Spezialgesetzgebung für eine neue Technik nicht der Schweizer Tradition entspreche. Regulierung erfolge in der Regel technologieneutral.

Stefan Wiprächtiger (Schweizer Vereinigung der Richterinnen und Richter) verwies darauf, dass die KI auch Kulturen herausfordere. Er gehe zwar davon aus, dass seine Arbeit als Bezirksrichter in Zukunft im Team mit der KI erfolge, sei dies in der Anonymisierung der Urteile oder in der Verarbeitung von Akten. Dieser Wandel brauche aber Zeit.