Die Digitale Gesellschaft wurde im Januar als Observer in das Committee on Artificial Intelligence (CAI) des Europarats aufgenommen. Als Observer werden wir die Verhandlungen verfolgen und den stimmberechtigten Mitgliedsstaaten, wozu auch die Schweiz zählt, Verbesserungsvorschläge unterbreiten. Wir fordern ausreichende Transparenzbestimmungen, griffige Verwaltungssanktionen sowie eine staatliche Aufsichts- und Beratungsbehörde.
Derzeit verhandelt das Committee on Artificial Intelligence (CAI) des Europarats über einen Rechtsrahmen zur Regulierung von künstlicher Intelligenz, der auch für die Schweiz gültig sein wird. Darin sollen grundlegende Richtlinien des Umgangs mit künstlicher Intelligenz für die 46 Mitgliedsstaaten festgelegt und für weitere Akteure zur freiwilligen Unterzeichnung verfügbar gemacht werden.
Nach der Publikation unseres Positionspapiers zur Regulierung von Automated Decision-Making Systems hat sich die Digitale Gesellschaft um eine Observer-Position im CAI beworben und wurde im Januar 2023 aufgenommen. Damit werden wir die Verhandlungen verfolgen und den stimmberechtigten Mitgliedsstaaten Verbesserungsvorschläge unterbreiten.
Das Komitee hat sich entschieden, den gegenwärtigen Stand der Verhandlungen über einen Rechtsrahmen, den «revised zero draft», zu veröffentlichen. Dieser Schritt erfolgte, nachdem vergangene Versionen des verhandelten Dokumentes unerlaubterweise ihren Weg in die Öffentlichkeit gefunden haben. Wir begrüssen, dass nun auch eine breitere öffentliche Debatte über das Dokument möglich ist. Die Details sind noch nicht in Stein gemeisselt und werden – mit zukünftigem Input der Digitalen Gesellschaft – weiter heftig debattiert.
Dabei fordert die Digitale Gesellschaft
- ein ausreichendes Commitment zu Transparenzbestimmungen, damit der Einsatz sowie die Effekte von ADM-Systemen im öffentlichen wie im privaten Sektor abgeschätzt werden können. Unter diese Effekte fallen nicht nur unmittelbare Auswirkungen auf Individuen, sondern auch langfristige Auswirkungen auf Individuen und soziale Gruppen sowie die Gesellschaft als Ganzes. Auch potentiell entstehende Schattenwelten von beinahe komplett-automatisierten Verwaltungsinfrastrukturen sollen so sichtbar gemacht werden können.
- eine Aufforderung zu umsatzabhängigen Verwaltungssanktionen für private Firmen, damit Verstösse nicht mitbudgetiert werden können. Ebenso soll eine grundlegende Produkthaftung gelten, damit sich den Risiken im Kleingeschriebenen nicht komplett entledigt werden kann.
- die jeweilige Einrichtung einer staatlichen Aufsichts- und Beratungsbehörde, welche mit einer interdisziplinären Komposition aus Expertinnen und Experten und in Zusammenarbeit mit zivilgesellschaftlichen Organisationen die rasante Entwicklung von ADMS-Technologien verfolgt, bei Verletzungen der regulatorischen Auflagen Sanktionen sprechen und Langzeitstudien orchestrieren.
Vertreten wird die Digitale Gesellschaft im CAI durch David Sommer und Tanja Klankert. Ermöglicht wurde dies durch die grosszügigen Unterstützungen der European Digital Rights (EDRi) Association, welche übrigens gerade ihr 20 Jähriges Jubiläum feiert, und der Firma Zühlke, welche dafür Mitarbeiter freistellt.
Für weitere Informationen zum Thema Regulierung von künstlicher Intelligenz verweisen wir auf unser Dossier.
[Update, 20.2.2023: ADMS-Aufsicht korrekt als Aufsichts- und Beratungsbehörde bezeichnet.]