Die Anwendungen von «Künstlicher Intelligenz» nehmen auch in der Schweiz immer mehr zu. Sie reichen vom Staubsaugerroboter über Newsfeed-Algorithmen bis zur biometrischen Massenüberwachung. Entsprechend unterschiedlich sind Chancen und Risiko für die betroffenen Menschen und die Gesellschaft insgesamt. Die nötige Diskussion für eine Regulierung stösst das kürzlich veröffentlichte Positionspapier der Digital Society Initiative (DSI) nun an.
Ende November hat die Digital Society Initiative (DSI) ein Positionspapier für einen «Rechtsrahmen für Künstliche Intelligenz» (PDF) veröffentlicht. Dieser Veröffentlichung vorausgegangen war eine gleichnamige Veranstaltung an der Universität Zürich. Das Papier ist, wie es der Name sagt, ein Positionspapier und kein Regulierungsvorschlag. Die DSI verfolgt nicht den Anspruch, dass es als konkrete Regulierungsbasis genutzt werden kann. Während die Vorstösse in die richtige Richtung gehen, bleibt das Positionspapier daher in vielen Bereichen noch wage.
In der Debatte wird meist nicht von «Künstlicher Intelligenz» sondern von «Automated Decision-Making» oder kurz ADM-Systemen gesprochen. Das DSI verwendet den gleichbedeutenden deutschen Begriff «algorithmische Systeme». Bei solchen muss es sich nicht zwingend um selbstlernende Systeme handeln, wovon bei Künstlicher Intelligenz ausgegangen wird.
Regelungsbedarf gemäss DSI
Im Positionspapier sieht die DSI Handlungsbedarf in folgenden Bereichen:
- Erkennbarkeit und Nachvollziehbarkeit: Mit dem Auszeichnen eines algorithmischen Systems sollen Individuen darauf aufmerksam gemacht werden, dass sie es mit einem Algorithmus zu tun haben. Zudem soll die Entscheidung eines ADM-Systems nachvollziehbar sein. Der Umfang dieser Nachvollziehbarkeit hängt mit der Bedeutung des Entscheids zusammen. Zudem fordert die DSI ein Register, in dem ADM-Systeme, die der Staat einsetzt, der interessierten Öffentlichkeit zur Einsicht zur Verfügung gestellt werden.
- Diskriminierung: Hier fordert die DSI, dass Diskriminierungen im privaten Sektor durch ein allgemeines Gleichbehandlungsgesetz behandelt werden. Der Argumentation folgend, handelt es sich um Diskriminierung unabhängig davon, ob die Entscheidung von einem Menschen oder einem System gefällt wird. Deshalb soll hier kein definitiver Unterschied zwischen ADM-Systemen und Menschen gemacht werden.
- Manipulation: Im Bereich der Manipulation werden vor allem die Problembereiche mit Fokus auf die demokratische Willensbildung und die gezielte Manipulation von Konsument:innen aufgezeigt. Die DSI beruft sich hier auf das Wettbewerbsrecht, das Rückgaberecht sowie auf Transparenz (Beispielsweise Facebooks Kennzeichnung von manipulativen Inhalten).
- Haftung: Die DSI spricht hier von einer verschuldensunabhängigen Betreiberhaftung (autonome Fahrzeuge, Drohnen, etc.) sowie einer Haftung der Hersteller (Produkthaftung).
- Sicherheit: Die DSI schlägt vor, in Ergänzung zum Datenschutzgesetz, ein zusätzliches IT-Sicherheitsgesetz, einzuführen, das insbesondere bei kritischen Infrastrukturen zur Anwendung kommen kann, bei denen oft keine Personendaten betroffen sind. Alternativ könnte sich die Einführung von allgemein geltenden Standards aufdrängen, die von Standardisierungsorganisationen entwickelt werden.
- Zulassungsverfahren: ADM-Systeme sollen zudem einem Zulassungsverfahren und Zertifizierungen unterzogen werden.
- Verbotene Anwendungen: Schliesslich sei ein Verbot (oder ein Moratorium) von automatischer Gesichtserkennung im öffentlichen Raum und des Einsatzes von Social Scoring zu prüfen.
Nötige Diskussion
Die Einsatzzwecke von ADM-Systemen sind extrem vielfältig. Sie reichen vom Staubsaugerroboter über den Defibrilator, Sozialversicherungseinschätzungen und der automatischen Gesichtserkennung bis zu Militärdrohnen. Eine Regulierung drängt sich auf. Nicht zuletzt aufgrund der Tatsache, dass das Feld der ADM-Systeme zukünftig noch grösser und komplexer werden dürfte.
Dies zeigt auch die intensive zivilgesellschaftliche, akademische und politische Diskussion in Europa. Zu nennen wäre etwa die Ausgestaltung des AI Acts oder der Bericht der deutschen Datenethikkommission. Beide verfolgen einen grundrechte- und risikobasierten Regulierungsansatz. Auch für die Schweiz scheint der Digitalen Gesellschaft ein solcher Ansatz angebracht. Muss er doch der immensen Bandbreite von Einsatzzwecken und Gefahren gerecht werden, ohne dabei den Innovationsstandort zu schwächen. Das Ziel müsste sein, durch eine Regulierung bessere Entscheide zu erhalten (unabhängig davon, ob sie durch Menschen oder Maschinen gefällt werden), und dass die Menschen sowie die Gesellschaft insgesamt einen Nutzen haben.
Die DSI will als Regulierungsansatz kein neues Gesetz, sondern es wird eine punktuelle Anpassung bereits bestehender Gesetze vorgeschlagen. Uns scheint ein eigenes Gesetz zur Regulierung von ADM-Systemen (und der gleichzeitigen Anpassung bestehender Gesetze) besser geeignet, um der Komplexität gerecht zu werden. Dabei gilt es immer auch, die gesamtgesellschaftliche Perspektive bei der Risikoeinschätzung von ADM-Systemen zu meistern und nicht «nur» eine Einzelfallbetrachtung zu machen. Ein ADM-Regelwerk müsste angefangen von den Begriffen und den Schutzzielen über die Beschreibung der Risikokategorien weiter zu Sorgfalts- und Transparenzpflichten bis hin zur kollektiven Rechtsdurchsetzung mit wirksamen Strafen und einem Marktortprinzip festschreiben.