Die EU-Kommission hat heute einen Vorschlag für die Regulierung künstlicher Intelligenz veröffentlicht. Die Digitale Gesellschaft begrüsst den Schritt, da er die Gefährlichkeit biometrischer Massenüberwachung anerkennt. Allerdings sind wir gemeinsam mit der Koalition «Reclaim Your Face» enttäuscht, dass der heutige Vorschlag nicht weit genug geht, um die Menschen vor dem breiten Spektrum der biometrischen Massenüberwachung effektiv zu schützen.
Der heute publizierte Vorschlag der EU-Kommission für eine Verordnung zur künstlichen Intelligenz (KI) betont die Risiken der biometrischen Massenüberwachung. Er schlägt vor, den Strafverfolgungsbehörden einige dieser Praktiken zu verbieten. Dies ist ein Schritt in die richtige Richtung!
Wir sind erleichtert, dass die Kommission anerkennt, dass biometrische Massenüberwachung «einen schwerwiegenden Eingriff in die Rechte und Freiheiten der Menschen darstellt, dass sie die Privatsphäre eines grossen Teils der Bevölkerung beeinträchtigen und ein Gefühl der ständigen Überwachung hervorrufen kann». Diese Eingriffe sind der Grund, warum die Digitale Gesellschaft als Teil von «Reclaim Your Face» für ein Verbot der biometrischen Massenüberwachung kämpft. Der Vorschlag zeigt, dass unsere Argumente zum Teil angekommen sind.
Allerdings sind wir enttäuscht, dass der Vorschlag nicht weit genug geht, um die Menschen vor dem breiten Spektrum der biometrischen Massenüberwachung zu schützen, das sich zurzeit rapide in ganz Europa ausbreitet. Der Vorschlag widerspricht sich selbst, indem er bestimmte Formen der biometrischen Massenüberwachung zulässt, von denen er doch anerkannt hat, dass sie mit unseren Grundrechten und -freiheiten unvereinbar sind!
Konkret verbietet der Vorschlag biometrische Identifizierung in Echtzeit und aus der Ferne («remote») zu Strafverfolgungszwecken. Die grössten Probleme, die wir dabei sehen, sind folgende:
- Die Formulierung ist teilweise zu vage, so dass sie zu viele Interpretationsspielräume lässt. Dies spiegelt viele der Probleme im bestehenden Datenschutzrecht wieder, die uns zu der Forderung nach einem Verbot der biometrischen Massenüberwachung bewogen haben. Die Interpretationsspielräume unterhöhlen die Rechtssicherheit für alle.
- Das Verbot gilt nur für Zwecke der Strafverfolgung. Es verbietet nicht die ebenso invasive und gefährliche biometrische Massenüberwachung durch andere Regierungsbehörden sowie durch private Unternehmen.
- Das Verbot für Strafverfolgungszwecke hat viele Ausnahmen, die zudem zu weit gefasst sind und den Zweck des Verbots ernsthaft untergraben. Dies lässt die Möglichkeit für eine fortgesetzte biometrische Massenüberwachung des öffentlichen Raums durch Strafverfolgungsbehörden zu.
- Nur die «Echtzeit»-Identifizierung zu Strafverfolgungszwecken ist verboten. Das bedeutet, dass es möglich ist, Personen zu identifizieren, nachdem die Daten erhoben wurden – also im Anschluss an ein Ereignis. Dies bedeutet beispielsweise, dass die Polizei immer noch die berüchtigten Datenbanken von Clearview AI verwenden könnte.
- Alle anderen biometrischen Identifikationspraktiken, sowie die teilweise pseudowissenschaftliche und höchst diskriminierende Praxis der biometrischen «Kategorisierung». Sie sind gemäss dem Vorschlag zwar «hochriskant», aber dennoch erlaubt und nicht verboten.
Die Koalition «Reclaim Your Face» besteht mittlerweile aus 60 (digitalen) Menschenrechtsorganisationen aus ganz Europa. Sie schloss sich im Oktober 2020 zusammen, um gegen biometrische Massenüberwachung in Europa zu kämpfen. Die Digitale Gesellschaft ist von Anfang an Teil dieser Koalition. Die Kampagne hat eine Initiative gestartet, die alle Menschen mit einer EU-Staatsbürgerschaft unterschreiben können.