Die neu angepassten Verordnungen zum Gesetz über die Information und den Datenschutz des Kantons Zürich (IDG) sind ein wichtiges Signal für Datenschutz, Transparenz, offene Behördendaten und die Klarheit über den Einsatz algorithmischer Entscheidsysteme, die von den Behörden genutzt werden. Die Digitale Gesellschaft begrüsst die verfolgte Zielsetzung. Damit Grundrechte und Datenschutz jedoch im erforderlichen Masse gewährleistet werden, sind an vereinzelten Stellen zwingende Nachbesserungen nötig. Die Forderungen lassen sich der von der Digitalen Gesellschaft eingereichten Stellungnahme entnehmen.
Während die revidierte Fassung der Verordnung über die Information und den Datenschutz (IDV) in weiten Teilen das IDG sachgerecht und sinnvoll umsetzt, wird durch den Erlass der zwei weiteren, eigenständigen Verordnungen – die Verordnung über das Verzeichnis der algorithmischen Entscheidsysteme (VAESV) und die Verordnung über den Datenkatalog und die offenen Behördendaten (DOBDV) – die Wichtigkeit der jeweiligen Thematik unterstrichen. Dass der Kanton diese Relevanz anerkennt, ist ein gutes Zeichen. Mit den Anpassungen in der IDV und dem Erlass der DOBDV und der VAESV werden denn auch sinnvolle Ziele verfolgt: das Schaffen von mehr Transparenz, die bessere Nachvollziehbarkeit von Datenbearbeitungen, Klarheit über den Einsatz von algorithmischen Entscheidsystemen durch die Behörden sowie die Regelung von offenen Behördendaten und die Gewährleistung des Zugriffs durch Bürger:innen auf diese Daten. Die Anpassungen und die datenschutzrechtlichen Verbesserungen müssen allerdings auch als Teil einer allgemeinen Tendenz eingeordnet und begriffen werden: Durch die stetig wachsende Intensität staatlicher Datenbearbeitungen und die erweiterten technischen Möglichkeiten steigt auch das Mass an geschuldeter Transparenz und an erforderlichen Bemühungen um einen ausreichenden Datenschutz. Damit handelt es sich bei den Anpassungen nicht um fakultative Serviceleistungen, die der Staat für die Bürger:innen erbringt, sondern um Notwendigkeiten und Schutzpflichten, die es zu erfüllen gilt. Mit den präsentierten Änderungsvorschlägen nimmt der Kanton seine Pflicht weitgehend wahr. Dennoch sind vereinzelte Anpassungen in den Verordnungen geboten, um einen ausreichenden Datenschutz, die nötige Transparenz und den Grundrechtsschutz zu gewährleisten.
Gefährlich enge Definition der algorithmischen Entscheidsysteme
Dem VE-VAESV wird eine zu enge Definition der «algorithmischen Entscheidsysteme» (AES) zugrunde gelegt. Die Einschränkung auf «KI-Systeme» ist nicht nur begrifflich unpräzise, sondern verengt den Anwendungsbereich überdies in unzulässiger Weise und widerspricht damit dem IDG (§ 14 Abs. 3 IDG). Es muss sichergestellt werden, dass die Legaldefinition der AES sämtliche algorithmischen Entscheidsysteme erfasst, die Entscheide eigenständig treffen oder massgeblich vorbereiten und sich auf die Grundrechte von Personen auswirken können. Insbesondere muss sichergestellt werden, dass auch AES wie regelbasierte Modelle oder automatisierte Systeme zur Risikobewertung bzw. algorithmische Prognosesysteme von der AES-Definition erfasst sind. Derartige Systeme können nämlich in hohem Masse diskriminierend, intransparent und für die Betroffenen nicht nachvollziehbar sein. Eindrückliche Beispiele für derartige Fälle sind die Skandale um das System COMPAS aus den USA, das die Rückfallgefahr straffälliger Personen bewerten sollte, sowie um das Risikobewertungssystem SyRI in den Niederlanden, das zur automatisierten Erkennung von Sozial- und Steuerbetrug eingesetzt wurde: Die Systeme reproduzierten rassistische und sozioökonomische Vorurteile und lieferten dementsprechend verzerrte und diskriminierende Ergebnisse. Derartige Auswüchse müssen entschlossen verhindert werden.
Bestehende Vollzugsdefizite sind keine Ausrede
Einzelne Bestimmungen des VE-IDV entsprechen dem durch höherrangiges Recht vorgegebenen datenschutzrechtlichen Rahmen nicht und schwächen die Stellung der betroffenen Personen unnötig ab. Zur Rechtfertigung wird teilweise auf bereits bestehende Vollzugsdefizite verwiesen. Diese Argumentation überzeugt keineswegs: Eine mangelhafte Vollzugspraxis darf nicht als Rechtfertigung für herabgesetzte datenschutzrechtliche Standards dienen.
Zu offene Ausnahmeregelungen
Ebenfalls kritisch zu betrachten sind die schwammigen Ausnahmeklauseln in § 5 VE-VAESV und § 8 VE-DOBDV, die den Behörden Hintertüren für grosszügige Ausnahmen öffnen. So müssen AES gemäss § 5 VE-VAESV gar nicht erst in das AES-Verzeichnis aufgenommen werden, wenn dadurch angeblich «deren Zweck vereitelt» wird. Beim öffentlich einsehbaren Datenkatalog wiederum genügen gemäss § 8 VE-DOBDV die sehr allgemein gehaltenen Geheimhaltungsinteressen wie die «öffentliche Sicherheit und Ordnung», um Daten, die eigentlich veröffentlicht werden müssten, unter Verschluss zu halten. In beiden Fällen lässt der Vorentwurf völlig offen, welche konkreten staatlichen Interessen eine Ausnahme und das damit einhergehende Transparenzdefizit überhaupt rechtfertigen können. Der Kanton muss diese Ausnahmen präzisieren und klar darlegen, unter welchen engen Voraussetzungen eine Geheimhaltung zulässig sein soll.
Fazit
Die geplanten Anpassungen sind ein richtiger und wichtiger Schritt, die allgemeine Stossrichtung der präsentierten Vorlagen stimmt. Dennoch gibt es konkreten Nachbesserungsbedarf, der vom Kanton wahrzunehmen ist, damit er das erforderliche Mass an Datenschutz und Transparenz gewährleisten kann.
- zur Stellungnahme (PDF)