Die Digitale Gesellschaft hat den Nachrichtendienst des Bundes (NDB) in den letzten Jahren mehrfach um Auskunft und Löschung der über sie bearbeiteten Daten ersucht. Antworten vom NDB erhielten wir nur mit grosser Verzögerung und unvollständig. Aus der Einsicht zeigt sich, dass der NDB systematisch und unrechtmässig Daten über die Digitale Gesellschaft gesammelt und gespeichert hat. Wir geben einen Überblick über die Ergebnisse unserer Auskunftsgesuche – und haken nach.
Im Juni 2019 haben wir ein Auskunftsgesuch an den Nachrichtendienst des Bundes eingereicht, uns sämtliche Daten, die in den Informationssystemen des NDB über die Digitale Gesellschaft gespeichert sind, herauszugeben. Erst im Mai 2020 hat uns der NDB geantwortet. Was eigentlich innert der gesetzlichen Frist von 30 Tagen beantwortet werden müsste, hat fast ein Jahr gedauert. Ausserdem wurde uns die Auskunft dabei nur bis zum Datum unseres Auskunftsbegehrens erteilt, womit fast ein Jahr möglicher Speicherung fehlte.
Als wir daraufhin um eine aktuelle Auskunft baten, mussten wir wiederum fast ein Jahr auf eine Antwort warten. Eine Nachfrage unsererseits in der Zwischenzeit will der NDB gar nie erhalten haben – obwohl uns eine Empfangsbestätigung vorliegt. Nach mehrmaligem Nachfragen und Verzögerungen des NDB haben wir erst vier Jahre später, im Mai 2023, eine mehr oder weniger vollständige Antwort (PDF) erhalten.
Ob die Auskunft tatsächlich vollständig ist, ist schwer zu sagen. Denn der Nachrichtendienst erteilt seine Auskunft in tabellarischer Form. Aus dieser Aufstellung bleibt oft unklar, in welchem Zusammenhang Einträge gespeichert wurden und ob die Einsicht vollständig erteilt wurde (vgl. auch Rechtsgutachten Public Eye, Rz. 63).
Der NDB hat zahlreiche politische Aktivitäten und Meinungsäusserungen der Digitalen Gesellschaft gespeichert. Neben mehreren Vernehmlassungsantworten der Digitalen Gesellschaft und zahlreichen Zeitungsartikeln, in denen die Digitale Gesellschaft erwähnt wird, finden sich in einem Protokoll des Morgenrapports des NDB ohne weiteren Kontext Sätze wie: «Digitale Gesellschaft stellt immer wieder provokative Fragen zum NDG». Damit verstösst der NDB gegen das absolute Verbot, Informationen über die politische Betätigung und über die Ausübung der Meinungs-, Versammlungs- oder Vereinigungsfreiheit in der Schweiz zu beschaffen (Art. 5 Abs. 5 NDG).
Besonders brisant ist der Eintrag vom 3. September 2019, wonach die Digitale Gesellschaft im «Zusammenhang mit einem Telegram-Chat mit Bezug zum Aufgabengebiet des NDB genannt [wird], weil eine IP-Adresse am Sitz [der Digitalen Gesellschaft] diesen Chat abonniert hat». Auf Nachfrage antwortet der NDB, er sei von einem ausländischen Partnerdienst im Rahmen der Terrorismusbekämpfung um Auskunft über diese IP-Adresse ersucht worden, wobei Abklärungen des NDB einen Bezug zur Digitalen Gesellschaft ergeben hätten. Weitergehende Informationen könne er aufgrund der internationalen Zusammenarbeit nicht geben. Wir wissen also weder um welchen Telegram-Chat noch um welche IP-Adresse es sich handelt. Die Digitale Gesellschaft hat an ihrem Sitz aber gar keine IP-Adresse.
Auch falsche Treffer wurden uns geliefert. So steht in einem Eintrag: «Der Name der Digitalen Gesellschaft wird wie folgt erwähnt: «Il s’agit de rendre aux personnes concernées le contrôle de leurs donnéees qui, avec l’évolution de la société digitale, font l’objet de collectes massives («big data») et de traitements qui sont de moins en moins transparents (par ex. profilage basé sur des algorithmes).»» Mit «société digitale» ist wohl die Digitalisierung der Gesellschaft als gesellschaftliche Entwicklung gemeint und nicht der Verein «Digitale Gesellschaft», dessen französischer Name wohlgemerkt «Société Numérique» lautet.
Insgesamt ergibt sich aus den Antworten ein unübersichtliches Bild von unrechtmässig beschafften, aber inzwischen gelöschten Daten, solchen, die immer noch unrechtmässig gespeichert sind, und solchen, bei denen aus der tabellarischen Auskunft des NDB nicht klar wird, worum es sich handelt und in welchem Zusammenhang die Digitale Gesellschaft erfasst wurde. Von den insgesamt 120 Einträgen zur Digitalen Gesellschaft wurden inzwischen 46 gelöscht.
Nicht nur über die Digitale Gesellschaft speichert der Nachrichtendienst exzessiv und rechtswidrig Informationen. Die Organisation Public Eye und eine Recherche der Republik zeigen, wie der NDB entgegen den gesetzlichen Überwachungsschranken Informationen über die politische Betätigung und die Meinungsäusserungsfreiheit speichert und dabei Einzelpersonen und NGOs systematisch überwacht. Ein Aufruf verschiedener zivilgesellschaftlicher Organisationen fordert deshalb dazu auf, im Zuge der laufenden Revision des Nachrichtendienstgesetzes Einsicht in die eigenen Daten beim Nachrichtendienst zu verlangen, um möglichst viele Beispiele für die grundrechtswidrige Praxis des NDB zu sammeln. Eine Vorlage für das Einsichtsgesuch gibt es unter grundrechte.ch.
Unsere letzte Auskunft vom NDB ist auf den 8. Mai 2023 datiert und damit bereits fast wieder ein Jahr alt. Deshalb reichen wir im Rahmen des Aufrufs erneut ein Einsichtsgesuch (PDF) ein, um eine aktuelle Auskunft über alle vom Nachrichtendienst gespeicherten Daten zur Digitalen Gesellschaft zu erhalten, in der Erwartung nicht wieder ein Jahr auf eine Antwort warten zu müssen.
Die Digitale Gesellschaft hat eine Stellungnahme zur Änderung des Ausländer- und Integrationsgesetzes eingereicht. Wir kritisieren die Erweiterung der Zugriffsberechtigungen auf zwei Datenbanken mit grosser Relevanz im Asyl- und Ausländerbereich sowie die Ausweitung der Auskunftspflicht der Ärzteschaft auf Landesverweisungen und lehnen diese unsere Kernanliegen betreffenden Punkte der Vorlage ab.
Neu sollen die kantonalen Justizvollzugsbehörden Zugriff auf besonders schützenswerte Daten im Zentralen Migrationsinformationssystem (ZEMIS) erhalten. Zudem sollen Mitarbeitende des SEM, des Bundesverwaltungsgerichts und der schweizerischen Auslandsvertretungen und Missionen Zugang zu bestimmten Personendaten aus dem Informationssystem für die Rückkehr (eRetour) bekommen. Beim «Online-Zugriff» handelt es sich um ein automatisiertes Abrufverfahren, bei welchem die datenempfangende Person Daten beschaffen kann, ohne dass das datenbesitzende Bundesorgan mitwirken muss bzw. den Datenbezug überhaupt bemerkt. Dabei ist unklar, ob sich ein derartiger Zugriff nur auf jene Daten beschränkt, die für die Aufgabenerfüllung notwendig sind bzw. wie ein darüber hinaus gehender Zugriff ausgeschlossen werden kann.
Nach der aktuellen Rechtslage erhalten die Mitarbeitenden der erwähnten Behörden bereits heute im Rahmen der Amtshilfe die für sie nötigen Informationen aus dem ZEMIS bzw. eRetour. Bei der geplanten Zugriffserweiterung des Bundesverwaltungsgerichts als Judikative auf eRetour stellt sich – neben datenschutzrechtlichen Überlegungen – überdies die Frage, inwiefern ein Zugriff des Gerichts auf Daten der Verwaltung mit dem Grundsatz der Gewaltenteilung zu vereinbaren ist. Zudem ist auch der geplante Datenzugriff von Auslandsvertretungen und Missionen auf eRetour als heikel zu werten.
Eine weitere Neuerung, die bei uns ein Unbehagen hervorruft, ist die Ausweitung der Auskunftspflicht der Ärzteschaft auf Landesverweisungen. Unabhängig davon, dass die Auskunftspflicht für die Ärzteschaft nach geltendem Recht bereits heute beim Vollzug von Weg- und Ausweisungen gilt, ist eine Aushebelung des ärztlichen Berufsgeheimnisses insbesondere hinsichtlich der informationellen Selbstbestimmung (Art. 13 Abs. 2 BV) der Patientinnen und Patienten in jedem Fall problematisch. Auch der Berufsverband der Schweizer Ärztinnen und Ärzte (FMH) lehnt diese Ausweitung in seiner Stellungnahme (PDF) ab. Wir befürworten die Position des FMH. Betonen möchten wir darüber hinaus den ursprünglichen Zweck der medizinischen Daten. Diese wurden erhoben, um der Gesundheit der Patientinnen und Patienten zu dienen und nicht, um mithilfe von ihnen darüber zu entscheiden, ob bzw. unter welchen Vorkehrungen eine Person des Landes verwiesen werden kann.
Diese undifferenzierten gesetzlichen Regelungen, welche die Erweiterung der Zugriffsberechtigungen und die Ausweitung der Auskunftspflicht statuieren, greifen zu kurz, um dem Anspruch auf informationelle Selbstbestimmung gerecht zu werden. Eine derartige Änderung zulasten der Grundrechte und des Datenschutzes lehnt die Digitale Gesellschaft ab.
Weiterführende Informationen
Nach einer schöpferischen Pause setzen wir das Dossier «Tracking und Profiling» mit dem ersten Artikel über das Thema «Scoring» fort.
Scores sagen zukünftiges menschliches Verhalten in Bereichen wie Finanzen, Konsum, Gesundheit, Betrug, Kriminalität etc. voraus. Beim Scoring werden Individuen mit Hilfe eines Algorithmus Zahlenwerte zugewiesen. Welche Parameter in die Berechnung eingehen, hängt vom Bereich ab, für den der Score gebildet werden soll sowie vom konkret gewählten Algorithmus. Der eigentliche Score (d. h. der numerische Wert, beispielsweise ein Kredit-Score von 84), der für eine Person berechnet wird, hat an und für sich keine Bedeutung. Scores dienen vor allem dazu, Individuen mit Hilfe ihrer Scores zu vergleichen bzw. die Individuen in einer Menge anhand ihrer Scores zu sortieren.
Aus wirtschaftlicher Sicht werden Scores vor allem für die Entscheidungsfindung eingesetzt, insbesondere dann, wenn ein Risiko abgeschätzt werden soll oder knappe Ressourcen vergeben oder eingesetzt werden. Beispiele:
Mit Hilfe eines Scores werden Vorhersagen getroffen. In den ersten beiden Beispielen bedeutet ein hoher Score, dass gemäss Vorhersage der Kredit mit einer höheren Wahrscheinlichkeit zurückgezahlt bzw. die Miete pünktlich bezahlt wird. Auch im dritten Fall wird eine Vorhersage getroffen: Die Person mit dem höheren Performance-Score wird mit einer grösseren Wahrscheinlichkeit als die Mitbewerber:innen auch in der höheren Position gute Leistungen zeigen. Um diese Vorhersagen zu treffen, liegt es nahe, den Entscheidungsalgorithmus mit Hilfe maschinellen Lernens zu trainieren.
In ihrem grundlegenden Bericht für das World Privacy Forum über Scoring in den USA definieren Pam Dixon und Bob Gellman Scoring folgendermassen:
Ein Konsument:innen-Score beschreibt ein Individuum oder eine Gruppe von Individuen (wie einen Haushalt) und sagt das zukünftige Verhalten, die Gewohnheiten oder Vorlieben von Konsument:innen voraus. Scores verwenden Informationen über die Eigenschaften, das vergangene Verhalten und andere Attribute für statistische Modelle, die einen numerischen Score, einen Bereich von Scores oder einen Ja/Nein-Wert berechnen. Konsument:innen-Scores bewerten, sortieren oder segmentieren Konsument:innen. Firmen und staatliche Stellen verwenden Scores, um Entscheidungen über Individuen und Gruppen zu treffen. Die Auswirkungen können dabei von harmlos bis kritisch reichen. Firmen und andere verwenden Scores für alles Mögliche, von der Betrugsvorhersage über die Vorhersage zukünftiger Gesundheitskosten bis hin zur Einschätzung von Anspruchsberechtigungen.
vom Autor übersetzt; im englischen Original:
«A consumer score that describes an individual or sometimes a group of individuals (like a household), and predicts a consumer’s behavior, habit, or predilection. Consumer scores use information about consumer characteristics, past behaviors, and other attributes in statistical models that produce a numeric score, a range of scores, or a yes/no. Consumer scores rate, rank, or segment consumers. Businesses and governments use scores to make decisions about individual consumers and groups of consumers. The consequences can range from innocuous to important. Businesses and others use consumer scores for everything from predicting fraud to predicting the health care costs of an individual to eligibility decisions to almost anything.»
Die ersten Arten von Scores waren Kredit-Scores, sie entstanden in den 50er-Jahren in den USA. Sie sind (vor allem, aber nicht nur) in den USA von entscheidender Bedeutung für die wirtschaftlichen und sozialen Entwicklungsmöglichkeiten von Individuen. Kredit-Scores werden von Wirtschaftsauskunfteien (engl. credit bureaus) mit Daten berechnet, die sie von anderen Firmen erhalten. In die Berechnung eines Kredit-Scores gehen nicht nur offensichtliche Parameter wie aktuelle Schulden, Vermögen, Gehalt etc. ein. Auch alle weiteren Daten, die die Kreditbüros und Auskunfteien über Konsument:innen gesammelt haben, können miteinfliessen. Im Bericht von Dixon und Gellmann erstreckt sich die Auflistung der Konsument:innendaten, die in Frage kommen, über fünf Seiten. Dies ist kein rein US-amerikanisches Phänomen. So wurde zum Beispiel in deutschen Kredit-Scores die Kombination bestimmter Vornamen mit dem Wohnort verwendet. In einem anderen (deutschen) Fall wirkten sich viele Umzüge nachteilig auf den Kredit-Score aus (obwohl Arbeitnehmer:innen sonst ja gerne zur mehr Mobilität bei der Stellensuche aufgefordert werden und viele Umzüge somit ebenso gut auch positiv bewertet werden könnten).
Kredit-Scores sind von immenser Bedeutung nicht nur für die eigentliche Kreditvergabe, sondern für viele Situationen, in denen Kreditwürdigkeit eine Rolle spielt (z. B. Wohnungsmiete) und zum Teil darüber hinaus (etwa Stellenbesetzung). Kredit-Scores können als eine Form von Konsument:innen-Scores gesehen werden. Weitere Konsument:innen-Scores bewerten Kund:innen beispielsweise aufgrund des prognostizierten Profits, der noch mit ihnen erwirtschaftet werden wird. Kund:innen, die besser bewertet werden, erhalten dann bessere Konditionen oder einen besseren Service.
Scores werden weiterhin von staatlichen Stellen und anderen Organisationen verwendet, um die Berechtigung bzw. Bedürftigkeit für Leistungen zu berechnen, insbesondere, wenn die durch die Politik zur Verfügung gestellten Mittel und Ressourcen nicht für alle Interessierten ausreichen. So ist zum Beispiel in Los Angeles die Anzahl der Wohnsitzlosen viel grösser als der vorhandene Wohnraum. Die zuständige Behörde vergibt deshalb die Wohnungen auf Basis eines Bedürftigkeits-Scores.
Risk Scores umfassen einen breiten Bereich von Scores, die ein bestimmtes Risiko zu quantifizieren versuchen. Hierzu gehören Rückfälligkeits-Scores (engl. recidivism scores), die im Justizwesen, auch in der Schweiz, verwendet werden, um die Wahrscheinlichkeit der Rückfälligkeit von Straftätern vorherzusagen. Diese Art von Scores wird ebenfalls im Predictive Policing verwendet. Der Risk Score ist dann eine Vorhersage, in welchen Stadtteilen oder von welchen Personen wahrscheinlich Straftaten verübt werden.
Auch im Arbeitsleben gibt es Risk Scores, z. B. zur Berechnung des «Sicherheitsrisikos» oder der Abwanderungswahrscheinlichkeit von Angestellten.
Fraud Scores (Englisch für Betrug) können als eine Unterform der Risk Scores betrachtet werden. Je höher der Score, desto höher die Wahrscheinlichkeit, dass es sich bei bestimmten Sachverhalten um Betrug handelt. Diese Scores werden beispielsweise von Behörden eingesetzt, um unrechtmässige Bezüge von Sozialleistungen wie Sozialhilfe oder Arbeitslosenunterstützung zu entdecken. (Mit dieser Art von Scores und der damit oft einhergehenden Diskriminierung werden wir uns in einem eigenen Artikel noch eingehender auseinandersetzen).
Performance Scores können verwendet werden, um die Leistung von Arbeitnehmer:innen zu quantifizieren und um diese anhand ihrer Leistung zu sortieren. Staab und Geschke beschreiben ein solches System bei Zalando. Hier mussten Arbeitnehmer:innen ihre Kolleg:innen bewerten. Aus diesen Ratings (und weiteren Daten) wurde dann ein Score berechnet. Dieser war wiederum massgeblich für Beförderungen und Gehaltsfestlegungen.
Während beim System von Zalando der Input der Mitarbeiter:innen (in Form von Ratings) für die Berechnung von Scores massgeblich war, könnte die Berechnung solcher Performance-Scores durch sogenannte Bossware auch komplett automatisiert und durch im Rahmen des Trackings gewonnene Daten ersetzt werden. So berechnet Microsoft einen «Produktivitäts-Score», in dessen Berechnung eingeht, wie sehr Microsoft 365 Komponenten wie Microsoft Word, Outlook, Excel, PowerPoint, Skype und Teams im Laufe des letzten Monats und auf welchen Geräten benutzt wurden. Laut Microsoft ist dieser Score nicht für die Überwachung von Angestellten gedacht, sondern als Hilfsmittel für die optimale Nutzung der Werkzeuge. Ein weiteres Beispiel ist der Produktivitäts-Score der Firma Prodoscore:
Its software is being used to monitor about 5000 workers at various companies. Each employee gets a daily «productivity score» out of 100 which is sent to a team’s manager and the worker, who will also see their ranking among their peers. The score is calculated by a proprietary algorithm that weighs and aggregates the volume of a worker’s input across all the company’s business applications – email, phones, messaging apps, databases.
Auf der Basis von Texten wie E-Mails, Chats etc. lassen sich mittels Techniken der Sentimentanalyse auch «Glücksindexe» berechnen, die quantifizieren, wie zufrieden oder unzufrieden Angestellte sind. In der Regel geht es den Arbeitgeber:innen jedoch nicht um das Glück der Angestellten, sondern um die Identifikation von unzufriedenem oder oppositionellem Personal. Prodoscore scheint einen solchen Happyness-Index zu planen.
Gemäss der Broschüre «Technische Überwachung am Arbeitsplatz» ist in der Schweiz eine solche verboten, wenn sie der Verhaltensanalyse der Mitarbeiter:innen dient. Leistungsüberwachung ist jedoch erlaubt, wenn sie sich an das geltende Datenschutzrecht und andere Gesetze hält, wobei Leistungsüberwachung leicht und schnell in Verhaltensanalyse umschlägt.
Eine letzte Art von Scores sind Social Credit Scores, die vor einigen Jahren vor allem im Zusammenhang der chinesischen Versuche mit Sozialkreditsystemen stark diskutiert wurden. Ein einheitliches Sozialkreditsystem existiert auch in China nach wie vor nicht. Wir beschränken uns in diesem Artikel auf die existierenden Scores in europäischen und nordamerikanischen Gesellschaften.
Fasst man Scoring weiter als Quantifizierung auf, die Eigenschaften und Verhalten bewertet und die Sortierung (das Ranking) von Individuen erlaubt, dann wird offensichtlich, wie sehr Scoring unser tägliches Leben durchdringt und bestimmt. In seinem Buch «Das metrische Wir» beschreibt Steffen Mau auf sehr eindrückliche und umfassende Weise diese Entwicklung. Die meisten Konsument:innen werden Ratings bei Büchern, Musik, Restaurants und Hotels berücksichtigen oder auch selbst vergeben. Die Quantifizierung macht jedoch nicht bei Konsumgütern halt, es lässt sich prinzipiell alles und jede:r bewerten, auch Lehrer:innen, Dozent:innen oder Ärzt:innen.
Selbst in der Wissenschaft spielen Rankings und Scores eine immer grössere Rolle, z. B. Reputations-Scores oder der H-Index von Wissenschaftler:innen. Schliesslich lassen sich auch ganze Institutionen «ranken», mensch denke z. B. an Universitätsrankings. Gerade an den Hochschulbewertungen lässt sich erkennen, welche Rolle Scores und Ratings inzwischen spielen: Für die meisten Länder ist es wichtig, dass ihre Universitäten erstens überhaupt und zweitens möglichst zahlreich unter den 100 am besten bewerteten Hochschulen vertreten sind.
Der Umstand, dass Scores und Ratings praktisch überall angetroffen werden können, deutet auf die allgemeinen ideologischen Grundlagen und die prinzipielle Problematik des Scorings und verwandter Verfahren hin. Dem Scoring liegt der Glaube zugrunde, dass alles durch Zahlen ausgedrückt und bewertet, also quantifiziert werden kann. Passenderweise ist ein Beitrag zum Scoring mit «das ganze Leben in einer Zahl» überschrieben – das heisst, ein Mensch mit all seinen Erlebnissen, Eigenschaften und Entwicklungen lässt sich in eine einzige Zahl kondensieren. Qualität lässt sich (in dieser Denkweise) berechnen und durch Zahlen ausdrücken. Aufgrund der Quantifizierung können Menschen, Organisationen, abstrakte oder konkrete Dinge hinsichtlich ihrer Qualität verglichen werden – wer oder was den höheren Score hat, ist besser.
Die Berechnung und Verwendung solcher Scores in derart vielen Lebensbereichen ist aus vielerlei Gründen fragwürdig:
Die Digitale Gesellschaft beobachtete die kürzlich abgeschlossenen Verhandlungen zur Rahmenkonvention zu künstlicher Intelligenz im Europarat. Trotz des unermüdlichen Einsatzes der beteiligten zivilgesellschaftlichen Beobachter:innen wurde der ursprünglich starke Konventionsentwurf im geopolitischen Machtgerangel zerrieben.
Am 14. März 2024 hat das Committee on Artificial Intelligence (CAI) des Europarats die Verhandlungen zur internationalen Rahmenkonvention zu Künstlicher Intelligenz, Menschenrechten, Demokratie und Rechtsstaatlichkeit abgeschlossen. Gegründet 1949, hat der Europarat die Wahrung der Menschenrechten, der Demokratie und der Rechtsstaatlichkeit als Ziel und vereint 46 europäische Mitgliedstaaten. Die Digitale Gesellschaft war Teil der CAI-Verhandlungen und hat sich aktiv als zivilgesellschaftliche Beobachterin eingebracht. Wir hatten zwar kein Stimmrecht, konnten aber begrenzt an den Plenarsitzungen teilnehmen sowie einige Zwischenstände der Verhandlungen der Delegationen einsehen und kommentieren.
Entsprechend ihrem Namen verfolgt die KI-Konvention des Europarats das erklärte Ziel, die bereits bestehenden Konventionen zu Menschenrechten, Demokratie und Rechtsstaatlichkeit auf das komplexe Thema der Künstlichen Intelligenz anzuwenden. Parallel dazu hat am 13. März 2024 das Europäische Parlament, ein Organ der Europäischen Union (EU), also nicht des Europarats, den EU AI Act angenommen, welcher als Instrument der EU-Binnenmarktharmonisierung bindende Regeln für die EU-Staaten beim Umgang mit Künstlicher Intelligenz (KI) festlegt. Der EU AI Act teilt dabei KI-Systeme in Risikoklassen ein und verlangt für hochriskante Systeme weitreichende Massnahmen wie Transparenzvorschriften oder Technologie-Folgeabschätzungen. Er gilt für private sowie für staatliche Akteur:innen, was im internationalen Vergleich der KI-Gesetze selten ist. Nach jahrelangem Ringen verbietet er auch diverse zivilgesellschaftlich umstrittene Praktiken wie Predictive Policing und schränkt biometrische Massenüberwachung öffentlicher Plätze ein. Der EU AI Act hat neben der Industriesicht eine starke zivilgesellschaftliche Komponente, welche deutlich spezifischer ausformuliert ist als in der Konvention des Europarats.
Dass beide Vorgänge beinahe gleichzeitig zum Abschluss kommen, ist kein Zufall. Sie bedingen sich gegenseitig. Die EU will kein Abkommen unterschreiben, das ihrer eigenen Gesetzgebung widerspricht. Dass bei den Verhandlungen des Europarats mit 27 von 46 stimmberechtigten Mitgliedsstaaten die EU-Länder die Stimmenmehrheit haben, schafft ein faktisches Meinungs-Monopol. Während der Verhandlungen im CAI hat man jedoch deutlich gespürt, dass die EU ihre Rechtskonzepte nicht per se kompromisslos durchsetzen will, sondern einen offenen Diskurs sucht. Denn die Verhandlungen im KI-Komittee des Europarats zeigten einige Besonderheiten.
Erstens war die von Anfang an interkontinentale Ausrichtung ungewöhnlich. Neben den Mitgliedsländern sassen am Ende auch viele aussereuropäische Verhandlungspartner wie die Vereinigten Staaten von Amerika (USA), Kanada, oder Mexiko am Tisch. Dies führt dazu, dass das Abkommen über stark unterschiedliche Rechtssystemen und Verfassungen mit teils entgegengesetzten Interessen einsetzbar sein muss. Dies könnte als potentielle Neuausrichtung des Europarats gedeutet werden, welcher sich dadurch von den zunehmenden Menschenrechtsdiskussionen innerhalb der EU-Gesetzgebung differenzieren möchte. Wie weit in einem solchen Rahmen zu ihrer Zeit jeweils provokante aber zukunftsweisende Abkommen wie zum Beispiel die Europäische Menschenrechtskonvention noch möglich sind, wir die Zukunft zeigen müssen.
Zweitens hat die EU-Kommission im Namen aller Mitgliedsländer verhandelt. Damit war ein Showdown zwischen der EU und den USA als mächtigste Verhandlungsparteien abzusehen, was gegen Ende auch eingetreten ist.
Auch wenn sich die meisten Verhandlungsteilnehmer:innen wie die Europarat-Mitgliedsstaaten, potentielle Konventionsunterzeichner und Beobachterinnen mit Herzblut und guten Absichten engagiert haben, wurden die Verhandlungen gegen Ende von der geopolitischen Realität eingeholt. Besonders deutlich wird dies in der Definition des Geltungsbereichs der Konvention, hier zitiert aus der zum Verfassungszeitpunkt noch nicht verabschiedeten Konvention.
Article 3 – Scope
- The scope of this Convention covers the activities within the lifecycle of artificial intelligence systems that have the potential to interfere with human rights, democracy and rule of law as follows:
- a. Each Party shall apply the Convention to the activities within the lifecycle of artificial intelligence systems undertaken by public authorities, or private actors acting on their behalf.
- b. Each Party shall address risks and impacts arising from activities within the lifecycle of artificial intelligence systems by private actors to the extent not covered in subparagraph (a) in a manner conforming with the object and purpose of the Convention. Each Party shall specify in a declaration submitted to the Secretary General of the Council of Europe at the time of signature or when depositing its instrument of ratification, acceptance, approval or accession how it intends to implement this obligation, either by applying the principles and obligations set forth in Chapters II to VI of the Framework Convention to activities of private actors or by taking other appropriate measures to fulfil the obligation set out in this paragraph. Parties may, at any time and in the same manner, amend their declarations.
- A Party shall not be required to apply this Convention to the activities within the lifecycle of artificial intelligence systems related to the protection of its national security interests, with the understanding that such activities are conducted in a manner consistent with applicable international law, including international human rights law obligations, and with respect for its democratic institutions and processes.
- Without prejudice to Article 13 and Article 25, paragraph 2, this Convention shall not apply to research and development activities regarding artificial intelligence systems not yet made available for use, unless testing or similar activities are undertaken in such a way that they have the potential to interfere with human rights, democracy and the rule of law.
- Matters relating to national defence do not fall within the scope of this Convention.
Der Zweckartikel war der umstrittenste der Konvention und wurde bis zuletzt debattiert. Die Digitale Gesellschaft hat Anfang März 2024 zusammen mit über 90 europäischen Organisationen und namhaften akademischen Expert:innen gegen eine Verwässerung des Geltungsbereichs aufgerufen (PDF). Hierbei geht es direkt um die geopolitischen Interessen der Verhandlungspartner:innen, und dementsprechend hatten nur die mächtigsten Teilnehmer:innen Einfluss auf die Formulierung. Dass die Meinung der Digitalen Gesellschaft und ihrer Partner:innen nicht berücksichtigt wurde, kommt nicht unerwartet. Trotzdem wurde mit der Wahl der obigen Formulierung die Konvention im letzten Moment stark entschärft, zu Lasten der Rechte der Betroffenen. Die Positionen der einzelnen Verhandlungsparteien sind vertraulich, doch versuchen wir kurz unsere Sicht auf die Diskussion zu schildern.
Absatz 1 legt fest, dass die Konvention nicht zwingend für private Akteur:innen gilt. Unterzeichnende Staaten können sich mit einer formalen Begründung davon ausnehmen. Dies ist insofern relevant, als der Grossteil der KI-Modelle voraussichtlich von der Privatwirtschaft entwickelt wird. Die ungewöhnlich komplizierte Formulierung des Artikels lässt die Diskussionen um den Kompromiss erahnen. Die Digitale Gesellschaft hätte sich hier eine sowohl für private als auch für staatliche Akteur:innen bindende Konvention gewünscht. Die Verbindung zwischen Staat und Privatwirtschaft wird beim Einsatz von KI äusserst eng sein, da die Staaten höchstwahrscheinlich wenig eigene Systeme entwickeln, sondern diese aus der Industrie zukaufen werden. Dies gilt insbesondere für «Foundation Models» oder «General Purpose AI Models» wie zum Beispiel ChatGPT, die für viele Einsatzzwecke gleichzeitig verwendet werden können, und für die es nur wenige Anbietende geben wird. Wir werden uns dafür einsetzen, dass die Schweiz die Konvention ratifiziert und den privaten Sektor dabei nicht ausschliesst.
Absatz 2 nimmt KI-Systeme für «nationale Sicherheit» komplett von der Konvention aus. Darunter fällt alles, was die einzelnen unterzeichnenden Staaten als solches deklarieren, oft unter dem Narrativ des Schutzes der Bürger:innen. Terrorismusbekämpfung, nachrichtendienstliche Überwachung, Migration (nicht nur von Asylsuchenden) und Verbrechen: Dies kann sehr breit ausfallen, und genau da können die Verletzungen der Grundrechte oder Rechtsstaatlichkeit geschehen, gegen die viele Abkommen des Europarats die Menschen zu schützen versuchen. Diese nicht nur am Europarat beobachtbare Fokussierung auf die Souveränität der Nationalstaaten in Sachen Sicherheit führt zu einer internationalen Heterogenisierung der Bestrebungen und verheisst aus zivilgesellschaftlicher Sicht nichts Gutes. Hier hätten wir analog zu Absatz 1 zumindest auf ein Opt-out gehofft, sodass sich die unterzeichnenden Staaten für eine Reservation hätten rechtfertigen müssen.
Absatz 3 ist unterstützend für Forschungs- und Entwicklungstätigkeiten, indem es KI-Systeme, die noch nicht in Betrieb sind, ausklammert, sofern Tests dieser Systeme keine Probleme mit Menschenrechten, Demokratie oder Rechtsstaatlichkeit erwarten lassen. Dies übersieht leider, dass Risikomanagement bereits in frühen Entwicklungsphasen beginnen muss, um solche Probleme identifizieren zu können.
Absatz 4 nimmt schliesslich «nationale Verteidigung», also militärische Anwendungen, komplett aus, wie dies in der Satzung des Europarats festgelegt ist*. Hier geht es unter anderem um vollautomatische Waffensysteme, was aber deutlich enger verstanden wird als nationale Sicherheit. Obwohl diese Ausnahme aufgrund der Satzung* zu erwarten war, sind wir mit ihr nicht einverstanden.
Zu Beginn der Verhandlungen, die damals das Ad-hoc-Komitee CAHAI führte, wurde noch transparent miteinander diskutiert. Doch über das letzte Jahr wurde die Zivilgesellschaft zunehmend aus den Diskursen der Verhandlungspartner:innen ausgeschlossen. Angefangen hat es mit einer Unterteilung der Treffen in eine «Drafting Group», in der die Text-Entwürfe überarbeitet wurden, an der aber die Civil Society Organisations (CSO) nicht teilnehmen durften. Diese erhielten den überarbeiteten Text ohne Information, wer welche Position vertreten hatte, und durften diesen für die nächste Sitzung bloss schriftlich kommentieren. Zusätzlich wurden nur ein bis zwei der jeweils drei bis vier Verhandlungstage pro Treffen gemeinsam mit den CSOs geführt. Wir haben darüber berichtet.
Begründet wurde der Ausschluss mit Leaks über vertrauliche Informationen über die Verhandlungen, darunter die spezifischen Positionen der verhandelnden Regierungen. Dafür wurden die CSOs verantwortlich gemacht. Später erschienen dennoch mehrere weitere, unabhängige und eindeutige Leaks, die direkt aus der Drafting Group stammen mussten. Transparenz scheint nur bedingt und kontextabhängig erwünscht zu sein. Dies spiegelte sich auch in den folgenden Verhandlungssitzungen.
Relativ schnell sprachen nur die CSOs an den gemeinsamen Tagen, die inhaltlichen Diskurse wurden in die abgeschottete Drafting Group – ohne CSOs – verlegt. Ausserdem nahm ab Herbst 2023 der Zeitdruck zu. Zwischen den offiziellen Sitzungen mit den CSOs wurden mehrere inoffizielle Drafting Group Treffen abgehalten. Gegen Ende der Verhandlungen wurden diese so häufig, dass die Zeit für ordentliche Bearbeitungsprozesse (Drafting Group → Resultate verschriftlichen → Versenden zum Kommentieren an CSOs → Einsenden der Kommentare → Drafting Group) zu knapp wurde. Wir bezweifeln, dass alle verhandelnden Parteien die Ressourcen hatten, ihre Inputs innerhalb weniger Tage ordentlich einzuarbeiten. Einige CSOs, die ihre Eingaben intern konsolidieren mussten, gerieten stark unter Druck. Teilweise wurden wir gebeten, Versionen zu kommentieren, die bereits veraltet waren.
Das letzte gemeinsame Treffen war nach dem Ende der Verhandlungen der Drafting Group geplant. Natürlich geschahen hier sehr viele Dinge gleichzeitig. Artikel 3 (Geltungsbereich) wurde von der Drafting Group zum Beispiel parallel zum gemeinsamen Treffen bis zum letzten Tag verhandelt. Trotzdem hatten wir und andere CSOs das Gefühl, lediglich als Pseudo-Legitimation für einen partizipativen Prozess und als Kulisse für die Verhandlungen zwischen den Nationalstaaten eingeladen worden zu sein.
Auch wenn das Gerangel gegen Ende der Verhandlungen das Sekretariat und den Vorsitzenden des Komitees von allen Seiten erheblich unter Druck setzte, hätten wir uns deutlich geregeltere Prozesse und weniger Zeitdruck gewünscht. Die Journalist:innen Adrienne Fichter und Balz Oertli haben in ihrem Republik-Artikel einige Aspekte hervorgehoben. Von Interesse ist auch die Kommentarsektion des Artikels, weil dort der Vorsitzende des CAIs, der Schweizer Thomas Schneider, Stellung bezieht und mitdiskutiert.
In den letzten Monaten hat die Konvention viel an Gehalt verloren. Das vorliegende Resultat erweckt nun mehr den Anschein einer gemeinsamen Deklaration als einer wirksamen Konvention. Generell ist sie oberflächlich gehalten, mit wenig bindendem Inhalt. Wer möchte, kann die verschiedenen publizierten Versionen auf der Website des CAIs oder mittels des Tools CLaiRK unserer Kolleg:innen von Digital Policy Alert aus St. Gallen vergleichen.
Als Gewinn können wir verbuchen, dass die Themenbereiche Human Health and Environment als gefährdete Bereiche explizit in der Präambel aufgeführt sind. Als nächstes wird die Konvention am 20. bis 25. März 2024 im Ministerrat des Europarats (nicht der EU) diskutiert, wo über die Weiterreichung der Konvention zur parlamentarischen Versammlung des Europarats und damit über die formelle Verabschiedung entschieden wird. Anschliessend können Staaten die Konvention ratifizieren und auf nationaler Stufe in Gesetze giessen.
Abschliessend ist festzuhalten, dass die Konvention zahnlos wirkt und bestenfalls beschränkte Auswirkungen zeigen wird. Dies ist eine Konsequenz der angestrebten, über Europa hinausgehenden und durchaus gangbaren Internationalisierung. In Anbetracht des erheblichen Aufwands, den viele Parteien in die Verhandlung investiert haben, könnte dies für ähnliche Vorhaben jedoch abschreckend wirken. Ob die Strategie des Europarats aufgeht, wird die Zukunft zeigen.
Trotz allem deuten wir die Konvention als Schritt in die richtige Richtung. Einen kleinen Schritt zwar, aber Abkommen dieser Reichweite sollten als einzelnes Puzzlestück im Korpus vieler verflochtener und sich gegenseitig vorantreibender Vereinbarungen betrachtet werden. Solche Abkommen schaffen einen Grundschutz für alle Menschen, insbesondere für jene, die sich aus den verschiedensten Gründen nicht selbst wehren können. Ihre Wirkung entfalten sie allerdings erst in Dekaden. Wir sind am Anfang der Reise der digitalen Automatisierung. Es wird weitere Iterationen dieser und ähnlicher Abkommen geben, und wir werden sie jedes mal mit mehr Erfahrung verbessern.
* In der Beschreibung zum vierten Absatz des Geltungsbereichs verweisen wir zur Begründung neu auf die Statuten des Europarats (Anpassung vom 26.3.24).
Die Themen der Märzausgabe sind:
Seit längerem kämpft die Digitale Gesellschaft mit einer strategischen Klage gegen die Kabelaufklärung, eine anlasslose Massenüberwachung durch den Geheimdienst. Im letzten Update hatten wir bemängelt, dass viele Antworten des Geheimdienstes im Verfahren nicht parteiöffentlich sind, was die Überprüfung der Praktiken erschwert. Nun haben wir den jüngsten Schriftenwechsel zwischen dem Nachrichtendienst sowie dem Dienst für Cyber und elektromagnetische Aktionen (CEA) und dem Bundesverwaltungsgericht erhalten und veröffentlicht.
Unsere Einwände bestätigen sich weiter: Die Kabelaufklärung erfasst auch Daten von Schweizer:innen und Schweizern. Das Bundesverwaltungsgericht hat den Dienst nun nochmals aufgefordert, auf unsere Forderung nach technisch akkuraten Erklärungen einzugehen. Wir sind auf die weiteren Stellungnahmen gespannt und werden auch hier darüber berichten.
Gestern haben wir zusammen mit Campax die an Bundesrätin Viola Amherd gerichtete Petition «Viola liest mit: Jetzt Kabelaufklärung abschaffen» der Bundeskanzlei überreicht. Diese hat mit rund 10’000 Unterschriften grosse Unterstützung erhalten und fordert deren Verbot im Rahmen der kommenden Revision des Nachrichtendienstgesetzes.
Vielen Dank für die Unterstützung!
Die Digitale Gesellschaft hat das E-ID-Gesetz von Beginn weg kritisch begleitet und massgeblich zum Erfolg des Referendums gegen den ersten Anlauf des Gesetzes beigetragen. Hauptkritikpunkte betrafen Zweck, Herausgeber:innenschaft und Datenschutz, die nun mit der Neuausrichtung des Gesetzes adressiert wurden. Der erste Entwurf zum überarbeiteten E-ID-Gesetz wies dennoch Mängel im Datenschutz auf.
Im Zuge der Parlamentsberatungen wurde die Digitale Gesellschaft zur Anhörung in die Rechtskommission des Nationalrats eingeladen, wo sie entsprechende Verbesserungen vorgeschlagen hat. Die Kommission hat im Anschluss nachgebessert und schlug ihrem Rat einige wichtige Anpassungen in unserem Sinne vor. Die grosse Kammer folgte nun letzte Woche diesen Änderungsvorschlägen und stimmte dem Gesetzesentwurf schliesslich mit 175 zu 12 Stimmen bei zwei Enthaltungen zu.
Zu den erzielten Verbesserungen zählen klare Beschränkungen bei der Erhebung biometrischer Daten im Ausstellungsprozess und die Offenlegung des Quellcodes der Vertrauensinfrastruktur als Open-Source-Software. Weitere Änderungen zielen darauf, eine Überidentifikation zu verhindern und die ausdrückliche Einwilligung zur Datenspeicherung sicherzustellen.
Das Geschäft geht jetzt an den Ständerat, welcher wiederum Änderungen vornehmen kann und am Ende zustimmen muss, damit das Gesetz in Kraft tritt. Wir bleiben dran!
Die polizeiliche Abfrageplattform POLAP soll kantonale, nationale und internationale Polizeidaten zusammenführen und damit einen schweizweiten Polizeidatenraum schaffen. Während damit vorgeblich Terrorismus und Schwerstkriminalität bekämpft werden sollen, sieht die Vereinbarung tatsächlich keine Beschränkung auf schwere Verbrechen vor.
Kürzlich kritisierte der eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) in einem Interview mit der NZZ treffend, dass es jeder Verhältnismässigkeit widerspreche, Daten über Bagatelldelikte auf Vorrat zentral zu bearbeiten. Aus «rechtsstaatlicher Ignoranz» würden Prinzipien wie die Gewaltenteilung oder der Föderalismus der versprochenen Effizienz eines «zentralen Datensilos» geopfert. Laut dem EDÖB braucht es keine weitere Zentralisierung oder Verknüpfung von Polizeidatenbanken. Stattdessen sei eine Digitalisierung der Amtshilfe nötig, sodass Polizeibehörden ihre Gesuche online stellen können, sodass sie in Standardsituationen automatisiert genehmigt werden können.
Wir stützen die Position des EDÖB. Unsere gesamte Stellungnahme zum Thema findet ihr hier.
Morgen Donnerstag, 21. März 2024, sprechen wir im Debattierhaus Karl der Grosse über Künstliche Intelligenz und Überwachung am Arbeitsplatz.
Eine aktuelle Studie der Universität St. Gallen, die von AlgorithmWatchCH und der Gewerkschaft syndicom in Auftrag gegeben wurde, warnt nun auch vor neuen Risiken, die sich am Arbeitsplatz stellen. Wie können wir diese Risiken eindämmen? Inwiefern können algorithmische Systeme die menschliche Arbeit fördern, ohne sie zu kontrollieren oder Schaden anzurichten? Am Netzpolitischen Abend erklärt uns Daniel Hügli (syndicom), welche Chancen und Risiken mit dem algorithmischen Wandel auf die Arbeitswelt zukommen, und welche Rolle die Mitarbeitenden dabei einnehmen können.
Ab 19.00 Uhr öffnet die Bar, das Programm startet um 19.30 Uhr mit einer Einführung, gefolgt von einer moderierten Diskussion. Sei dabei, lass dich inspirieren und tausche dich bei einem Getränk mit anderen Interessierten aus. Einführung und Diskussion werden auch live übertragen.
Bewährtes in neuem Gewand – die Frühjahres- und Herbsttreffen werden auf einen ganzen Tag und über zwei Sprachregionen ausgedehnt!
Wir treffen uns neu in der Bitwäscherei in Zürich und im Powerhouse in Lausanne. Am Morgen tauschen wir uns ab 10.15 Uhr und nach einer Keynote unterteilt in den jeweiligen Fachbereichen zu den Schwerpunkten, Prioritäten, Aktionen und Verantwortlichkeiten für die nächsten sechs Monate aus. In diesem Block finden auch die Kurzupdates der bisherigen Tätigkeiten in den Fachgruppen statt.
Nachmittags ab 14.00 Uhr diskutieren wir wie üblich im Plenum zusammen, an dem auch remote teilgenommen werden kann. Vorgestellt werden die Resultate aus den Diskussionen oder Workshops am Morgen sowie längere Ausführungen zu wichtigen Themen, die wir in Angriff nehmen wollen. Abgerundet wird der gesamte Event durch gemeinsame Mittag- und Abendessen. Weitere detailliertere Information werden wir demnächst kommunizieren.
Dieses Frühjahrestreffen bietet somit mehr als bisher üblich. Das «Parlament der Digitalen Gesellschaft» entwickelt sich weiter.
Eine Anmeldung ist bereits über unser Kontaktformular möglich. Wir freuen uns auf dich und auf deine Teilnahme.
Alle Hände voll zu tun, aber ein, zwei Ohren frei? Aktuelles aus der Netzpolitik mit Bezug zur Schweiz liefert der Netzpodcast. In den drei neusten Folgen mit den vertrauten Stimmen von Rahel Estermann, Jörg Mäder und Erik Schönenberger zu den Themen:
In mittlerweile acht Schweizer Städten bietet der Anlass Gelegenheit zum ungezwungen Austausch über aktuelle netzpolitische Themen. Wir freuen uns auf die nächsten gemeinsamen Mittagessen:
Folgende Mittagessen finden ausnahmsweise in der zweiten Monatswoche statt:
Das diesjährige Programm umfasste 30 hochkarätige Diskussionen und Vorträge zu techpolitischen Themen wie die in Fahrt gekommene ADMS-Regulierung, das geplante E-ID-Gesetz oder den Gesundheitsdatenschutz. Weiter wurden kritische Betrachtungen zu Überwachung, Google als Meta-Monopolist und Themen wie Netzwerke, Security und Digitale Selbstverteidigung diskutiert. Von verblüffenden Schwachstellen in der Empfängerauthentifizierung von Paketzustelldiensten bis zu einem Sexroboter als Fallbeispiel dafür, was Künstliche Intelligenz so alles an rechtlich-ethischen Fragen aufwirft, war die Palette bunt und der Andrang gross: Mehr als 400 Aktivistinnen, Hacker und Neugierige besuchten die ausverkaufte Veranstaltung, die erstmals im Casinotheater Winterthur stattfand.
Ein paar fotografische Eindrücke gibt es hier. Und natürlich wie jedes Jahr alle Vorträge in bester Qualität zum Nachschauen im Programm des Winterkongresses.
Bis zum nächsten Jahr!
Das «Update» berichtet monatlich über die wichtigsten Ereignisse. Jetzt abonnieren – und informiert bleiben:
Die angegebenen Daten werden ausschliesslich für den Versand des Newsletters der Digitalen Gesellschaft verwendet. Dieses Abonnement kann jederzeit widerrufen werden.
(Bild: «Newsletter» – CC0 1.0)
Am heutigen Dienstag, 19. März 2024, um 13:30 Uhr haben Aktivist:innen auf der Bundesterrasse die an Bundesrätin Viola Amherd gerichtete Petition «Viola liest mit: Jetzt Kabelaufklärung abschaffen» an die Bundeskanzlei überreicht. Diese hat mit rund 10’000 Unterschriften grosse Unterstützung gefunden. Die Petition fordert die Abschaffung der Kabelaufklärung im Rahmen der kommenden Revision des Nachrichtendienstgesetzes.
In einer kleinen Inszenierung wurde die Überwachung der Bevölkerung sinnbildlich dargestellt: Bundesrätin Viola Amherd überwacht die Aktivist:innen, die ihr einen Strauss aus Kabeln übergeben und mit Schildern ein klares Zeichen gegen die Verletzung unserer Grundrechte setzen.
«Die Kabelaufklärung wurde 2017 unter falschem Vorwand als Mittel der Auslandsaufklärung eingeführt. Die grosse Mehrheit der Internet-Kommunikation in der Schweiz läuft jedoch über ausländische Netzwerke und Server. Dies bedeutet, dass wir alle von dieser Massenüberwachung ohne Anlass und Verdacht betroffen sind», fasst Erik Schönenberger, Geschäftsleiter der Digitalen Gesellschaft, zusammen. Obwohl das Thema abstrakt und komplex ist, haben rund 10’000 Menschen innerhalb kurzer Zeit die Petition unterschrieben. «Viele Menschen haben uns ihren Missmut und das Unverständnis über die Täuschung des Bundesrates mitgeteilt. Nun gilt es, bei der nächsten Revision des Nachrichtendienstgesetzes auf diesen Überwachungsskandal zu reagieren und die Kabelaufklärung abzuschaffen», ergänzt Virginia Köpfli, Campaignerin der Bürger:innenbewegung Campax.
Die Kabelaufklärung ist eine Form der anlasslosen Massenüberwachung, die an den Glasfaserkabeln ansetzt. Sie wurde in der Schweiz 2017 mit dem neuen Nachrichtendienstgesetz (NDG) legalisiert und ermöglicht dem Geheimdienst das stichwortartige Durchsuchen der Telekommunikation. Mit dieser Suche kann ohne Verdacht jede Person ins Visier des Nachrichtendienstes geraten – ohne jemals davon zu erfahren. Der Geheimdienst tauscht seine Daten mit der amerikanischen NSA und anderen Sicherheitsdiensten im Ausland aus.
Unsere Grundrechte werden vom Bundesrat und dem Geheimdienst mit den Füssen getreten. In der Europäischen Menschenrechtskonvention heisst es in Artikel 8: Jede Person hat das Recht auf Achtung ihres Privat- und Familienlebens, ihrer Wohnung und ihrer Korrespondenz. In ähnlicher Formulierung steht dieser Satz auch in Artikel 13 der Schweizerischen Bundesverfassung. Mit der Kabelaufklärung verletzen der Bundesrat und der Geheimdienst mit Unterstützung der Schweizer Armee diese Grund- und Menschenrechte. Wir fordern deshalb den Bundesrat auf, in der anstehenden Revision des Nachrichtendienstgesetzes unsere Privatsphäre, unsere Daten und unsere Grundrechte wirksam zu schützen. Dazu gehört der Verzicht auf die Massenüberwachung mittels Kabelaufklärung.
Weiterführende Informationen
Liebe Anwesende
Vielen Dank für Euren Einsatz gegen die Kabelaufklärung.
Seit mindestens 2017 überwacht der Geheimdienst mit der Kabelaufklärung die Menschen in der Schweiz und im Rest der Welt ohne Anlass und Verdacht. Dabei wird die Internet-Kommunikation von uns allen durch die Schweizer Armee für den schweizerischen Geheimdienst massenhaft mitgelesen, ausgewertet und für spätere Auswertungen gespeichert. Die Kabelaufklärung wurde mit dem neuen Nachrichtendienstgesetz (NDG) legalisiert.
Im Abstimmungskampf im Jahr 2016 hatten der Bundesrat und die Behörden versprochen, dass eine flächendeckende Überwachung aller Bürgerinnen und Bürger ausgeschlossen sei. Als Reaktion auf die damalige Kritik wurde auch immer wieder betont, dass die Kabelaufklärung ein Mittel der Auslandsaufklärung sei. Dieses Versprechen wurde gebrochen. Die grosse Mehrheit der Internet-Kommunikation in der Schweiz läuft über ausländische Netzwerke und Server. Wir sind deshalb alle von dieser Massenüberwachung ohne Anlass und Verdacht betroffen.
Die Digitale Gesellschaft hat gegen diese Massenüberwachung 2017 eine strategische Klage eingereicht. Das laufende Beschwerdeverfahren zeigt, dass auch inländische Kommunikation im grossen Stil inhaltlich gelesen und ausgewertet wird. Diesbezügliche weitere Fragen vom Bundesverwaltungsgericht musste der durchführende Dienst Cyber des VBS bis Anfang letzter Woche beantworten. Wir warten gespannt darauf und werden weiterhin darüber informieren.
10’000 Personen fordern heute mit der Digitalen Gesellschaft und Campax mittels dieser Petition die Abschaffung der Kabelaufklärung. Sie wurde unter falschem Vorwand eingeführt. Sie verletzt die Grund- und Menschenrechte in der Schweiz, aber auch im Rest der Welt. Jede Person hat Anspruch auf Achtung ihres Privat- und Familienlebens, ihrer Wohnung und ihrer Kommunikation. Stattdessen stehen in der Schweiz heute alle unter Generalverdacht.
Wir fordern, dass die Kabelaufklärung in der kommenden Revision des Nachrichtendienstgesetzes abgeschafft wird. Solche autoritäre Tendenzen haben in einer freien Demokratie keinen Platz!
Vielen Dank nochmals Euch allen.
Wir freuen uns auf das nächste gemeinsame Mittagessen.
Die Daten für die nächsten Treffen sind:
ausnahmsweise in der zweiten Woche im April:
Im Netzpodcast sprechen wir über die aktuellen netzpolitischen Ereignisse mit Bezug zur Schweiz. Wir ordnen technische und gesellschaftliche Entwicklungen in einer digitalisierten und vernetzten Welt ein. Das Themenspektrum umfasst Datenschutz und Überwachung, freier Zugang zu Informationen, politische Teilhabe, Datensicherheit und Digitale Demokratie. Wir beleuchten die Netzpolitik aus einer kritischen, zivilgesellschaftlichen Perspektive.
In der 41. Folge sprechen Jörg Mäder (Digitalpolitiker, glp), Sven Kohlmeier (Rechtsanwalt) und Erik Schönenberger (Geschäftsleiter Digitale Gesellschaft) über:
Möglich gemacht hat diesen Podcast die Stiftung Mercator Schweiz, die Technik und Postproduktion finanziert. Für die Postproduktion ist Manuel Stagars zuständig.
Anfangs Januar haben wir im Rahmen der Berichterstattung über die Kabelaufklärung in der Republik den Schriftenwechsel im Verfahren am Bundesverwaltungsgericht veröffentlicht, der interessante Einblicke in die Überwachungstätigkeiten des Geheimdienstes und des Dienstes für Cyber und elektromagnetische Aktionen (CEA) lieferte. Nun haben wir weitere Stellungnahmen und eine Verfügung des Gerichtes erhalten.
Die sogenannte Kabelaufklärung ist ein wesentlicher Teil der anlasslosen und verdachtsunabhängigen Massenüberwachung durch den Nachrichtendienst des Bundes (NDB). Mit der Kabelaufklärung kann der Datenverkehr zwischen der Schweiz und dem Rest der Welt umfassend erfasst und überwacht werden. Die Kabelaufklärung wurde 2017 mit dem neuen Nachrichtendienstgesetz (NDG) in der Schweiz legalisiert.
Die Digitale Gesellschaft führt Beschwerde gegen diese anlasslose und verdachtsunabhängige Massenüberwachung durch den Geheimdienst. 2019 hatte das Bundesverwaltungsgericht den Beschwerdeführer:innen zunächst das Recht auf Beschwerde verweigert. Mit Urteil vom 1. Dezember 2020 zwang das Bundesgericht das Bundesverwaltungsgericht, sich mit der Beschwerde zu befassen. Das Bundesverwaltungsgericht muss prüfen, ob das «System» der Funk- und Kabelaufklärung die Grundrechte der Betroffenen verletzt und – um einen wirksamen Grundrechtsschutz sicherzustellen – in letzter Konsequenz einzustellen ist.
Im laufenden Verfahren am Bundesverwaltungsgericht äusserte sich der Geheimdienst zum ersten Mal detailliert(er) zur Funktionsweise der Kabelaufklärung. Allerdings wurden weite Teile der Antworten nicht parteiöffentlich eingereicht, das heisst, sie sollen geheim gehalten werden. Die Antworten müssen für die Beschwerdeführer:innen im Verfahren jedoch nachvollziehbar sein und überprüft werden können, damit eine effektive Beschwerde überhaupt möglich ist.
Im jüngsten Schriftenwechsel bestätigt sich, was alles ausgeleitet wird:
Grenzüberschreitende Signale definiert das CEA wie folgt: Signale welche die geografische Grenze der Schweiz physisch oder logisch überschreiten. Physisch im Sinne von: Das Lichtsignal überquert auf der Glasfaserstrecke die Schweizerische Landesgrenze. Logisch im Sinne von: Der Sender oder Empfänger eines Transport-Protokolls hat eine Destination, die sich nicht in der Schweiz befindet.
Dass damit auch (und vor allem) Traffic von Personen und/oder Diensten in der Schweiz betroffen ist, liegt in der Natur der Sache.
Die Feststellung über das Vorliegen von Informationen über Personen im Inland […] kann hingegen erst später stattfinden, nämlich bei der vertieften Analyse der Daten. Die Analysten des CEA entscheiden, ob die Daten verwendet werden, anonymisieren den Schweiz Bezug und leiten diese weiter. Dies geschieht nur, wenn die Daten nachrichtendienstlich relevante Informationen enthalten und für das Verständnis eines Vorgangs im Ausland notwendig sind.
Allerdings gilt diesbezüglich auch Art. 42 Abs. 3 NDG:
Enthalten die Daten Informationen über Vorgänge im In- oder Ausland, die auf eine konkrete Bedrohung der inneren Sicherheit nach Artikel 6 Absatz 1 Buchstabe a hinweisen, so leitet der durchführende Dienst sie unverändert an den NDB weiter.
Das Bundesverwaltungsgericht hat nun den Dienst für Cyber und elektromagnetische Aktionen nochmals aufgefordert,
sich im Rahmen seiner Stellungnahme einlässlich und unter Angabe technischer Gegebenheiten zu den Vorbringen der Beschwerdeführenden […] zu äussern und dabei insbesondere auch auf die Funktionsweise und die Eigenheiten des Internets sowie der Übertragung von Signalen über leitungsgebundene Netze (zwischen verschiedenen Anbietern von Telekommunikationsdienstleistungen) einzugehen.
Wir sind auf die weiteren Stellungnahmen gespannt und halten auf dem Laufenden.
Weiterführende Informationen:
In der 40. Folge vom Netzpodcast sprechen wir mit Guido Berger live am Winterkongress über Künstliche Intelligenz, die UNO-Konvention zu «Cybercrime», die Aufarbeitung des Angriffs auf die NZZ und geben ein Update zum E-ID-Gesetz. Der Podcast der Digitalen Gesellschaft informiert über die aktuellen netzpolitischen Themen mit Bezug zur Schweiz und ordnet sie ein.
Im Netzpodcast sprechen wir über die aktuellen netzpolitischen Ereignisse mit Bezug zur Schweiz. Wir ordnen technische und gesellschaftliche Entwicklungen in einer digitalisierten und vernetzten Welt ein. Das Themenspektrum umfasst Datenschutz und Überwachung, freier Zugang zu Informationen, politische Teilhabe, Datensicherheit und Digitale Demokratie. Wir beleuchten die Netzpolitik aus einer kritischen, zivilgesellschaftlichen Perspektive.
Die 40. Folge nehmen wir live am Winterkongress der Digitalen Gesellschaft auf und haben einen Spezial-Gäst: Rahel Estermann (Vorstand Digitale Gesellschaft, Generalsekretärin Grüne Schweiz) und Erik Schönenberger (Geschäftsleiter Digitale Gesellschaft) und Jörg Mäder (Digitalpolitiker, glp) sprechen mit Guido Berger (Leiter Digital-Redaktion, SRF) über:
Möglich gemacht hat diesen Podcast die Stiftung Mercator Schweiz, die Technik und Postproduktion finanziert. Für die Postproduktion ist Manuel Stagars zuständig.