Grundrechte wahren!

Grundrechte wahren!

Das Nachrichtendienstgesetz (NDG) soll revidiert werden und der Geheimdienst neue Überwachungsbefugnisse erhalten. Gegen die Gesetzesrevision wehren wir uns zusammen mit anderen Schweizer NGOs. Für die Koordination und die Kampagne benötigen wir über 60'000 Franken – wovon 20'000 Franken noch fehlen.

Hilf mit, den Geheimdienst zurückzubinden!

11%
Bereits 2'354 von 20'000 Franken erhalten 36 Spenden erhalten noch 44 Tage
Kreditkarte Kreditkarte Postkarte Postkarte

QR-Rechnung als PDF

Digitale Gesellschaft
4000 Basel
CH4009000000159933511
BIC: POFICHBEXXX

Update April 2024

Newsletter zu KI-Konvention, Nachrichtendienst, Tracking & Profiling, Datenauskunftsbegehren, Frühjahrestreffen, Netzpolitischer Abend, Netzpodcast, Netzpolitik-Zmittag

Die Themen der Aprilausgabe sind:

  • Europaratskommission verabschiedet zahnlose KI-Konvention
  • Geheimdienst sammelt unrechtmässig Daten – wir lassen nicht locker
  • Tracking & Profiling: Kevin kriegt keinen Kredit
  • Erfahrungsbericht: Datenauskunftsbegehren zu Werbe-E-Mails
  • Netzpolitischer Abend zum Thema «Wem gehören die KI-Trainingsdaten?»
  • Netzpolitischer Abend zum Thema «KI im Journalismus: Wohin geht die Reise?»
  • Frühjahrestreffen am 4. Mai 2024
  • Netzpodcast
  • Netzpolitik-Zmittag

Europaratskommission verabschiedet zahnlose KI-Konvention

Der Europarat hat Mitte März 2024 die Verhandlungen zur internationalen «Rahmenkonvention zu Künstlicher Intelligenz, Menschenrechten, Demokratie und Rechtsstaatlichkeit» abgeschlossen. David Sommer aus der Fachgruppe ADMS hat für die Digitale Gesellschaft den Verhandlungen als zivilgesellschaftlicher Beobachter beigewohnt – soweit die Verhandlungsteilnehmer:innen das zuliessen. In einem ausführlichen Beitrag fasst er das Verhandlungsergebnis zusammen und ordnet es ein.

Trotz intensiver zivilgesellschaftlicher Bemühungen wurde der undurchsichtige Prozess letztlich stark von geopolitischen Interessen geprägt und führte zu einer weniger starken Konvention als ursprünglich geplant. Insbesondere in Bezug auf ihren Geltungsbereich wurden am Schluss starke Abstriche gemacht. Der Einbezug der Zivilgesellschaft war von Anfang an begrenzt und wurde im Laufe der Zeit zusätzlich eingeschränkt. Parallel dazu hat das Europäische Parlament den EU AI Act verabschiedet, der bindende Regeln für den Umgang mit KI festlegt. Die Konvention des Europarats und der EU AI Act haben unterschiedliche Schwerpunkte und Herangehensweisen. Dass beide Vorgänge beinahe gleichzeitig zum Abschluss kommen, ist aber kein Zufall, bedingen sie sich doch gegenseitig.

Die Verhandlungen im Europarat waren insofern aussergewöhnlich, als viele aussereuropäische Verhandlungspartner wie die USA, Kanada, oder Mexiko mit am Tisch sassen und die EU-Länder – mit 27 von 46 stimmberechtigten Europaratsmitgliedern die absolute Mehrheit – keine Konvention verabschieden wollten, welche jenseits des Atlantiks auf keinerlei Gegenliebe stösst. Dennoch kommen Adrienne Fichter und Balz Oertli in ihrer Analyse für die Republik zum Schluss, dass eine Ratifizierung durch die USA aufgrund innerstaatlicher Hürden so oder so kaum reelle Chancen haben dürfte.

Die Konvention ist ein Schritt in die richtige Richtung, wird in ihrem Einfluss aber wohl sehr begrenzt bleiben. Sie ist ein Puzzlestück im Korpus vieler verflochtener und sich gegenseitig vorantreibender Vereinbarungen, deren volle Wirkung sich erst über die nächsten Jahrzehnte entfalten wird. Die Arbeit wird uns auf absehbare Zeit also nicht ausgehen. Starkes zivilgesellschaftliches Engagement bleibt ein Muss, um den Einsatz der immer mächtigeren Maschinen in einigermassen menschenrechtskonforme Bahnen zu lenken.

Geheimdienst sammelt unrechtmässig Daten – wir lassen nicht locker

Über die vergangenen Jahre hat die Digitale Gesellschaft wiederholt den Nachrichtendienst des Bundes (NDB) um Auskunft über und Löschung ihrer bearbeiteten Daten ersucht. Die Antworten erfolgten jeweils erst mit erheblichen Verzögerungen und waren unvollständig.

Eine vorläufige Auswertung der erhaltenen Informationen zeigt auf, wie der NDB systematisch und rechtswidrig Daten über uns gesammelt und gespeichert hat. Erfasste politische Aktivitäten und Meinungsäusserungen, etwa im Zusammenhang mit geplanten Revisionen des Nachrichtendienstgesetzes (NDG), lassen kaum einen andern Schluss zu, als dass der NDB damit gegen Art. 5 Abs. 5 ebendieses Gesetzes verstösst: Das absolute Verbot, Informationen über die politische Betätigung und über die Ausübung der Meinungs-, Versammlungs- oder Vereinigungsfreiheit in der Schweiz zu beschaffen. Von den insgesamt 120 Einträgen zur Digitalen Gesellschaft wurde bislang erst gut ein Drittel gelöscht.

Nicht nur über die Digitale Gesellschaft speichert der Nachrichtendienst exzessiv und rechtswidrig Informationen. Auch Erfahrungen der Organisation «Public Eye»bestätigen: Der NDB sammelt und speichert entgegen den gesetzlichen Überwachungsschranken Informationen über die politische Betätigung und die Meinungsäusserungsfreiheit und überwacht dabei Einzelpersonen und NGOs systematisch.

Wir rufen deshalb zusammen mit verschiedenen weiteren zivilgesellschaftlichen Organisationen dazu auf, im Zuge der laufenden Revision des NDG, Einsicht in die eigenen Daten beim NDB zu verlangen, um möglichst viele Beispiele für die grundrechtswidrige Praxis des Geheimdienstes zu sammeln. Eine Vorlage für das Einsichtsgesuch gibt es bei grundrechte.ch.

Tracking & Profiling: Kevin kriegt keinen Kredit

Im jüngsten Artikel unserer Reihe zu «Tracking & Profiling» beschäftigt sich Andreas Geppert mit der Verwendung von Scores zur Vorhersage zukünftigen menschlichen Verhaltens in verschiedenen Bereichen wie Finanzen, Gesundheit und Kriminalität. Solche algorithmisch berechneten Scores dienen dazu, Individuen zu vergleichen und zu rangieren. Beispiele für ihre Anwendung sind die Kreditvergabe, die Wohnungsvermietung oder die Mitarbeiterbeförderung.

Der Text beleuchtet die Schattenseiten des Scorings: Wieso bestehende Diskriminierung und Ungerechtigkeiten damit verstärkt werden und wie ein Machtgefälle entsteht zwischen denen, die Scores entwickeln und verwenden, und jenen, die damit bewertet werden. Die Annahme, dass komplexe menschliche Eigenschaften und Verhaltensweisen durch Zahlen quantifiziert werden können, stellt er grundsätzlich in Frage und erklärt, wieso bestehende Datenschutzgesetze als unzureichend zur Regulierung des Scorings angesehen werden müssen.

Die Lektüre der eher dystopischen Materie können wir nur empfehlen!

Erfahrungsbericht: Datenauskunftsbegehren zu Werbe-E-Mails

Spam ist fast so alt wie die E-Mail selbst und ein Verschwinden des Phänomens ist weit und breit nicht in Sicht. Doch was genau passiert, wenn ernsthaft versucht wird, mittels des neuen Datenschutzgesetzes und anderer Rechtsnormen gegen einen hier ansässigen Spammer vorzugehen?

In einem Gastbeitrag schildert Andreas Stricker seine Odyssee durch Rechtssystem und Behörden und liefert schliesslich eine leider nur halb ironisch gemeinte «Anleitung» zum erfolgreichen Spammen. Irrwitz garantiert!

Netzpolitischer Abend zum Thema «Wem gehören die KI-Trainingsdaten?»

Immer neue KI-Modelle lernen immer erstaunlichere Fähigkeiten. Sogenannte Large Multimodal Models (LMMs) verknüpfen dabei etwa Sprach- mit Bild-, Audio- oder Videodaten und zeigen scheinbar genuin kreatives Verhalten, welches wir zuvor nur von Menschen kannten. Tech-Enthusiast:innen jubilieren und preisen den demokratisierenden Aspekt der Technologie: Endlich könnten wir alle «schöpferisch» tätig sein, mit minimalem eigenen Input, auf Knopfdruck sozusagen.

Doch hinter den beeindruckenden Outputs der Modelle stecken gigantische Datenberge – zumeist menschliche Vorarbeit. Unzählige Künstler:innen schufen all die in den Trainingsdaten repräsentierten Werke über Jahrzehnte oder gar Jahrhunderte hinweg, welche von den Ersteller:innen der KI-Modelle nun «statistisch ausgebeutet» werden – und zwar meist ohne Einverständnis der Urheber:innen.

Florent Thouvenin, Professor für Informations- und Kommunikationsrecht an der Universität Zürich, erklärt, was an solchen Vorwürfen dran ist, unter welchen Umständen kreative Leistungen von Dritten frei verwendet werden dürfen und was passiert, wenn ein Chatbot plötzlich Texte im Stil von berühmten Autoren schreibt.

Der Abend findet morgen Donnerstag, 18. April, im Debattierhaus Karl der Grosse statt. Um 19:00 Uhr öffnet die Bar, das Programm startet um 19:30 Uhr mit einer Einführung, gefolgt von einer moderierten Diskussion. Im Anschluss bleibt Raum für Austausch mit dem Publikum, vorzugsweise bei einem kühlen Getränk. Einführung und moderierte Diskussion werden auch live übertragen.

Netzpolitischer Abend zum Thema «KI im Journalismus: Wohin geht die Reise?»

Bereits am Donnerstag, 16. Mai 2024 dürfen wir zum nächsten netzpolitischen Abend zu einem verwandten Thema laden: KI im Journalismus. Timo Grossenbacher, seit etwas über zehn Jahren im Datenjournalismus tätig, wird wertvolle Einblicke geben, wie künstliche Intelligenz drauf und dran ist, die Medienlandschaft zu verändern.

Diskutiere mit uns, welche Chancen die Technologie Medienschaffenden bieten kann, wie sich das Konsumverhalten dadurch verändert oder ob die journalistische Berichterstattung in Zukunft gänzlich von KI übernommen wird. Wie immer öffnet um 19:00 Uhr die Bar, eine halbe Stunde später startet das Programm mit Einführung und anschliessender moderierter Diskussion. Beides wird auch live im Netz übertragen.

Wir freuen uns über deinen Besuch!

Frühjahrestreffen am 4. Mai 2024

Unser traditionelles Frühjahres- und Herbsttreffen wird erweitert: Es erstreckt sich nun über einen ganzen Tag und zwei Sprachregionen!

Fürs anstehende Frühjahrestreffen vom 4. Mai kommen wir neu in der Bitwäscherei in Zürich und im Powerhouse in Lausanne zusammen. Um 10:15 Uhr beginnen wir mit einer Keynote, gefolgt von fachbereichspezifischen Diskussionen zu Schwerpunkten, Prioritäten, Aktionen und Verantwortlichkeiten für die kommenden sechs Monate. Auch Kurzupdates der bisherigen Tätigkeiten in den Fachgruppen sind für diesen Zeitblock vorgesehen.

Ab 14:00 Uhr geht es wie gewohnt mit einer Plenumsdiskussion weiter, an der auch remote teilgenommen werden kann. Hier werden die Ergebnisse der Vormittagsdiskussionen oder Workshops vorgestellt sowie ausführlichere Informationen zu wichtigen Themen, die wir angehen wollen, präsentiert. Der Tag wird mit gemeinsamen Mittag- und Abendessen abgerundet. Genauere Informationen geben wir in Kürze auf unserer Webseite bekannt.

Das Frühjahrstreffen – in gewissem Sinne das «Parlament der Digitalen Gesellschaft» – entwickelt sich damit weiter und bietet ein erweitertes Format im Vergleich zu früheren Veranstaltungen. Wir hoffen auf euer zahlreiches Erscheinen!

Eine Anmeldung ist bereits über unser Kontaktformular möglich. Wir freuen uns auf deine Teilnahme!

Netzpodcast

Alle Hände voll zu tun, aber ein, zwei Ohren frei? Aktuelles aus der Netzpolitik mit Bezug zur Schweiz liefert der Netzpodcast. In der neusten Folge mit Jörg Mäder, Erik Schönenberger und Sven Kohlmeier über die Themen:

  • EGMR bestärkt Verschlüsselung
  • Backdoor in Open Source Software
  • Google vernichtet Milliarden von Browserdaten

Netzpolitik-Zmittag

In mittlerweile acht Schweizer Städten bietet der Anlass Gelegenheit zum ungezwungen Austausch über aktuelle netzpolitische Themen. Wir freuen uns auf die nächsten gemeinsamen Mittagessen:

Newsletter abonnieren

Das «Update» berichtet monatlich über die wichtigsten Ereignisse. Jetzt abonnieren – und informiert bleiben:


Die angegebenen Daten werden ausschliesslich für den Versand des Newsletters der Digitalen Gesellschaft verwendet. Dieses Abonnement kann jederzeit widerrufen werden.

(Bild: «Newsletter» – CC0 1.0)