Europäische Bürgerinitiative für eine Zukunft ohne biometrische Massenüberwachung

Heute, am 17. Februar 2021, startet das Bündnis Reclaim Your Face eine offizielle Europäische Bürgerinitiative (EBI) zum Verbot biometrischer Massenüberwachung. Mehr als 35 europäische Organisationen rufen dazu auf, diese Initiative zu unterstützen.

In Deutschland unterstützen bisher der Chaos Computer Club, D64, Digitalcourage, Digitale Freiheit und kameras-stoppen.org die Bürgerinitiative und fordern Bürger:innen zum Unterschreiben auf.

Warnung vor biometrischer Überwachung

Während die Europäische Kommission neue Gesetze zur Regulierung Künstlicher Intelligenz vorbereitet, warnt das Bündnis von Digital- und Menschenrechtsorganisationen vor den Gefahren von biometrischer Massenüberwachung für die Freiheit und Würde der Bürger:innen. Mit der EBI fordern Europäische Bürger:innen neue gesetzliche Rahmenbedingungen einschließlich eines Verbots von biometrischer Massenüberwachung.

Biometrische Daten der Bürger:innen schützen

Biometrische Daten sind hochsensible Informationen über unsere Körper und unser Verhalten. Es sind Daten über unsere Gesichter, Augen, Venen, Stimmen, unseren Gang und unser Verhalten. Dazu gehört beispielsweise, wie Menschen auf einer Tastatur tippen oder mit ihrer Augenbewegung ein Bild erfassen. Wir können anhand biometrischer Daten identifiziert und analysiert werden und wir können diese Daten nicht einfach ändern. Daher sind biometrische Daten besonders zu schützen.

Grundsätzlich sind der Verarbeitung von biometrischen Daten in der EU bereits enge Grenzen gesetzt. Jedoch lässt das EU-Recht einige problematische Ausnahmen zu. Staatliche Akteure und private Unternehmen nutzen diese Lücken, um biometrische Überwachungstechnologien in öffentlichen Räumen zu etablieren. Erik Tuchtfeld, Vorstandsmitglied von D64 betont: “Das massenhafte Speichern und die automatisierte Auswertung von biometrischen Daten würdigt Bürgerinnen und Bürger zu reinen Objekten von Identifizierungsmaßnahmen herab. Als freiheitliche Gesellschaft dürfen wir nicht zulassen, dass jede und jeder ohne Anlass und ohne Limitierung überwacht werden kann.”

Biometrische Überwachung in der EU

Das Bündnis Reclaim Your Face konnte bereits zeigen, dass biometrischen Daten von Menschen in ganz Europa systematisch gesammelt und missbraucht werden. In vielen Fällen geht das Bündnis erfolgreich gegen diesen Missbrauch vor.

Serbische Behörden überwachen die Bevölkerung in den Straßen von Belgrad. Italienische Behörden nahmen in der Stadt Como Geflüchtete mit biometrischen Überwachungssystemen ins Visier. Dies wurde für illegal erklärt wurde und trotzdem wird versucht, solche Systeme auch in anderen Städten einzuführen. In Griechenland erwägen die Behörden den Einsatz von biometrischer Überwachung bei Polizeikontrollen. In Frankreich kämpfte die Zivilgesellschaft vor Gericht gegen den Einsatz biometrischer Überwachungstechnologie bei Demonstrationen und an Schulen. In den Niederlanden und Spanien kritisierten die nationalen Aufsichtsbehörden die biometrische Massenüberwachung in Supermärkten.

Biometrische Überwachung in Deutschland

In Deutschland wehren sich Mitglieder des Bündnisses unter anderem erfolgreich gegen polizeiliche Videoüberwachung in Köln und gegen die Überwachung durch die Gesichter-Suchmaschine *Clearview AI*. Anfang 2020 demonstrierten verschiedene zivilgesellschaftliche Organisationen in dem Bündnis gesichtserkennung-stoppen.de erfolgreich gegen die Pläne des Innenministeriums, an 149 Bahnhöfen und Flughäfen Gesichtserkennung einzusetzen. Der entsprechende Gesetzesentwurf wurde vorerst auf Eis gelegt.
Gegen das verschärfte Sächsische Polizeigesetz, das intelligente Videoüberwachung und Gesichtserkennung erlaubt, wurde im Dezember 2020 Verfassungsbeschwerde eingelegt. Schon 2018 kritisierten Grundrechtsorganisationen aus Deutschland, Tschechien und Polen die biometrische Videoüberwachung in Grenzgebieten.

Weitere Schritte

Die Europäische Bürgerinitiative muss nun innerhalb eines Jahres eine Million Unterschriften in mindestens sieben EU-Ländern sammeln. Ist die Initiative erfolgreich, kommt es zu einer öffentlichen Anhörung im Europäischen Parlament. Außerdem muss die Europäische Kommission ihr weiteres Vorgehen oder ggf. den Verzicht auf Folgemaßnahmen erläutern und einen Zeitrahmen zur Umsetzung der Maßnahmen nennen.

Unterzeichne hier, um die Bürgerinitiative zu unterstützen.

Der D64 Covidbot – Corona-Infos direkt aufs Smartphone

D64 – Zentrum für digitalen Fortschritt hat den Covidbot veröffentlicht. Mit Hilfe des Bots können aktuelle Zahlen mit Coronabezug, wie Infektions- und Todeszahlen oder die aktuelle Impfquote, unmittelbar für ausgewählte Orte abonniert werden. Der Bot unterstützt die Messenger Telegram, Signal und Threema. Alle Infos zur Einrichtung des Bots gibt es auf der eigens hierfür eingerichteten Webseite covidbot.d-64.org.

Relevante Informationen überall in Deutschland
Einige Länder, wie beispielsweise Baden-Württemberg, setzen zur Information ihrer Bürgerinnen und Bürger auch auf Messengerdienste. Schon die Verfügbarkeit eines solchen Angebots ist aber abhängig vom jeweiligen Wohnort, zudem werden die Informationen in der Regel nicht personalisiert, sondern einheitlich für alle Bürgerinnen und Bürger gleich versendet. “Gerade in der Corona-Pandemie gilt es aber, Bürgerinnen und Bürgern die Informationen, die für sie von Bedeutung sind, unkompliziert und komfortabel zur Verfügbarkeit zu stellen. Das schaffen die verschiedenen Bundesländer nicht gleichermaßen gut”, erklärt Erik Tuchtfeld, Vorstandsmitglied bei D64. Der Anspruch des Covidbots ist es daher, ein Informationsangebot zu schaffen, das überall in Deutschland für Interessierte einen einheitlichen und übersichtlichen Zugriff auf die für sie relevanten Zahlen dieser Pandemie herstellt.
Anne Schwarz, ebenfalls Vorstandsmitglied, betont: “Digitale Lösungen, die von der Zivilgesellschaft entwickelt werden, können entscheidend dazu beitragen, Auswirkungen der Pandemie in verschiedensten Bereichen einzudämmen. Initiativen wie #WirVsVirus haben gezeigt, wie hoch die gesamtgesellschaftliche Motivation hierfür ist.”

Open Data – Licht und Schatten
Zur Umsetzung solcher Initiativen braucht es den einfachen Zugriff auf relevante Daten. Während der Zugriff auf die Infektionsdaten des Robert-Koch-Instituts (RKI) weitgehend unproblematisch ist, gestaltet sich dies jedoch schwieriger bei anderen, weniger prominenten Daten der Pandemie. So werden sowohl die Impfdaten wie auch der R-Wert unter unklarer Lizensierung und nicht über einheitliche Schnittstellen zur Verfügung gestellt, was ihre Einbindung deutlich aufwändiger macht. Die Informationen über die Belegung der Intensivbetten konnten bis jetzt nicht eingebaut werden, weil sie lediglich von einem privaten Träger veröffentlicht werden, dessen Lizenz die Weiterverwendung nicht erlaubt. Auch die verschiedenen Corona-Maßnahmen der Landesregierungen und Kommunen werden von keiner Stelle in einer automatisiert verwertbaren Form zur Verfügung gestellt. Sönke Huster, Mitglied bei D64 und Entwickler des Bots unterstreicht: “Für zivilgesellschaftliche Projekte ist es essentiell, dass bei den öffentlichen Institutionen existierende Daten für alle frei verfügbar gemacht werden. Von Open Data profitiert letztendlich die ganze Gesellschaft!”

Open Source – Hilf uns bei der Weiterentwicklung
Der gesamte Quellcode des Projektes ist auf Github veröffentlicht. Der Bot ist in der Programmiersprache Python geschrieben. Jede und jeder ist herzlich dazu eingeladen, zur Weiterentwicklung beizutragen! Wir freuen uns über den Hinweis auf Fehler oder Anregungen für neue Funktionen.

Stellenangebot: Studentische Hilfskraft (w/m/d)

D64 ist die Denkfabrik des digitalen Wandels. Unsere über 650 Mitglieder bundesweit sind von der gesamtgesellschaftlichen Auswirkung der digitalen Transformation auf sämtliche Bereiche des öffentlichen und privaten Lebens überzeugt und wollen diese progressiv und inklusiv gestalten. Dabei liefern wir Impulse, um die digitale Transformation zum positiven Gelingen zu bringen. D64 – Zentrum für digitalen Fortschritt e.V. wurde 2011 gegründet und ist gemeinnützig, überparteilich und unabhängig. Uns ist es ein Anliegen, Expertinnen und Experten aus Wissenschaft, Wirtschaft, Kultur, Zivilgesellschaft, Bildung und Politik zusammenzubringen.

Zur Koordinierung der Vereinsarbeit und Unterstützung des ehrenamtlichen Vorstands suchen wir zum 1. März 2021 (oder früher) für 15 Stunden/Woche eine Studentische Hilfskraft (m/w/d).

Aufgabenprofil:

  • Koordinierung der inhaltlichen Arbeit und Unterstützung bei der Erstellung von Positionspapieren (Recherchen, Lektorat inkl. begleitender kommunikativer Tätigkeiten)
  • Externe Kommunikation und Öffentlichkeitsarbeit, insbesondere das Verfassen von Blogbeiträgen und Inhalte für Soziale Netzwerke
  • Kampagnen- und Veranstaltungsorganisation (z.B. jährlicher Neujahrsempfang und Superklausur der Mitglieder)
  • Unterstützung der Ansprechpersonen für die inhaltlichen Arbeitsgruppen sowie die Regionalgruppen von D64
  • Operative Unterstützung des Vorstandes

Das bringst Du mit:

  • Interesse an der digitalpolitischen Zukunft und den Willen zur aktiven Mitgestaltung
  • Hohes Maß an Eigenständigkeit und Eigenverantwortung, Strukturiertheit und organisatorischem Geschick, sowie Freude daran, in einer flachen Struktur Verantwortung zu übernehmen
  • Die Fähigkeit, Dich schnell und zuverlässig in neue Sachverhalte einzuarbeiten
  • Hilfs- und Einsatzbereitschaft, Teamgeist und Empathie gehören ebenso zu Deinen Stärken, wie Flexibilität und Belastbarkeit
  • Gute Kenntnisse im Bereich Öffentlichkeitsarbeit und Social Media
  • Grundlegende Kenntnisse in einem Bildbearbeitungsprogramm zur Erstellung von Inhalten für Social Media (falls Kenntnisse noch nicht vorhanden, Bereitschaft dazu diese schnell zu erlernen)
  • Erste Arbeitserfahrung im politischen Bereich

Das bieten wir Dir:

  • Flexible Arbeitszeitgestaltung mit einer angepeilten Wochenarbeitszeit von 15 Stunden
  • Attraktive Vergütung: 910€ / Monat bei 15 Stunden pro Woche.
  • Die Möglichkeit ohne feste Präsenzzeit, auch nach der Pandemie, mobil dort zu arbeiten, wo du möchtest
  • Möglichkeiten der Vernetzung mit Entscheidungsträgerinnen und Entscheidungsträgern in der Digitalpolitik, sowie mit mehr als 650 digital affinen Vereinsmitgliedern
  • Eine verantwortungsvolle Position mit hoher Entfaltungsmöglichkeit und Gestaltungskompetenz

Bitte bewirb dich bis zum 14. Februar 2021 über dieses Formular. Für Rückfragen steht Dir Anna Lob ([email protected]) gerne zur Verfügung!

#D64diskutiert: Mitarbeitendenbeteiligung in Startups

Eine der größten Forderungen der Startup Community in Deutschland war schon immer eine Sache: Mitarbeitendenbeteiligungen.

Mit sogenannten ESOPS (employee stock option plans) können Mitarbeitende in einem Startup am Unternehmen beteiligt werden. Dies ermöglicht eine zusätzliche Motivation, eine Angleichung der Interessen und eine bessere Stellung Deutschlands im internationalen Wettbewerb. D64 hatte sich hierfür wiederholt ausgesprochen, zuletzt im Papier der AG Startup Förderung.
Im Dezember war 2020 endlich so weit: Das Fond-Standort-Gesetz wurde durch das Bundesfinanz- und das Bundeswirtschaftsministerium auf den Weg gebracht.
Das erste mal sind hiermit Mitarbeitendenbeteiligungen möglich. Sind jetzt alle Ziele erreicht? Welche Möglichkeiten entstehen dadurch für Startups? Werden damit Investoren oder Startups gestärkt? Wo muss noch nachgebessert werden?

Diese Themen möchten wir bei #D64diskutiert am 10. Februar 2021 um 20 Uhr besprechen, mit:

  • Verena Hubertz, Gründerin Kitchen Stories und SPD Kandidatin für den Bundestag aus Trier
  • Claudia Nagel, Investorin bei High Rise Ventures
  • Konrad Krämer (D64)
  • Hendrik Schulze Bröring (D64)

Der Stream wird hier auf d-64.org und auf unserem Twitter- und YouTube-Kanal zu finden sein.

So startet D64 in das neue Jahr 2021

Wir wünschen all unseren Mitgliedern, FreundInnen und UnterstützerInnen ein frohes und gesundes neues Jahr 2021! Dieses Jahr steht viel an: zum einen gilt es weiter die Corona Pandemie zu bekämpfen. Zum anderen ist 2021 ein Superwahljahr mit sechs Landtagswahlen und der Bundestagswahl.

Auch digitalpolitisch gibt es viele wichtige Themen: die EU Kommission hat im Dezember einen Vorschlag zum Digital Services Act vorgelegt, welcher nun von Europaparlament und Ministerrat bearbeitet wird. Die Pandemie hat spätestens jetzt gezeigt: Digitalpolitik und die Digitalisierung können keine Nebendarstellerinnen im politischen Betrieb bleiben, sondern gehört zu den wichtigsten Politikfeldern unserer Zeit. Die Digitalisierung von Schulen und Bildung, sowie die Fragen, welche sich daraus ergeben, werden uns auch in diesem Jahr begleiten.

Wie wir die Digitalisierung sozial gerecht und progressiv gestalten können, haben wir als Verein im Rahmen mehrerer Veranstaltungen und Aktionen erörtert und diskutiert. Beginnend mit unserem letzten größeren Präsenzevent – dem Neujahrsempfang 2020 – über unsere neue digitale Reihe #D64diskutiert bis hin zu unserer digitalen Superklausur im Dezember, haben wir Raum für Diskurs geboten und unsere Positionen als Verein entwickelt.
Daneben haben unsere Mitglieder Stellungnahmen zur Urheberrechtsreform und dem Weißbuch KI der Europäischen Union erarbeitet. Wir haben Beiträge und Forderungen zu Nachhaltigkeit, Kidfluencing und Digitalen Wahlen veröffentlicht. Außerdem haben wir die Grundbedigungen für eine zukunftsfähige Bildung ausformuliert.

Einer unserer wichtigsten Erfolge haben wir bei der Entwicklung der Corona-Warn-App erreicht: Mit einem offenen Brief an den Gesundheitsminister Jens Spahn und Kanzleramtsminister Helge Braun, konnten wir auf eine datenschutzfreundliche Gestaltung hinwirken. Unser Co-Vorsitzender Henning Tillmann beobachtete die Entwicklung der App von Beginn an intensiv und kommentierte die Ereignisse aus D64-Perspektive, wie beispielsweise in diesem Artikel für Zeit Online.

Auf diese Arbeit werden wir 2021 weiter aufbauen. Mit unserem im Dezember neu gewählten Vorstand werden wir das Superwahljahr nutzen, um weiterhin eine Vision für eine partizipative und gerechte digitale Zukunft zu entwickeln. In unserer Veranstaltungsreihe #D64diskutiert werden wir weiter mit Expertinnen und Experten aktuellen digitalpolitische Themen diskutieren. Pünktlich zur Bundestagswahl werden wir erneut unseren Digitalthesencheck launchen, mit dem sich die unterschiedlichen digitalpolitischen Positionen der Parteien vergleichen lassen. Mit unseren weiteren Angeboten wie dem D64-Ticker unserem Quarterly Newsletter informieren wir zudem regelmäßig zu aktuellen digitalpolitischen Themen und wollen eine gemeinsame Diskussionsgrundlage fördern.

Nachdem wir inzwischen fast 650 Mitglieder zählen, arbeiten wir parallel intern stark daran, unsere regionalen Strukturen und unseren Netzwerkcharakter zu fördern. Ein besonderes, richtungsweisendes Highlight wird zudem das aktuelle Projekt unseres Beirats: gemeinsam erarbeiten unsere Beirätinnen eine Utopie für eine digitale Zukunft 2030, die unsere Arbeit und Vision bereichern soll. Mit diesen Projekten starten wir motiviert das neue Jahr. Wir wollen Digitalisierungsprozesse auch in diesem Jahr entsprechend unseres Mission Statements konstruktiv begleiten. Wir freuen uns stets auf engagierte MitstreiterInnen und wenn ihr euch an unserer Mission beteiligen wollt, geht’s hier direkt zum Mitgliedsantrag.

Gemeinsam für einen realistischen Beteiligungsprozess!

28 Stunden für einen 108-seitigen und 48 Stunden für 465-seitigen Referentenentwurf. Solche Fristen für Stellungnahmen sind für (teils ehrenamtliche) Vereine, Verbände und NGOs kaum zu stemmen und verhindern demokratische Teilhabe.

Aus diesem Grund sind wir, D64 – Zentrum für digitalen Fortschritt, Mitunterzeichner des offenen Briefes “Angemessene Fristen statt Scheinbeteiligung” an alle Bundesministerinnen und -minister. Darin fordern wir als breites Bündnis die, in §47 Abs. 3 der gemeinsamen Geschäftsordnung der Bundesministerien festgelegte, “rechtzeitige Beteiligung von Zentral- und Gesamtverbänden sowie von Fachkreisen” unter realistischen Gesichtspunkten einzuhalten, um den angemessenen Einfluss vorhandener Erfahrungen und Expertisen zu ermöglichen. Zudem machen wir Vorschläge zur Bereitstellung von Synopsen, die Veröffentlichung der Referentenentwürfe und die Öffnung des Kommentierungsprozesses.

Der offene Brief

Angemessene Fristen statt Scheinbeteiligung

Sehr geehrte Bundesminister*innen,

die Beteiligung von Zivilgesellschaft und Verbänden an Gesetzgebungsprozessen ist ein elementarer Bestandteil unserer Demokratie. Deshalb ist in § 47 der Gemeinsamen Geschäftsordnung der Bundesministerien (GGO) auch eine „möglichst frühzeitige“ Zuleitung an Verbände vorgesehen.

Leider werden seitens der Bundesministerien in zunehmendem Maße Stellungnahmen zu Gesetzesvorschlägen in weniger als drei Arbeitswochen – teilweise von gerade einmal wenigen Werktagen – erwartet. Trauriger Tiefpunkt waren im Dezember 2020 die Anfragen zu Stellungnahmen für den 4. Referentenentwurf zum IT-Sicherheitsgesetz 2.0 mit einer Kommentierungsfrist von 28 Stunden (bei 108 Seiten) und zur Novellierung des Telekommunikationsgesetzes mit einer Frist von 2 Tagen (bei 465 Seiten).

Wir, die unterzeichnenden Vereine, Stiftungen, Initiativen und Verbände dieses Briefes, fordern Sie als Ressortleiter*in auf, die Verbändebeteiligung als wichtiges Werkzeug demokratischer Teilhabe zukünftig wieder ernsthafter zu verfolgen. Die Einbindung von Zivilgesellschaft und Verbänden liefert wichtige inhaltliche Anregungen, ermöglicht es, Meinungen und Expertise aus Gesellschaft, Wissenschaft und Wirtschaft einzuholen und wirkt der zunehmenden Spaltung der Gesellschaft und der Politikverdrossenheit entgegen. Wir sehen daher folgenden Handlungsbedarf:

1. Angemessene Fristen für die Kommentierung von Gesetzesentwürfen

Expertise benötigt Zeit. Unser Anspruch ist, Ihnen fundierte Rückmeldung aus unseren jeweiligen Fachgebieten zu den Gesetzgebungsvorhaben zu liefern. Die Einbeziehung unserer Fachexpert*innen benötigt jedoch immer einen ausreichenden Vorlauf. Dies gilt insbesondere für Organisationen, die auf dem Engagement Ehrenamtlicher fußen. Diesen ist es rein organisatorisch nur schwerlich möglich, eine fundierte Stellungnahme innerhalb weniger Tage auszuarbeiten.

Wir erwarten daher, bei allen künftigen Gesetzgebungsprozessen mindestens vier Arbeitswochen für die Anfertigung von Stellungnahmen einzuräumen. Die Bemessung der Frist sollte sich zudem an der Länge eines Entwurfes orientieren. Denkbar wäre eine Festschreibung von je einer Woche für je 50 Seiten Entwurfsdokument, nicht jedoch weniger als vier Wochen.

2. Bereitstellung von Synopsen zur besseren Vergleich- und Nachvollziehbarkeit

Insbesondere wenn, wie im Falle des IT-Sicherheitsgesetzes 2.0, innerhalb weniger Wochen neue Referentenentwürfe geteilt werden, sollte den Anfragen nach Stellungnahme eine Synopse zur vorherigen Version zur besseren Nachvollziehbarkeit der Änderungen beigefügt werden.

3. Veröffentlichung der Referentenentwürfe auf den Websites der Ministerien

Im Sinne eines transparenten Gesetzgebungsprozesses sollten sämtliche Referentenentwürfe, für die Stellungnahmen bei Verbänden eingeholt werden, und Synopsen öffentlich zugänglich sein. Die Entwürfe sollten zeitgleich mit ihrem Versand an die Verbände auf den Websites der Bundesministerien veröffentlicht werden.

4. Eine Öffnung des Partizipationsprozesses

Die Beteiligung der Zivilgesellschaft sollte weiter vereinfacht werden. Nach dem Vorbild der Online-Konsultationsverfahren der Europäischen Union sollte neben der Veröffentlichung aller Referentenentwürfe und Synopsen auch die Kommentierungsmöglichkeit für weitere zivilgesellschaftliche Akteure geöffnet werden. Bisher handelt es sich um eine intransparente Auswahl durch die federführenden Ministerien.

Sehr geehrte Bundesminister*innen, wir verstehen unsere Vorschläge als Beitrag zu einem demokratischeren, kooperativeren und inklusiveren Gesetzgebungsprozess und sehen hinsichtlich der Einräumung längerer Kommentierungsfristen dringenden Handlungsbedarf. Anbei finden Sie eine exemplarische Auflistung vergangener Gesetzgebungsvorhaben mit unzureichenden Fristen.

Mit freundlichen Grüßen

Gesellschaft für Informatik e.V. (GI)

Stiftung Neue Verantwortung

eco – Verband der Internetwirtschaft e. V.

Open Knowledge Foundation Deutschland

Verbraucherzentrale Bundesverband e. V.

Transparency International Deutschland e.V.

Chaos Computer Club (CCC)

BITMi – Bundesverband IT-Mittelstand e.V.

Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF) e. V.

IfKom – Ingenieure für Kommunikation e. V.

Digitale Gesellschaft e.V.

LOAD e.V. – Verein für liberale Netzpolitik

D64 – Zentrum für digitalen Fortschritt e. V.

IEN Initiative Europäischer Netzbetreiber

Gesellschaft für Datenschutz und Datensicherheit (GDD) e. V.

Das war die D64-Superklausur 2020

Deutsche Web-Prominenz gründet Internetverein” lautete eine Schlagzeile zur Gründung von D64. Was daraus innerhalb von 10 Jahren wurde, ließ sich am vergangenen Wochenende sehen: ein Verein mit über 600 Mitgliedern, der digitalpolitische Prozesse aktiv begleitet und formt.

Unsere D64-Superklausur am 4. und 5. Dezember konnte leider nicht wie gewohnt in Präsenz stattfinden, sondern wurde aufgrund der aktuellen Situation zu einem Digitalevent. Mit knapp 100 Anmeldungen starteten wir in das Wochenende. Die Teilnehmenden hatten vorab ein Superklausurkit erhalten, mit welchem sie perfekt vorbereitet waren. Am Freitagabend wurde bereits intensiv zu den Themen Plattform Governance, digitale Bildung, Zukunft der Arbeit und E-Health diskutiert. In einer Ideenwerkstatt hatten die Mitglieder außerdem die Möglichkeit sich über weitere inhaltliche Schwerpunkte der Vereinsarbeit auszutauschen. Der Abend endete mit einem durch den D64 Co-Vorsitzenden Henning Tillmann (in seinem Alter Ego als Tilli) moderiertem digitalen Kneipenquiz.

Am Samstag standen die Themen Datenschutz, Digitale Demokratie, Nachhaltigkeit und Künstliche Intelligenz auf der Agenda. Außerdem waren Nico Lumma, Valentina Kerst, Leonhard Dobusch und Lars Klingbeil zu Gast, die über die Gründungsphase von D64 berichteten und sich beeindruckt davon zeigten, wohin der Verein sich inzwischen entwickelt hat. Moderiert wurde das Panel von Laura Krause, die an diesem Wochenende nach vier Jahren als Co-Vorsitzende aus dem Amt verabschiedet wurde. An dieser Stelle nochmal vielen lieben Dank an Laura, für die ganze Energie, Zeit und Kompetenz, die du D64 in den letzten Jahren geschenkt hast!

Auf der Mitgliederversammlung im Anschluss an die Superklausur wurde dann ein neuer Vorstand gewählt. Als Co-Vorsitzende wählten die Mitglieder Marina Weisband und Henning Tillmann. Darüber hinaus wurden Ralf Jäger (Schatzmeister), Lena Stork, Dejan Mihajlovic, Alicia Hinon, Philipp Marten, Anne Schwarz und Erik Tuchtfeld in den Vorstand gewählt. Ebenso beschloss die Mitgliederversammlung ein neues Mission Statement für den Verein.

Wir bedanken uns an dieser Stelle bei allen Mitgliedern und allen, die diese digitale Superklausur möglich gemacht haben! #D64Hurra

Digital wählen – wie es (ausnahmsweise) funktionieren kann

Eine gekürzte Fassung dieses Beitrags wurde in der Süddeutschen Zeitung veröffentlicht. Ein Lösungsvorschlag von Marina Weisband, Erik Tuchtfeld und Henning Tillmann. 

Seit Beginn der Covid-19-Pandemie ist das klassische Vereins- und Parteileben nicht mehr möglich. Nichtsdestotrotz müssen Beschlüsse gefällt und Vorstände gewählt zu werden. Aufgrund von Abstandsregeln und Kontaktbegrenzungen können aber Mitgliederversammlungen oder Parteitage nicht durchgeführt werden. Das prominenteste Beispiel ist die CDU, die seit über einem halben Jahr auf die Wahl des neuen Vorsitzenden wartet. Aktuell bemühen sich nun die im Bundestag vertretenen Parteien eine Lösung zu finden – insbesondere auch durch die Ermöglichung von digitalen Wahlen. Mit dieser Herkules-Aufgabe beschäftigen sich seit rund 20 Jahren verschiedene Institutionen, eine akzeptable Lösung lag bisher noch nicht auf dem Tisch. Dies ist ein neuer Versuch.

Unsere Wahlgrundsätze

In Art. 38 Abs. 1 Satz 1 unseres Grundgesetzes heißt es: „Die Abgeordneten des Deutschen Bundestages werden in allgemeiner, unmittelbarer, freier, gleicher und geheimer Wahl gewählt.“ Damit sind fünf der sechs Wahlgrundsätze genannt: Die Allgemeinheit, die gebietet, dass jede Bürgerin und jeder Bürger wählen darf; die Unmittelbarkeit, die uns vor einem „Electoral College“ wie in den USA schützt; die Freiheit, welche die Androhung oder Ausübung von Zwang verbietet; die Gleichheit, die – anders als bspw. im 19. Jahrhundert in Preußen – garantiert, dass jede Stimme den gleichen Wert hat und einen möglichst gleichen Einfluss auf die Zusammensetzung des Parlaments haben soll; und die Geheimheit, die gegeben ist, wenn die Stimmabgabe niemand anderem offenbart wird. Sie stellt – so formuliert es das Bundesverfassungsgericht – den wichtigsten Schutz für die Wahlfreiheit dar. Diese Wahlgrundsätze gelten nicht absolut: So nehmen wir bspw. bei der Briefwahl in Kauf, dass unter anderem die Geheimheit der Wahl nicht durch den Staat sichergestellt werden kann, um eine möglichst hohe Wahlbeteiligung und damit eine möglichst allgemeine Wahl zu erreichen.
Einen weiteren Wahlgrundsatz hat das Bundesverfassungsgericht zudem aus der Gesamtschau von Rechtsstaats- und Demokratieprinzip (Art. 20 Grundgesetz) sowie den anderen fünf Grundsätzen entwickelt: Der Wahlgrundsatz der Öffentlichkeit der Wahl. Dieser steht, anders als der Name vielleicht zunächst vermuten lässt, nicht im Gegensatz zur Geheimheit, sondern schreibt vielmehr vor, dass alle wesentlichen Schritte der Wahl, von der Abgabe bis zur Auszählung, für den Laien verständlich und nachvollziehbar sein müssen. Dieser Wahlgrundsatz ist es, der jede Form von digitalen Wahlen am Grundgesetz scheitern lässt: Selbst wenn es tatsächlich möglich wäre, ein digitales Wahlverfahren absolut sicher zu gestalten – was IT-Sicherheitsexperten für nicht möglich halten –, so wäre es doch niemals für Laien nachvollziehbar. Sie müssten vielmehr auf die Expertise anderer vertrauen und Zweifel – egal ob begründet oder unbegründet – könnten nicht für jeden und jede nachvollziehbar widerlegt werden. Wie wichtig dies ist, eine nachvollziehbare, überprüfbare Wahl, haben uns nicht zuletzt die Geschehnisse der vergangenen Wochen in den USA gezeigt.

Was jetzt schon geht (und was eher nicht)

Nichtsdestotrotz stehen wir nun alle vor einem Dilemma: Wichtige Entscheidungen müssen getroffen, Wahlen in Parteien durchgeführt werden, ein physisches Zusammenkommen zur Abgabe von Stimmzetteln ist aber nicht möglich. Der Ruf nach digitalen Wahlen und Abstimmungen wird deshalb wieder lauter und er ist auch nicht ganz unberechtigt: Die Demokratie muss auch in diesen Zeiten handlungsfähig bleiben. Demokratie ist mehr als staatliche Wahlen, sondern zeichnet sich auch durch das gemeinsame Entscheiden in Vereinen, Verbänden und Parteien aus. Was sich in digitaler Form unproblematisch durchführen lässt, sind Abstimmungen über Sachthemen. Diese werden offen durchgeführt, die korrekte Stimmabgabe und Zählung für das Gesamtergebnis ist damit für alle nachvollziehbar. Eine Manipulation ist natürlich möglich – kein System ist unhackbar – sie würde aber sofort auffallen.
Schwieriger ist es bei den geheimen Wahlen. Unsere Überzeugung ist, dass an der Nachvollziehbarkeit von Stimmabgabe bis Ergebnis nicht gerüttelt werden darf. Es gibt keine absolut sicheren informationstechnischen Systeme und neben der tatsächlichen Manipulation der Ergebnisse genügt schon ein Vertrauensverlust in ihre Integrität, um einen Legitimitätsverlust der Gewählten herbeizuführen, der Gift für jede Organisation ist. Dazu kommt, dass jeder Fehler in einem solchen digitalen System, sei es ein Problem in der Verarbeitung der Stimmen oder eine Sicherheitslücke, die dazu führt, dass Dritte das System übernehmen, immer solche Ausmaße annimmt, dass die Wahl als Ganzes korrumpiert ist. Das Vertrauen in einen „Blackbox“ darf deshalb nicht Grundvoraussetzung für Wahlen werden.
Für staatliche Wahlen gibt es keine Alternative. „Remote-Wahlen“ müssen hierbei immer Briefwahlen sein. Anders sieht es bei Vereinen aus: Sie sind in ihrer Organisation (weitgehend) frei und können damit auch ihr Wahlverfahren selbst bestimmen. Auch ein Verzicht auf einzelne Wahlgrundsätze, wie bspw. die Geheimheit, ist grundsätzlich möglich. Etwas schwieriger ist es bei Parteien: Sie sind „Organe des Verfassungslebens“, die vom Grundgesetz beauftragt werden, an der „politischen Willensbildung des Volkes“ mitzuwirken. Daraus ergibt sich eine engere (mittelbare) Bindung an die grundgesetzlichen Wahlgrundsätze als es beim lokalen Kaninchenzüchterverein der Fall ist. Grundsätzlich gilt: je näher eine Wahl in einer Partei einer staatlichen Wahl kommt, bspw. die innerparteilichen Listenwahlen, die unmittelbar die Bundestagswahl vorbereiten, desto strenger gelten die Wahlgrundsätze des Grundgesetzes; je eher die Wahl jedoch nur parteiintern ist, bspw. die Vorstandswahlen des lokalen Ortsverbands, desto näher ist auch die Partei an der Organisationsfreiheit, die der Kaninchenzüchterverein für sich in Anspruch nehmen kann.
Die Anwendung dieser Grundsätze macht für uns klar, dass parteiinterne Wahlen, die staatliche vorbereiten, nicht digital durchgeführt werden dürfen. Die Wahlgrundsätze des Grundgesetzes, in solchen Fällen nahezu unmittelbar anwendbar, verbieten dies. Es gibt jedoch auch viele andere parteiinterne Wahlen, die politisch sehr bedeutsam sind, ohne unmittelbar besonders staatsnah zu sein. Man denke nur an den CDU-Vorsitz.

Kein Lösungsvorschlag: die Briefwahl digitalisieren

Einige scheinen deshalb auf den Gedanken zu kommen, man müsse nur die Briefwahl digitalisieren, schon sei das Problem der digitalen Wahlen gelöst. Aus diesen Gründen kursiert derzeit der Vorschlag, den De-Mail-Dienst – der gescheiterte Versuch eines geschlossenen, sicheren, deutschen E-Mail-Netzes – für digitale Briefwahlen zu nutzen. Neben grundsätzlichen Sicherheitsbedenken gegen den Einsatz von De-Mail lebt die Geheimheit der Briefwahl jedoch davon, dass sich die Authentifizierung (der äußere Wahlumschlag) und die Stimmabgabe (der innere Wahlumschlag) physisch voneinander trennen lassen und dieser Prozess danach nicht mehr umgekehrt werden kann. Eine De-Mail, die aber gleichermaßen Authentifizierung und Stimmabgabe trägt, kann nicht physisch getrennt werden. Wer Zugriff auf die Stimme hat, weiß auch, wer sie abgegeben hat. Die (digitale) Trennung von Authentifizierung und Stimmabgabe mag in einer Software vorgelagert werden, wer aber Zugriff auf diese Software hat (rechtmäßig oder unrechtmäßig), kann die Geheimheit der Wahl aufheben und die Stimmabgabe auf eine individuelle Person zurückführen.
Im Übrigen gilt auch hier, dass die Wählenden (blind) darauf vertrauen müssten, dass ihre Stimmen richtig übertragen wurden, sie danach richtig erfasst wurden und auch bei der Berechnung des Ergebnisses keine Fehler verursacht werden. Das Vertrauen in eine solche Blackbox darf aber nicht die Voraussetzung für das Funktionieren einer Wahl sein.

Ein Lösungsvorschlag: Nachvollziehbarkeit als Priorität

Wir möchten deshalb für solche Wahlen eine andere Lösung vorschlagen, die die Nachvollziehbarkeit der Wahl, aber weitestgehend auch die Geheimheit und damit die Freiheit garantiert. Wir sind der Überzeugung, dass das Vertrauen in den demokratischen Prozess, gewährleistet durch den Wahlgrundsatz der Öffentlichkeit der Wahl, die wichtigste Grundvoraussetzung darstellt. Das Ziel ist es deshalb, dass die Ergebnisermittlung nachvollziehbar bleibt, ohne dass eine Stimme einer Person zugeordnet werden kann.
Wie das aussehen könnte, erklären wir im Folgenden am Beispiel des Bundesparteitags der CDU. Selbstverständlich kann dieses Verfahren aber auch bei anderen Parteien oder Vereinen angewendet werden. Der CDU-Parteitag setzt sich aus 1001 Delegierten zusammen. Im Vorfeld erhält jede und jeder Delegierte auf sicherem Wege mehrere Zugangscodes, um an den Wahlen teilzunehmen. Diese Codes werden von der Partei generiert, die Zuordnung von Person zu Zulassungscode bei der Partei wird unmittelbar nach dem Versand der Codes gelöscht. Jeder Code ist für einen bestimmten Wahlgang gültig.
Ein Wahlanbieter, der in keiner Verbindung zur Partei steht, erhält die Liste aller Zugangscodes, nicht aber deren Zuordnung zu den Personen. Wenn ein Wahlgang aufgerufen wird, wählt sich der oder die Delegierte mit dem entsprechenden Zugangscode bei dem Wahlanbieter ein und gibt die Stimme ab. In diesem Moment wird eine zufällige Prüfzahl generiert und dem bzw. der Delegierten angezeigt. Im System des Wahlanbieters wird nur die Prüfzahl mit der individuellen Wahlentscheidung gespeichert, nicht jedoch der Zugangscode oder eine sonstige unmittelbare Verknüpfung zur Person.
Nachdem der Wahlgang geschlossen ist, wird eine Liste der Prüfcodes mit den Stimmabgaben öffentlich angezeigt. Nun können die Delegierten, die ihre eigene Prüfzahl kennen, sicherstellen, dass ihre Stimme korrekt gezählt wurde.
Um zu verhindern, dass ein gehacktes System denselben Prüfcode an mehrere Personen vergibt, die gleich abgestimmt haben, und dann weitere fiktive Stimmen erfinden kann, könnte man neben der Prüfzahl noch einen zweiten Sicherheitswert anzeigen, der von einer unabhängigen Stelle vergeben wurde. Denkbar wären bspw. die letzten drei Ziffern der IP-Adresse oder der exakte Zeitpunkt der Stimmabgabe, die dann zusätzlich zum eigentlichen Prüfcode der Überprüfbarkeit der Stimmabgabe dienen.
Auf diese Weise kann jede und jeder Delegierte seine eigene Stimme nachvollziehen und sichergehen, dass sie korrekt im System gespeichert ist. Gleichzeitig ist es aber für keinen Dritten einsehbar, wie Einzelpersonen abgestimmt haben – die Wahl ist somit geheim. So ist das System nicht davon abhängig, dass auf die „Blackbox“ vertraut wird. Manipulationen würden unmittelbar auffallen.

Herausforderungen in diesem System

Die Geheimheit der Wahl ist, wie oben bereits beschrieben, essentiell zum Schutze der Freiheit der Wahl. Nur weil die Stimmabgabe keinem Dritten bekannt ist, kann jede und jeder in der Wahlkabine unabhängig von dem sozialen Druck, dem man sonst vielleicht ausgesetzt ist, abstimmen. Aus diesem Grund wird bei Bundestagswahlen bspw. ein Wahlzettel nicht angenommen, wenn für den Wahlvorstand erkennbar ein Foto von der Stimmabgabe aufgenommen wurde. Dieses Risiko ist aber auch in unserem System trotz individueller Nachvollziehbarkeit gering: Nach der Gesamtveröffentlichung der Prüfcodes mit der jeweiligen Wahlentscheidung kann schließlich auch ein beliebiger anderer Prüfcode als eigener ausgegeben werden, um die tatsächliche individuelle Entscheidung zu kaschieren.
Ein anderes Problem wiegt schwerer: Da jede wählende Person nur ihre eigene Stimme nachvollziehen kann, könnten Personen, der mit dem Ergebnis einer Wahl nicht einverstanden ist, behaupten, dass ihre eigene Stimme falsch gezählt wurde und die Wahl somit kompromittiert sei. Nachvollziehen könnte das niemand. In solchen Fällen müssten wohl Wahlvorstände und Parteischiedsgerichte sich damit auseinandersetzen, wie glaubwürdig das Vorbringen des oder der Einzelnen ist. Wir sehen diesen Nachteil und sind trotzdem der Überzeugung, dass der Mehrwert, der durch eine individuelle Überprüfbarkeit geleistet wird, die Nachteile deutlich überwiegt, die entstehen würden, wenn blind auf eine Blackbox vertraut werden würde.
Höchste Anforderungen sind außerdem auch den Wahlanbieter zu stellen. Das verwendete System sollte von einer öffentlichen Stelle zur Verfügung gestellt werden. Die Infrastruktur für digitale Wahlen sollte also als Teil der öffentlichen Infrastruktur gesehen werden, die ehrenamtliches Engagement, nicht nur in Parteien, sondern auch in den vielen Vereinen in Deutschland, möglich macht. Unabdingbar ist es auch, dass der Quellcode öffentlich einsehbar ist (Open Source) und das System regelmäßig von unabhängigen Stellen geprüft wird (Audits).

Keine gute Lösung, aber die bestmögliche

Auch in Pandemiezeiten sind Stift und Zettel die wichtigsten Instrumente der Demokratie. Sie bleiben die einzigen Werkzeuge, die bei staatlichen Wahlen – oder solchen, die staatliche Wahlen unmittelbar vorbereiten – verwendet werden dürfen. Doch Vereine und Parteien müssen auch funktionsfähig bleiben, wenn die Gesundheit aller durch Abstand geschützt wird. Daher sind unseres Erachtens in bestimmten Szenarien digitale Wahlen möglich. Aber wenn Wahlen digital abgehalten werden müssen und die Öffentlichkeit der Wahl, die Nachvollziehbarkeit für die Wählenden, gegen die perfekte Geheimhaltung steht, sollte die Öffentlichkeit bevorzugt werden. Eine Blackbox, bei der alle Wählenden blind auf das System vertrauen müssen, ist stets abzulehnen. Eine mögliche Wahlmanipulation – schon nur der Glauben daran – beschädigt das gesamte System und wiegt schwerer als alles andere. Das Dilemma zwischen Nachvollziehbarkeit und Geheimhaltung ist kaum gut aufzulösen. Doch von vielen schlechten Lösungen für digitale Wahlen halten wir die, die Manipulationen verhindert, noch für die beste.

Tastende Regulierung konkreter Risiken – D64 Position zum „Weißbuch – Zur Künstlichen Intelligenz“ der Europäischen Kommission

Im ersten Quartal des Jahres 2021 will die Europäische Kommission einen Vorschlag für einen Rechtsakt zur Künstlichen Intelligenz vorlegen. Zur Vorbereitung hat sie im „Weißbuch – Zur Künstlichen Intelligenz“ Vorschläge veröffentlicht, um ein „Ökosystem für Exzellenz“ (Fördermaßnahmen) und ein „Ökosystems für Vertrauen“ (Regulierung) zu schaffen. Zugleich hat sie zu einem breiten Beteiligungsprozess eingeladen. Die D64 Arbeitsgruppe KI hat eine umfangreiche Stellungnahme eingereicht in der sie den Vorstoß der Kommission befürwortet und eine „tastende“ Regulierung fordert.

D64 begrüßt ausdrücklich, die im Weißbuch zum Ausdruck gebrachten Ziele der Kommission, Künstliche Intelligenz durch ein „Ökosystem für Exzellenz“ EU-weit zu fördern sowie durch ein „Ökosystem für Vertrauen“ Rechtssicherheit und Vertrauen zu gewährleisten. Gleichwohl sieht D64 aber auch Bedarf, die vorgelegten Konzepte zu schärfen und zu optimieren.

Die Zustimmung zum Weißbuch wird von zwei Leitgedanken getragen:

  • D64 sieht sich insbesondere den europäischen Grundwerten Freiheit, Gerechtigkeit und Solidarität verpflichtet. Digitalisierung und Technologisierung sind kein Selbstzweck. Aufgabe der Politik, Wirtschaft und Zivilgesellschaft ist es, Künstliche Intelligenz (KI) und andere algorithmische Systeme – wie jede andere Technologie auch – zu einem Mittel zur Stärkung dieser Grundwerte und zur Vergrößerung des gesamtgesellschaftlichen Wohlergehens zu machen. Gemeinnützige technologische Innovationen (sog. social innovations) sind ein wichtiges Mittel um dieses Ziel zu erreichen.
  • Wir begreifen verhältnismäßige Regulierung und Innovationsförderung als Zusammenspiel: Regulierung verhindert gemeinwohlschädliche Anwendungen und schafft so Vertrauen in digitale Technologien. Sie schützt unsere Grundrechte und baut Vorbehalte gegen neue Technologien ab. Damit trägt sie zur verstärkten Nutzung und somit letztlich zur Wohlstandssicherung bei und gewährleistet die europäische Wettbewerbsfähigkeit.

D64 hat weitere Verbesserungsvorschläge zu den Vorschlägen der Kommission:

  • Orientierung am gesellschaftlich Erwünschten anstelle einer Orientierung des Normativen am Faktischen
    Wir sind der Auffassung, dass sich Regulierung nicht auf „eindeutig festgestellte Probleme […] für die es praktikable Lösungen gibt“ (Weißbuch, S. 12), beschränken sollte. Im Unterschied zu physischen Produkten (wie z.B. Chemikalien) besteht beim Einsatz von Algorithmischen Systemen und in besonderer Weise beim Einsatz von Künstlicher Intelligenz die Schwierigkeit, Probleme und Gefahren aufzudecken und nachzuweisen. Insbesondere gesamtgesellschaftliche Auswirkungen lassen sich kaum individuell beziffern. Ungewissheiten bezüglich der Auswirkungen neuer Technologien sind seit jeher kein pauschaler Ausschlussgrund für vorbeugende Risikominimierung (vgl. anstelle vieler: die risikominimierende Regulierung der Gentechnik durch das Gentechnikgesetz von 1990). Zudem dürfen technische Gegebenheiten nicht den normativ geprägten Gesetzgebungsprozess bestimmen: Der Gesetzgeber gibt vor, was Technik darf, nicht umgekehrt.
    Im Zentrum der Regulierung neuer Technologien sollte stets zuerst die Betrachtung des Risikos* ihrer Anwendungen für die Gesellschaft und individuell Betroffene stehen und dann die Definition der gesellschaftlich erwünschten Anforderungen folgen – unabhängig von der Frage wie schwer oder einfach diese technisch zu erreichen sind.
  • Orientierung am konkreten Risiko anstelle einzelner Technologien und Sektoren
    Wir raten dringend davon ab, den Regulierungsrahmen auf den Einsatz von KI in ausgewählten Sektoren zu begrenzen (Weißbuch, S. 19 ff.).
    Ein auf KI beschränkter Ansatz ist bereits im Ausgangspunkt zu eng. Zum einen gibt es zurzeit keine allgemein anerkannte und erschöpfende Definition von KI. Definiert man KI z.B. als Maschinelles Lernen, können algorithmische Entscheidungssysteme auch ohne eine solche KI-Komponente in bestimmten Anwendungsszenarien zu exakt denselben Risiken führen.
    Ein algorithmisches Entscheidungssystem kann in mehreren Sektoren zum Einsatz kommen. Zwar lassen sich unter Umständen Sektoren ausmachen, in denen der Einsatz typischerweise besonders risikogeneigt ist. Diese typisierte Betrachtung darf aber nicht den Blick darauf verstellen, dass algorithmische Entscheidungssysteme auch jenseits dieser Sektoren im Einzelfall zu schwerwiegenden Grundrechtseingriffen führen können. Umgekehrt existieren in jedem Sektor auch gänzlich unriskante Anwendungen.
    Der regulatorischen Anwendungsbereich sollte daher algorithmische Systeme umfassen, die aufgrund ihrer konkreten Verwendung zur Entscheidung über Menschen anhand von Daten zu hohen Risiken für grundrechtlich geschützte Güter führen.
  • „Gestufte Regulierung“ anstelle einer binären Unterteilung in Anwendungen mit hohem Risiko (einerseits) und ohne solches (andererseits)
    Die Kommission möchte in Anwendungen ohne Risiko und Anwendungen mit hohem Risiko unterteilen. Für letztere sollen stets alle Anforderungen (von menschlicher Aufsicht über Transparenz bis hin zu Qualität/Robustheit) gleichzeitig gelten (Weißbuch, S. 22 ff.).
    Wir halten diese binäre Unterteilung für zu undifferenziert.
    Erforderlich ist eine „gestufte Regulierung“, die je nach konkretem Risiko feingranularere Abstufungen vorsieht (siehe Abbildung unten). Je größer das Risiko der Anwendung ist, desto mehr Anforderungen müssen erfüllt werden. Dabei kommen je Stufe immer weitere Anforderungen hinzu. Wenn z.B. ein Algorithmus basierend auf den Ergebnissen des Online-Fragebogens auf Stufe 4 eingeordnet wird, muss dieser auch Anforderungen 2 und 3 erfüllen. Konkret dürfte diese Anwendung dann nur eingesetzt werden, wenn ein Mensch sie kontrolliert (Menschliche Aufsicht) sowie die betroffene Person darüber informiert wird, dass (Transparenz „Ob“) und in welcher Form (Transparenz „Wie“) ein Algorithmus für die Entscheidung zum Einsatz kommt. Mit „gestufter Regulierung“ wird sichergestellt, dass das Risiko einer Anwendung in einem verhältnismäßigen Maß zu ihrer Regulierung steht.
  • „Tastende Regulierung“ anstelle eines regulatorischen Schnellschusses
    „Tastend“ heißt, dass der Gesetzgeber nicht von Anfang an alle Stufen festlegt, sondern zunächst nur die erste Stufe verpflichtend macht. Das heißt, dass Akteure, die algorithmische Entscheidungssysteme** einsetzen, einen einfachen Online-Fragebogen ausfüllen. Um dieses behördliche Wissen sodann in gesamtgesellschaftliches Wissen zu transferieren, sollten die Behörden Jahresberichte sowie die gesammelten statistischen Daten zur Verwendung von algorithmischen Entscheidungssystemen und den dabei entstehenden Risiken veröffentlichen.
    Basierend auf diesen Ergebnissen sollte der Gesetzgeber dann die Anwendungen auswählen, für die weitergehende Anforderungen wie z.B. im Hinblick auf Nicht-Diskriminierung, menschliche Aufsicht, Genauigkeit und Robustheit gelten. Der Gesetzgeber lernt also kontinuierlich hinzu und erhebt Daten für die weitere Regulierung.

Ausblick:

  • Die EU-Kommission wird nun bis Anfang 2021 alle Stellungnahmen konsolidieren und anschließend ein Konzept für einen Rechtsrahmen vorlegen.
  • Da es die Arbeitsgruppe trotz Bemühungen nicht geschafft, das selbstgesetzte Ziel der Geschlechterparität innerhalb der Arbeitsgruppe zu erreichen, ist die vorliegende Stellungnahme als „lebendes Dokument“ zu verstehen und soll als Grundlage für eine weitere öffentliche und vor allem inklusive Diskussion dienen. Ziel ist es, die Positionen aus dieser Stellungnahme und ggf. weitere Positionen zum Thema Künstliche Intelligenz aus unterschiedlichen Perspektiven zu beleuchten, die unsere heterogene Gesellschaft bestmöglich widerspiegeln. Diese Diskussion wird D64 zeitnah anstoßen.

*D64 versteht unter „Risiko” allgemein die Kombination aus der Eintrittswahrscheinlichkeit eines schädigenden Ereignisses und der Schwere des möglichen Schadens. So ähnlich auch die Legaldefinition in beispielsweise § 2 Nr. 23 ProdSG. Konkret sieht D64 mögliche Risiken für den Nicht-Diskriminierungs-Grundsatz (z.B. Job-Bewerbungen, Art. 3 GG), die persönlichen Entfaltungsmöglichkeiten (z.B. Kreditanträge, Art. 2 I GG), die persönliche (z.B. Gesichts- und Gangerkennung, Art. 2 I i.V.m. Art. 1 I GG) sowie räumliche (z.B. Sprachassistenten, Art. 13 GG) Privatsphäre oder die Meinungs- und Versammlungsfreiheit (z.B. Newsfeed-Sortierung, Art. 5 und 8 GG). Ausführlich hierzu in „B.1 Problemstellung“ der Stellungnahme.
**Unter algorithmischen Entscheidungssystemen versteht D64 algorithmische Systeme, die anhand personenbezogener Daten Entscheidungen über Menschen mit potentiellen Auswirkungen auf grundrechtlich geschützte Güter treffen oder solche vorbereiten und die geschäftsmäßig (nicht z.B. lediglich im Hobby oder Studium) eingesetzt werden.

 

Enquete Kommission Künstliche Intelligenz mit D64-Beteiligung beendet

Nach mehr als zwei Jahren hat die Enquete-Kommission Künstliche Intelligenz vergangene Woche ihren Bericht an den Bundestagspräsidenten übergeben. Mit Jan Kuhlen befand sich auch ein Vertreter von D64 unter den 19 Mitgliedern der Enquete Kommission. D64 beschäftigt sich bereits seit knapp fünf Jahren mit dem Thema und hebt dabei fortlaufend die Potentiale der Technologie für unsere Gesellschaft hervor.

2018 hat D64 e.V. das Positionspapier zum Einfluss Künstlicher Intelligenz auf Freiheit, Gerechtigkeit und Solidarität (PDF) veröffentlicht. Darin finden sich einige zentrale Forderungen zur Gestaltung einer digitalen Zukunft, die den Mensch in das Zentrum ihrer Überlegungen stellt. Unter anderem plädiert D64 für klare Richtlinien sowie internationale Transparenz- und Ethikstandards beim Einsatz von KI, denn nur so kann der verantwortungsbewusste Umgang gewährleistet werden.

Heute wird der Bericht im Deutschen Bundestag beraten – ein knapp 800 Seiten dickes Kompendium (PDF) über die Chancen und Risiken Künstlicher Intelligenz. Das Papier entspricht zu großen Teilen einem Konsens aller Fraktionen. Dementsprechend stellen viele Positionierungen einen Interessenausgleich dar, dem das Leitbild menschenzentrierter Künstlicher Intelligenz zugrunde liegen soll. Einige deutlichere Positionierungen sind den Sondervoten zu entnehmen. Hierzu sagt Jan Kuhlen, Koordinator der AG Künstliche Intelligenz von D64:

 „Wir halten die Technologie in unseren Händen. Das Ziel für die Gestaltung des rechtlichen Rahmens muss eine freiere, gerechtere Gesellschaft sein, die wir auf das Wohl der Menschen ausrichten müssen. Das ist möglich und sollte im nächsten Schritt regulatorisch umgesetzt werden. Auf unsere Arbeit in der Enquete-Kommission kann dabei aufgebaut werden.“

Die Frage ist nun, inwiefern die Ergebnisse der Enquete Kommission Eingang in Gesetzgebungsprozesse finden. Dabei ist es wichtig, dass Regulierung und Innovationsförderung im Bereich Künstlicher Intelligenz nicht an den deutschen Staatsgrenzen enden dürfen, sondern auch auf europäischer Ebene gedacht und umgesetzt werden müssen. Aus diesem Grund hat die AG Künstliche Intelligenz von D64 sich auch mit einer Stellungnahme am Prozess zum Weissbuch Künstliche Intelligenz der europäischen Kommission beteiligt.

Auch Lena Stork, Mitglied des D64-Vorstands, begrüßt das Engagement von D64 auf nationaler und europäischer Ebene. Sie begleitet das Thema Künstliche Intelligenz im Verein seit Beginn und sieht die Beteiligung an der Enquete-Kommission als starkes Signal für den Verein: „Schon lange vor Einsetzung der Enquete-Kommission haben wir das Thema Künstliche Intelligenz bei D64 erkannt und in Thesenpapieren und Konferenzen in den politischen Raum gebracht. Ich freue mich, dass das Thema jetzt auch im Parlament mehr Aufmerksamkeit erhält.“

Foto: Reichstagsgebäude von Christian Lue auf Unsplash