Berlin und KI

Wie KI Demokratie stärken kann und welche Maßstäbe es dafür braucht

Wie kann Künstliche Intelligenz den Zugang zur demokratischen Mitwirkung erleichtern? Und wie lässt sich verhindern, dass sie demokratische Debatten verzerrt oder neue Abhängigkeiten schafft? Mit diesen Fragen startete die Reihe „Berlin & KI“: Auf dem Weg zu einer Berliner KI-Strategie. Die Veranstaltung „Democracy Upgrade – Demokratie kann KI“ war die erste Veranstaltung der Reihe. Sie fand in Kooperation mit dem Legal Tech Verband e.V. und dem iRights.Lab statt und wurde von der Landeszentrale für politische Bildung Berlin gefördert.

Felix Ebendorf vom Legal Tech Verband, Dr. Nikolai Horn vom iRights.Lab, Dr. Vivien Benert von Agora Digitale Transformation und Dr. Maren Jasper-Winter, Mitglied im Vorstand der Friedrich-Naumann-Stiftung für die Freiheit und Schirmherrin der Reihe, sprachen über Chancen und politische Verantwortung. Einig waren sie sich: KI ist weder automatisch demokratisch noch undemokratisch. Entscheidend ist, wofür und wie sie eingesetzt wird.

Eine „0. Instanz“ für mehr Transparenz

Felix Ebendorf nahm in seiner Begrüßung den Rechtsstaat als Säule der Demokratie in den Fokus. Er lenkte den Blick auf die „0. Instanz“: eine digitale Ebene, die Rechtsprechung zugänglicher macht, bevor ein Verfahren überhaupt beginnt. Die Idee hinter Open Legal Data: Gerichtsentscheidungen anonymisiert aufzubereiten und verfügbar zu machen. Legal-Tech-Anwendungen könnten solche Daten nutzen. Das wäre nicht nur ein Innovationsschritt, sondern auch ein Beitrag zu mehr Transparenz.

Entscheidend sei eine einfache Frage: Hilft die Anwendung Bürgerinnen und Bürgern, ihr Recht schneller und besser wahrzunehmen? Wenn KI Routinearbeiten im Hintergrund erleichtert und Gerichte handlungsfähig hält, könne sie zum Rechtsstaat beitragen. Zuversicht bedeute dabei nicht, Risiken zu übersehen, sondern Gestaltungsmöglichkeiten ernst zu nehmen.

Zwischen Pandora und Hermes

Dr. Nikolai Horn machte deutlich, dass schon die Begriffe in der Debatte oft unscharf bleiben. Was meinen wir, wenn wir von „Demokratie“ sprechen? Und was genau ist „KI“? Forschung untersuche zudem noch zu selten, wie KI die Demokratie selbst verändert. Horn griff das Bild von KI als einem „magischen Spiegel der Gesellschaft“: Sie zeigt, was in den Daten steckt und prägt zugleich mit, was sichtbar wird.

In der öffentlichen Debatte stehen sich häufig düstere und optimistische Erzählungen gegenüber. Horn sprach von einem Pandora- und einem Hermes-Narrativ. Dazwischen plädierte er für ein Prometheus-Narrativ: einen ausgewogenen Blick, der Risiken und Chancen gleichermaßen berücksichtigt.

KI kann Beteiligung erleichtern, Recherche unterstützen und dabei helfen, Desinformation zu erkennen. Digitale Beteiligungsplattformen können Diskussionen strukturieren und konstruktive Beiträge sichtbarer machen. Horn verwies auf Ansätze wie Polis, bei denen nicht einfach die lauteste Stimme zählt, sondern gemeinsame Linien und produktive Argumente hervortreten sollen. Doch dieselben Systeme können öffentliche Debatten auch verzerren. KI kann den Eindruck erzeugen, eine bestimmte Meinung sei gesellschaftlicher Konsens. Algorithmen können zudem Stimmen weiter ausblenden, die ohnehin wenig Gehör finden. Horn warnte deshalb davor, KI als neutrale oder eigenständige Kraft zu behandeln. Sie sei ein Modell – und damit das Ergebnis menschlicher Entscheidungen über Daten, Ziele und Gestaltung.

Chancen für Verwaltung, Bildung und Berlin

Dr. Maren Jasper-Winter betonte den Wert von Anwendungen, die staatliches Handeln transparenter machen. Eigene Erfahrungen aus dem Abgeordnetenhaus hätten ihr gezeigt, wie schwierig es sein kann, Informationen und Zuständigkeiten zu finden. KI könne dabei helfen, Wissen besser zugänglich zu machen, Verfahren zu vereinfachen und die Verwaltung zu entlasten. Gerade dort, wo Personal knapp ist, könnten Routineaufgaben effizienter erledigt werden. So etwa Parla, das Berliner Parlamentsdokumente per KI durchsuchbar macht.

Auch in der Bildung sieht Jasper-Winter große Chancen. Lernanwendungen können erkennen, wo Schülerinnen und Schüler Unterstützung brauchen, und Inhalte auf unterschiedliche Weise erklären. Zusammenfassungen können den Einstieg in komplexe Themen erleichtern und Interesse wecken. Solche Anwendungen müssten jedoch mit Vorsicht genutzt werden. Schulen und Lehrkräfte bräuchten Orientierung: Was können die Werkzeuge leisten? Wie lassen sie sich sinnvoll einsetzen? Und wer trägt die Verantwortung?

Für Berlin sieht Jasper-Winter die Möglichkeit, Forschung, Start-ups und etablierte Unternehmen enger zu verbinden. Die Stadt verfüge über starke Forschung und innovative Unternehmen. Dafür brauche es klare Zuständigkeiten, schnellere Verwaltungsprozesse und bessere Bedingungen für Gründungen. Datenschutz sei unabdingbar, zugleich müsse geprüft werden, welche Regeln notwendig sind und wo sie Innovation unnötig erschweren.

Auch digitale Souveränität war ein Thema. Europa dürfe sich bei Infrastruktur und Daten nicht dauerhaft von Anbietern außerhalb Europas abhängig machen. Dafür brauche es gemeinsame europäische Lösungen und mehr Unternehmen, die hier gegründet und entwickelt werden. Jasper-Winter wünschte sich zudem mehr Frauen in der europäischen KI-Wirtschaft. Denn wer die Systeme entwickelt und mit welchen Daten sie trainiert werden, prägt ihre Ergebnisse.

Wer bestimmt, welche Quellen zählen?

Dr. Vivien Benert stellte die Frage, auf welcher Grundlage KI-Systeme Informationen auswählen. Über 80 Prozent der Deutschen nutzen KI zur Informationssuche und dies auch zu politischen Themen und im Wahlkampf. In einer Studie untersuchten Benert und ihre Co-Autorin, auf welche Quellen sich KI-Systeme in ihren Antworten stützen. Die Quellen, die Chatbots nennen, unterscheiden sich je nach System und Prompt. Für Nutzerinnen und Nutzer ist oft nicht klar, nach welchen Kriterien die Auswahl zustande kommt. Auch Kooperationen können eine Rolle spielen, ohne dass sie unmittelbar erkennbar sind.

Wer verlässliche Antworten erwartet, müsse deshalb wissen, worauf sie beruhen. Geht es um wissenschaftliche Erkenntnisse, journalistische Quellen oder eine andere Perspektive? Benert sprach sich für nachvollziehbare Grundlagen und menschliche Kontrolle aus. Zugleich brauche es einen realistischen Blick auf die Fähigkeiten von KI. Ein Beispiel aus der Diskussion war ein Medienbericht, der ein KI-System anhand von Ja-Nein-Fragen aus dem Wahl-O-Mat nach seiner politischen Präferenz fragte. Für Benert greift ein solcher Test zu kurz: Er könne wissenschaftliche Einordnungen ausblenden und ein politisches Narrativ erzeugen, das die Funktionsweise des Systems nicht angemessen abbildet.

Agora plant derzeit ein weiteres Projekt dazu, wie die Quellenauswahl von Chatbots die Meinungsbildung beeinflusst. Benerts Wunsch: Alle sollten sich mit KI auseinandersetzen, ohne Angst, aber mit kritischem Blick.

Menschen in der Verantwortung

In der Diskussion ging es auch um die Frage, welche Rolle Bürgerinnen und Bürger in einer zunehmend digitalen Welt behalten. Horn stellte die individuelle Souveränität in den Mittelpunkt: Werden Menschen befähigt, eigene Entscheidungen zu treffen oder werden sie lediglich zu einer vermeintlich richtigen Entscheidung gelenkt? Dazu gehöre auch, über Aufmerksamkeit, freie Meinungsbildung und kognitive Selbstbestimmung nachzudenken.

Chatbots seien nicht speziell dafür entwickelt worden als neutrale Begleitung demokratischer Meinungsbildung zu dienen. Horn plädierte deshalb für Werkzeuge, die zur jeweiligen Aufgabe passen, offen entwickelt werden und unterschiedliche Perspektiven berücksichtigen. Zugleich brauche es nicht nur einen „Human in the Loop“, sondern mehrere Menschen, die Entwicklung und Einsatz begleiten. Klare Leitlinien müssten in der Praxis verständlich und nachvollziehbar umgesetzt werden.

Die Zukunft von KI & Demokratie in Berlin?

Zum Schluss lenkte eine Frage aus dem Publikum den Blick auf die Daten: Wo sollen sie liegen und wie kann Europa eine eigene Infrastruktur aufbauen? Jasper-Winter sprach sich für europäische Cloud- und Datenlösungen aus. Zugleich müsse Europa wirtschaftspolitisch gemeinsam handeln. Wenn Regeln Unternehmen dauerhaft ins Ausland drängten, werde digitale Unabhängigkeit schwerer zu erreichen.

Die Veranstaltung schloss mit einem Gedanken, welcher nochmal auf die Existenzängste einging: KI ist keine Naturgewalt. Sie ist ein menschengemachtes System, dessen Einsatz gestaltet werden kann. Dafür braucht es politische Verantwortung, verständliche Regeln und eine breite Beteiligung. Zuversicht ist keine Softwarefunktion. Sie entsteht, wenn wir Chancen nutzen, Risiken offen benennen und die Entscheidungen nicht an die Technologie abgeben.

Die Veranstaltungsreihe „Berlin & KI – Auf dem Weg zu einer Berliner KI-Strategie“ bringt Expertinnen und Experten aus Wissenschaft, Wirtschaft, Politik, Verwaltung und Zivilgesellschaft zusammen, um gemeinsam Leitlinien für eine zukunftsorientierte Berliner KI Politik zu entwickeln.