Künstliche Intelligenz &
die demokratische Gesellschaft

Ein Webspecial der Plattform Lernende Systeme

Meinungsbildung

Wie wirkt sich Künstliche Intelligenz auf gesellschaftliche Entscheidungs­prozesse aus?

mehr

Wahlen

Wie beeinflusst Künstliche Intelligenz demokratische Wahlen?

mehr

Künstliche Intelligenz (KI) treibt die Digitalisierung voran: Sie verändert unsere Arbeitswelt, unsere Kommunikation, unsere gesellschaftlichen Prozesse. In den vergangenen Jahren hat sich die Technologie, deren Ursprünge in die 1960er Jahre zurück reichen, mit großer Dynamik weiter entwickelt. So genannte generative KI- Systeme wie ChatGPT machen es einfach wie nie, Texte, Bilder oder Videos nach individuellen Vorgaben zu erzeugen. Das eröffnet enorme Möglichkeiten: Viele Prozesse können effektiver gestaltet werden, sowohl in Unternehmen als auch im Kreativ- und Verwaltungsbereich. Auch für die Medizin oder Wissenschaft kann generative KI als positiver Verstärker wirken. Gepaart mit dem Willen, Meinungen zu beeinflussen sowie den Verbreitungsmöglichkeiten der sozialen Medien können generative KI-Systeme aber auch zu einem mächtigen Werkzeug für Manipulation und Desinformation werden. Nur wenige Reglementierungen begrenzen dies bisher.

Im Superwahljahr 2024 ist das besonders brisant: Vier Milliarden Menschen leben in Ländern, in denen in diesem Jahr Wahlen stattfinden – rund die Hälfte der Weltbevölkerung. In rund 30 Ländern wird ein neuer Präsident, bzw. eine neue Präsidentin bestimmt, in rund 20 Ländern die Zusammensetzung des Parlaments. Viele politische Weichen werden also neu gestellt, Machtverhältnisse und Staatsgelder neu verteilt. Das Volk tritt als Inhaber der Staatsgewalt besonders deutlich hervor.

Seit jeher versuchen Akteure aus Politik, Wirtschaft und Gesellschaft, die Bürgerinnen und Bürger für ihre Interessen und Ziele zu gewinnen oder gar zu manipulieren. Ermöglichen nun KI-Systeme die Einflussnahme auf Wahlen in ganz neuen Dimensionen? Wie verändern sich Prozesse der Meinungsbildung durch KI und wie geht der Journalismus mit dieser Transformation um? Welche Einsatzmöglichkeiten ergeben sich in Verwaltung und Justiz und wie verändert das die Demokratie? Klar ist: Wie einst das Internet wird KI all diese Bereiche in den kommenden Jahren gravierend verändern – im Positiven wie im Negativen. Die Herausforderungen sind groß und müssen von der Gesellschaft gestaltet werden.

Um Herausforderungen für demokratische Staaten ging es auch John F. Kennedy, als er im Juni 1963 Deutschland besuchte und in der Frankfurter Paulskirche eine Rede hielt. Der damalige US-Präsident sagte: „Heute gibt es keine ausschließlich deutschen Probleme oder amerikanischen Probleme oder europäischen Probleme mehr. Wir haben es mit Weltproblemen zu tun – und unsere beiden Länder und Kontinente sind hinsichtlich der Aufgaben des Friedens wie des Krieges unauflöslich miteinander verbunden.“ Welche Herausforderungen würde John F. Kennedy im KI-Zeitalter betonen? Forschende der TU Darmstadt haben mit generativer KI eine Antwort versucht.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Das System Security Lab der TU Darmstadt testet die Möglichkeiten frei zugänglicher KI-Tools für Deepfakes mit Bildungsanspruch.

Was macht eine Demokratie aus?

Der Begriff „Demokratie“ bedeutet „Herrschaft des Volkes“ und kommt aus dem Griechischen. Eine Demokratie gründet auf den Werten der Freiheit und Gleichheit. Sie ist immer wieder neuen Aushandlungsprozessen unterworfen und achtet bestimmte Prinzipien, die sich aus der Verfassung des Staates – in Deutschland aus dem Grundgesetz – ableiten.

Zu den Prinzipien unseres demokratischen Staates gehören die Freiheits- und Gleichheitsrechte, die Gewaltenteilung, die Rechtsstaatlichkeit sowie allgemeine, freie und geheime Wahlen. Grundlage hierfür ist der Artikel 1 des Grundgesetzes:

  1. „Die Würde des Menschen ist unantastbar. Sie zu achten und zu schützen ist Verpflichtung aller staatlichen Gewalt.“
  2. Das Deutsche Volk bekennt sich darum zu unverletzlichen und unveräußerlichen Menschenrechten als Grundlage jeder menschlichen Gemeinschaft, des Friedens und der Gerechtigkeit in der Welt.
  3. Die nachfolgenden Grundrechte binden Gesetzgebung, vollziehende Gewalt und Rechtsprechung als unmittelbar geltendes Recht

Weitere Informationen zu Demokratie und den Grundgesetzen gibt es hier:
Demokratie | bpb.de
Was zeichnet eine Demokratie aus? | Überblick der LpB BW (lpb-bw.de)
Die Würde des Menschen ist unantastbar | einfach POLITIK | bpb.de

BILD BITTE AUSTAUSCHEN: ZU KLEIN

Einer der eindrücklichsten Momente in der Geschichte der deutschen Demokratie: Rund eine Million Menschen feiern vor dem Berliner Reichstag in der Nacht zum 3. Oktober 1990 die wiedergewonnene Einheit. Mit dem Datum 3. Oktober 1990 sind die Deutschen 45 Jahre nach dem Ende des 2. Weltkrieges wieder in einem souveränen Staat vereint. (Foto: picture alliance/Associated Press)

Gegründet wurde die demokratische Bundesrepublik Deutschland am 23. Mai 1949. Seitdem hat die Gesellschaft viele prägende Ereignisse und Entwicklungen durchlaufen. Einige davon dokumentiert diese Bilderstrecke.

Eminum ruft vermeintlich zur Wahl der südafrikanischen Partei EFF (Economic Freedom Fighters) auf. Verbreitet wurde das Video im Mai 2024 auf tiktok und Instagram.
Eines von mehreren Videos, in denen Donald Trump Wahlempfehlungen für eine pakistanische Partei ausspricht. Verbreitet in Pakistan im Februar 2024 auf X. Quelle: Elections 2024: Tracking AI use in global elections - Rest of World

Was ist (generative) KI?

Der Begriff Künstliche Intelligenz beschreibt nicht eine, sondern eine Vielzahl von Techniken. Diesen ist gemein, dass sie Systeme in die Lage versetzen, abstrakt beschriebene Aufgaben eigenständig zu erledigen. Anders als bei klassischen IT-Systemen muss dabei nicht jeder Schritt vom Menschen programmiert werden. Eine grundlegende Methode der KI ist das maschinelle Lernen. Zum Einsatz kommen dabei spezielle Algorithmen, die in Beispieldaten Muster und Gesetzmäßigkeiten erkennen und diese auf neue Daten anwenden.

Glossar

Maschinelles Lernen

Oft werden die Begriffe Künstliche Intelligenz nund Algorithmen fälschlicherweise gleichgesetzt. Algorithmen beschreiben einen definierten Rechenweg, der zu einem erwartbaren Ergebnis führt. Bei gleichen Eingaben bleibt auch das Ergebnis immer gleich. Auch KI basiert auf Algorithmen, diese lernen aber laufend dazu – sei es in einem vom Menschen gesteuerten Training oder selbstständig. Grundlage für diesen Lernprozess ist eine große Menge an Daten, die als Wissensbasis dienen. Mit diesen können KI-gestützte Systeme in Sekundenschnelle Ergebnisse liefern. Wie sie zu diesen Ergebnissen kommen, lässt sich für den Menschen oft nicht nachvollziehen – das KI-System bleibt eine Black Box.

Eine allgemein anerkannte Definition von Künstlicher Intelligenz gibt es übrigens nicht – nicht zuletzt, weil es schwierig zu bestimmen ist, was als „intelligent“ gilt.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Die Entwicklung der KI seit ihren Anfängen skizziert dieser Erklärfilm der Plattform Lernende Systeme (PLS).

Generative KI markiert seit kurzem einen neuen Meilenstein der Künstlichen Intelligenz. Vorreiter waren das Ende 2022 veröffentlichte Sprachmodell ChatGPT und der Text-zu-Bild-Generator stable diffusion. Generative KI- Systeme erstellen mithilfe von maschinellem Lernen aus vorhandenen Daten auf der Basis von Wahrscheinlichkeiten neue Inhalte – seien es Texte, Bilder, Videos oder Programmcode. Grundlage dieser Technologie sind vorab trainierte Modelle, die als Basismodelle fungieren. Sie benötigen riesige Datenmengen, große Rechenleistung und lernende Algorithmen.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Wie generative KI funktioniert, zeigt dieser Erklärfilm der Plattform Lernende Systeme.

Achten KI-Systeme demokratische Prinzipien?

Demokratische Grundsätze wie Gleichberechtigung, Teilhabe und letztlich die Menschenwürde müssen auch in einer technologisierten Gesellschaft gelebt werden können. Sie müssen daher sowohl bei der Entwicklung von Technologie als auch bei ihrem Einsatz mitgedacht werden. Für KI-Systeme gilt das umso mehr: Als Technologie, die die Gesellschaft in allen Bereichen durchdringen wird, sollte sie demokratische und ethische Prinzipien erfüllen. KI-Systeme dürfen nicht dazu führen, dass Menschen, die nicht technikversiert sind oder keinen Zugang zu (dieser) Technologie haben, nur noch eingeschränkt am öffentlichen und gesellschaftlichen Leben teilnehmen können. Das bedeutet zum einen, dass sie intuitiv nutzbar sein müssen. Zum anderen sollten die auf der Menschenwürde aufbauenden Prinzipien der Grundrechte ein Fundament für die Entwicklung und Anwendung von KI-Systemen sein. Das bringt große Herausforderungen mit sich, denn Technologie kann nur so objektiv, fair und gerecht sein, wie es der Mensch in die Gestaltung und Anwendung der Technologie einbringt.
Hinzu kommt:

Unsere Vorstellungen davon, was gerecht und fair ist, sind keine empirisch messbaren Größen und zudem oft subjektiv geprägt.

Es sind normative Größen, die als Lernziel von KI- Systemen nur schwer einzubauen sind. Zwar existieren Ansätze, mit denen versucht wird, ethische Prinzipien im Designprozess von Software zu integrieren. So formuliert die Bundesregierung in ihrer KI- Strategie den Anspruch „ethics by, in and for design“. Demnach sind im gesamten Prozess der Entwicklung von KI ethische Prinzipien mitzudenken und zu integrieren. Die größere Wirkung hätte aber ein von demokratischen und ethischen Werten geprägter Einsatz von KI-Systemen. Die Plattform Lernende Systeme hat einen Mindeststandard an Werten entwickelt, die KI-Systeme abbilden sollten:

  1. Beim Einsatz von KI-Systemen muss Schaden für Einzelpersonen, Gemeinschaften oder die Umwelt vermieden werden – insbesondere in Bezug auf Gesundheit und Leben – oder in gerechtfertigter Abwägung gegen einen größeren Nutzen so klein wie möglich gehalten werden.
  2. KI-Systeme müssen rechtskonform sein, ebenso ihre Entwicklung und Nutzung. Das gilt für alle jeweils bestehenden Gesetze.
  3. KI-Systeme müssen technisch robust sein – also zuverlässig funktionieren und zu keinem Zeitpunkt ein unannehmbares Sicherheitsrisiko darstellen.
BILD BITTE AUSTAUSCHEN: ZU KLEIN

Werte für die Integration von ethischen Prinzipien in KI-Systemen. Quelle Grafik: Ethik-Briefing der Plattform Lernende Systeme.

  • Ethische Prinzipien im Design und in den Einsatzszenarien von KI mitzudenken, ist allein jedoch nicht ausreichend. Wichtig sind auch Mechanismen, die es Nutzern möglich machen, Ergbnisse von KI nachzuvollziehen und gegebenenfalls zu korrigieren. Das ist schwierig umzusetzen. Algorithmen sind oft so komplex und basieren auf so vielen Daten, dass Erklärbarkeit und Nachvollziehbarkeit von KI- Algorithmen für technische Laien zwischen zwei Polen balancieren muss: entweder verständlich zu sein, aber keinen wirklichen Einblick in die KI zu geben, oder aber einen tiefen technischen Einblick zu geben, dabei aber für technische Laien nicht mehr verständlich zu sein. Hinzu kommt, dass Algorithmen als Firmengeheimnis gelten und diese sind wichtig, um wettbewerbsfähig und innovativ zu bleiben.
  • Mehr Infos und Empfehlungen zur Umsetzung gibt es hier: „Künstliche Intelligenz und Diskriminerung“ und „Ethik-Briefing“ der Plattform Lernende Systeme.
  • KI-Systeme arbeiten auf Grundlage von bestehenden Daten. Sie bergen somit das Potenzial, vorhandene Diskriminierungen zu übernehmen oder sogar zu verschärfen. (mehr) Für das Training von KI-Systemen sind Unmengen von Daten nötig. Diese Datensätze bilden Ereignisse aus der Vergangenheit ab, auf deren Basis Prognosen erstellt werden können. Diese Daten können nicht von sich aus neutral sein. Sie enthalten vielmehr gesellschaftliche Verhältnisse und Strukturen und können somit auch eine verzerrte Realität auf Basis von bestehenden Diskriminierungen abbilden. Diskriminierung meint eine ungerechtfertigte Ungleichbehandlung aufgrund von Merkmalen wie Alter, Geschlecht oder Hautfarbe. Auch eine gleiche Behandlung von Ungleichen kann eine Form von Diskriminierung sein, weil so beispielsweise besondere Bedarfe bestimmter Gruppen, wie Menschen mit Behinderung, nicht mehr abgebildet werden können. Beispiele für KI-Systeme, die Verzerrungen reproduziert haben, die in ihren Trainingsdaten enthalten waren, gibt es einige:
    • In einem großen Unternehmen haben Algorithmen Bewerbungsunterlagen für die Personalabteilung vorselektiert, unter dem Kriterium der Eignung für eine ausgeschriebene Stelle. In manchen Fällen wurden weibliche Personen grundsätzlich schlechter bewertet als ähnlich qualifizierte männliche Personen. Ursächlich dafür waren die Trainingsdaten der Systeme, in denen erfolgreiche Bewerbungen eingestellter Mitarbeiterinnen und Mitarbeiter ausgewertet wurden. Da diese überwiegend männlich waren, betrachtete das KI-System die Eigenschaft „männlich“ daraufhin als positiv und bewertete Bewerbungen von Frauen in Folge schlechter.
    • In China werden die immensen Datenströme, die durch die Nutzung mobiler Endgeräte entstehen, für die Analyse des Verhaltens der Bürgerinnen und Bürger genutzt. In einigen Städten werden dazu sogenannte Social-Scoring-Verfahren eingesetzt, um diese Daten automatisiert zu sammeln, auszuwerten und daraus Punktwerte zu ermitteln. Diese beschreiben, ob jemand „gut“, im Sinne von ehrlich und zuverlässig ist, aber auch im Sinne von „linientreu“. Eine hohe Punktzahl führt zum Beispiel zu finanziellen Erleichterungen, Bevorzugung bei Wohnungsvergaben und höherer Kreditwürdigkeit. Einige Lokalregierungen beziehen aber die Ausübung von Religion, politisches und journalistisches regime-kritisches Engagement in das System mit ein und vergeben dafür Minuspunkte.
    • Bilderkennungssysteme, die optische Sensoren beispielsweise an Seifenspendern zugrunde liegen, wurden mit Bildmaterial von Händen trainiert, das überwiegend weiße Menschen repräsentierte. Hände von Menschen mit dunkler Hautfarbe wurden so konsquent schlechter erkannt (und keine Seife ausgegeben).

Quellen für Diskriminierung und Verzerrung durch KI-Systeme sind also Input- und Trainingsdaten, die auch zu problematischem Output führen. Große Herausforderungen liegen deshalb zum einen in der Schwierigkeit, neutrale Datensätze ohne Verzerrungen aufzubauen, zu pflegen und zu moderieren. Zum anderen ist es eigentlich eine Stärke von KI-Systemen, Muster in Daten zu finden, die Menschen nicht sehen. So ist es nicht ausgeschlossen, dass Datensätze mögliche Verzerrungen enthalten, die auf Diskriminierungsmerkmale verweisen, selbst wenn die Datensätze von allen offensichtlichen Diskriminierungsmerkmalen bereinigt wurden.

Mehr Infos und Empfehlungen zur Umsetzung gibt es hier: „Künstliche Intelligenz und Diskriminerung“ und „Ethik- Briefing“ der Plattform Lernende Systeme.

Wer reglementiert die KI?

Auf europäischer Ebene schafft der Artificial Intelligence Act, kurz AI Act, erstmals einen einheitlichen, verbindlichen Rechtsrahmen für einen vertrauenswürdigen Einsatz von KI in der EU. Die Verordnung ist weltweit das erste transnationale KI-Regelwerk ihrer Art und tritt im August 2024 in Kraft. Wie die Verordnung in verschiedenen Anwendungsfeldern konkret umzusetzen ist, werden Normen regeln, die aber erst noch ausgearbeitet werden müssen. Etwa zwei Jahre nach Inkrafttreten wird der AI Act vollständig anwendbar sein.

BILD FEHLT NOCH

Die Regelungen des AI Act sehen vor, KI-Systeme entsprechend ihres Risikopotenzials zu regulieren. Dafür unterscheidet der AI Act vier Risikogruppen, für die unterschiedliche Vorschriften gelten. Grafik: Plattform Lernende Systeme

  • KI-Systeme mit unannehmbaren Risiken sind in der EU verboten. Dazu zählen die biometrische Echtzeitüberwachung im öffentlichen Raum und Social-Score-Verfahren, bei denen soziales Verhalten anhand von Daten bewertet und ausgewertet wird.
  • KI-Systeme mit hohen Risiken müssen bestimmte Sicherheitsvorschriften erfüllen, bevor sie auf den EU- Markt gebracht werden.
  • KI-Systeme mit geringem Risiko müssen eine „Tranparenz- und Informationspflicht“ erfüllen gegenüber natürlichen Personen, die mit ihnen interagieren. Darunter fallen Chatbots, Assistenzsysteme und Deepfakes.
  • KI-Systeme mit minimalem Risiko sind unreguliert. Unternehmen, die solche Systeme einsetzen, wird nahegelegt, sich einen freiwilligen Verhaltenskodex aufzuerlegen und ihre Mitarbeitenden entsprechend zu schulen.

Das Thema der potentiellen Diskriminierung beim Einsatz von Künstlicher Intelligenz wird sowohl in der KI- Strategie der Bundesregierung als auch in der von der Bundesregierung eingerichteten Datenethikkommission behandelt. Auf europäischer Ebene hat die High Level Expert Group on Artificial Intelligence der EU-Kommission die „Ethik-Leitlinien für eine vertrauenswürdige KI“ veröffentlicht.

Akkordeon 1

Lorem ipsum dolor sit amet, consetetur sadipscing elitr, sed diam nonumy eirmod tempor invidunt ut labore et dolore magna aliquyam erat, sed diam voluptua.

Akkordeon 2

Lorem ipsum dolor sit amet, consetetur sadipscing elitr, sed diam nonumy eirmod tempor invidunt ut labore et dolore magna aliquyam erat, sed diam voluptua.