Generative KI und ihre Folgen für die Gesellschaft: Perspektiven auf eine aktive Gestaltung der Zukunft

Generative Künstliche Intelligenz (KI) verändert unsere Gesellschaft in rasantem Tempo. Anwendungen wie ChatGPT, Gemini oder DeepSeek erstellen realistisch wirkende Bilder, komponieren Musik, führen menschenähnliche Gespräche und übersetzen nahezu in Echtzeit. Damit prägt generative KI nicht nur, wie wir arbeiten, lernen und kommunizieren, sondern zunehmend auch, wie wir als Gesellschaft Wissen, Kreativität und Verantwortung verstehen. Ihr Einsatz wirft aber zugleich gesellschaftliche und ethische Fragen auf: Wie bleibt menschliche Kompetenz im Mittelpunkt? Wie können wir Authentizität und Vertrauen sichern, wenn KI-Inhalte täuschend echt wirken? Und welche Regeln sind nötig, um Innovation mit ethischen Grundwerten, Nachhaltigkeit und sozialer Gerechtigkeit zu verbinden? Die neue Broschüre der Plattform Lernende Systeme zeigt, wie ein werteorientierter Umgang mit generativer KI gelingen kann und gibt Orientierung, Handlungsperspektiven und Denkanstöße.

Die von den Herstellern mit generativen KI verbundenen Versprechungen scheinen nahezu allumfassend: Von der Steigerung der Produktivität, der Optimierung von Lieferketten und Fortschritten im Medizinbereich über die Lösung globaler Probleme wie dem Klimawandel, bis hin zu Erleichterungen im alltäglichen Leben. Generative KI nutzt dabei große Sprachmodelle, die Wahrscheinlichkeitsverteilungen über mögliche Ausgaben berechnen und daraus selbständig neue Ergebnisse generieren. In den letzten Jahren hat diese Entwicklung große Fortschritte gemacht. Doch der Einsatz von generativer KI geht auch einher mit Diskussion zu potenziellen Gefahren, wie etwa Cyber-Kriegsführung, Fake News oder einem möglichen Verlust der Kontrolle über autonome KI-Systeme – all das auch potenzielle Gefahren für demokratische Gesellschaften.

Eine zentrale Richtungsentscheidung bei der Entwicklung und Gestaltung von generativer KI besteht deshalb in der Frage, wie Sicherheit und Fortschritt gelingen können und wie generative KI inklusiv gestaltet werden kann, so dass alle gesellschaftlichen Akteure einbezogen werden. Zudem müssen die sich abzeichnenden zentralen Spannungsfelder frühzeitig identifiziert werden. Um eine wertorientierte Entwicklung zu unterstützen, müssen die teils widerstreitenden Interessen und Erwartungen gesellschaftlich verhandelt und bewertet werden. Damit generative KI verantwortungsvoll genutzt werden kann, braucht es klare Regeln, ethische Leitplanken, transparente Nutzung und ein Bewusstsein für soziale Folgen. Der Blick auf mögliche Zukunftsszenarien und Spannungsfelder hilft, frühzeitig zu gestalten, statt nur zu reagieren.

Aktive Gestaltung und Partizipation sind unerlässlich

„Menschliche Expertise und die Fähigkeit zur kritischen Beurteilung und Korrektur von generierten Inhalten ist unverzichtbar. Wir müssen darauf achten, dass generative KI und menschliche Expertise sinnvoll in einem Co-Creations-Prozess zusammenspielen, um die Zuverlässigkeit und Qualität von generierten Inhalten sicherzustellen“, betont Prof. Dr. Ute Schmid, Otto-Friedrich-Universität Bamberg und Mitglied der Plattform Lernende Systeme.

Für Unternehmen wie die Gesellschaft bedeutet dies, nicht nur rechtliche Vorgaben zu beachten, sondern sich auch aktiv mit der Frage auseinanderzusetzen, welche Ziele und Grenzen bei der Entwicklung und für den Einsatz von generativer KI gesetzt werden sollten. Seitens der Forschung sind Tools und Methoden zu entwickeln, die generative KI hinsichtlich dieser Kriterien und Prüfungsansätze bewerten und zertifizieren können. Hier werden Ansätze wie werteorientierte Technikgestaltung Ethics by Design mit technischen Prüfverfahren kombiniert.

Um Desinformation zu minimieren, gilt es Inhalte stets kritisch zu hinterfragen, Quellen auf Vertrauenswürdigkeit zu überprüfen und im Zweifelsfall fragwürdige Inhalte nicht weiterzuleiten oder zu teilen. Konkret bedeutet das: Für eine erfolgreiche Gestaltung der Zukunft mit generativer KI muss eine Ausgewogenheit gefunden werden, zwischen dem, was die Nutzenden leisten müssen – Entwicklung von Daten- und KI-Kompetenz – und dem, wie die Technologie entwickelt und konzipiert werden muss – nach Prinzipien wie beispielsweise Erklärbarkeit und Transparenz.  

Während generative KI als Allzweck-Technologie viele Prozesse im täglichen sowie beruflichen Leben vereinfachen und neue kreative Wege eröffnen kann, gilt es gleichzeitig, den verantwortungsvollen und sicheren Umgang mit dieser Technologie zu fördern. Eine verantwortungsvolle Entwicklung generativer KI erfordert ein ausgewogenes Zusammenspiel von Sicherheit, Fortschritt und Partizipation. Menschzentrierte Anwendungen, Forschung zu sicherer und transparenter KI sowie demokratische Entscheidungsprozesse können dazu beitragen, Innovation im Sinne des Gemeinwohls zu gestalten.

Über die Broschüre

Die Broschüre „Zukunft gestalten: Generative KI und ihre gesellschaftlichen Folgen“ steht zum kostenfreien Download zur Verfügung.