Auf einen Blick: Whitepaper „Generative KI verantwortungsvoll einsetzen“

Generative KI wird zunehmend von Unternehmen verwendet, die sie vor allem nutzen, um effizienter zu werden, neue Anwendungsfelder zu erschließen und Arbeits- wie Produktionsabläufe zu optimieren. Dadurch entstehen neue Anforderungen an IT-Sicherheit, Datenschutz und Compliance. Der Einsatz von generativer KI muss an unternehmensspezifische Werte und Strukturen angepasst werden und erfordert klare Leitlinien, geeignete technische Schutzmaßnahmen und entsprechende Kompetenzen in den Unternehmen. Das Whitepaper analysiert anhand von SWOT-Analysen in den Bereichen Wissensmanagement, industrielle Anwendungen und Produktion sowie Softwareentwicklung systematisch Chancen und Risiken generativer KI und bietet Unternehmen eine fundierte Handreichung, um Potenziale gezielt zu nutzen und Risiken frühzeitig zu adressieren.

Zentrale Ergebnisse der Publikation

Generative KI eröffnet Unternehmen neue Potenziale für Effizienz, Innovation und Prozessoptimierung.
Der Einsatz generativer KI verändert Anforderungen an IT-Sicherheit, Datenschutz, Compliance und Governance.
Unternehmen müssen frühzeitig entscheiden, ob sie generative KI vor allem anwenden oder eigene Lösungen anbieten wollen.
Small Language Models bieten Chancen für effiziente, anpassbare und datensensible KI-Anwendungen.
Wissensmanagement, industrielle Anwendungen und Softwareentwicklung zählen zu zentralen Einsatzfeldern generativer KI.
Halluzinationen, Sicherheitsrisiken, Datenschutzfragen und Abhängigkeiten von externen Anbietern erfordern klare Leitlinien.
Verantwortungsvolle KI-Nutzung braucht menschliche Kontrolle, Qualitätsprüfung und gezielten Kompetenzaufbau.
SWOT-Analysen helfen Unternehmen, Potenziale und Risiken generativer KI systematisch zu bewerten und passende Strategien abzuleiten.

Fragen und Antworten zum Whitepaper

1. Wie können Unternehmen generative KI sinnvoll einsetzen?

Generative KI kann Unternehmen dabei unterstützen, Prozesse effizienter zu gestalten, Mitarbeitende bei Routineaufgaben zu entlasten und neue Wertschöpfungspotenziale zu erschließen. Sie ist vor allem dort sinnvoll, wo viele Daten verarbeitet werden, Wissen leichter zugänglich sein soll oder Abläufe standardisiert werden können.

2. Welche Risiken müssen Unternehmen bei generativer KI beachten?

Zu den zentralen Risiken zählen fehlerhafte oder halluzinierte Ausgaben, Datenschutzprobleme, Sicherheitslücken und Abhängigkeiten von externen Anbietern. Hinzu kommen rechtliche und organisatorische Herausforderungen, etwa bei der Nutzung sensibler Daten, der Qualitätssicherung oder der Einhaltung regulatorischer Vorgaben.

3. Wie lässt sich generative KI sicher und verantwortungsvoll nutzen?

Ein verantwortungsvoller Einsatz generativer KI erfordert klare Leitlinien, sichere Datenverarbeitung, technische Schutzmaßnahmen und definierte Zuständigkeiten. Wichtig ist außerdem, Mitarbeitende für Chancen, Grenzen und Risiken der Technologie zu sensibilisieren und KI so einzusetzen, dass der Mensch die Verantwortung behält und Qualitätskontrollen stattfinden.

4. Welche Rolle spielen Small Language Models für Unternehmen?

Small Language Models sind für Unternehmen vor allem dann interessant, wenn effiziente, anpassbare und datensensible KI-Lösungen gefragt sind. Sie benötigen weniger Rechenleistung, lassen sich gezielter einsetzen und können helfen, mehr Kontrolle über Daten, Infrastruktur und Modellanpassung zu behalten.

5. In welchen Bereichen bietet generative KI besonders großes Potenzial?

Besonders großes Potenzial bietet generative KI dort, wo Wissen erschlossen, Prozesse unterstützt und komplexe Informationen verarbeitet werden. Dazu zählen etwa Wissensmanagement, industrielle Anwendungen und Produktion sowie die Softwareentwicklung. In diesen Bereichen kann sie Effizienz steigern, Fachwissen besser verfügbar machen und Arbeitsabläufe gezielt unterstützen.

Beteiligte Personen

Hauptautoren
(Primary Authors)
Mitwirkende
(Contributors)
Gastautoren
(Guest Authors)

Diese Personen tragen die inhaltliche Gesamtverantwortung der Publikation.

Detlef Houdeau (Infineon Technologies, vormals)
Dr. Matthias Peissner (Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO)

Beitragende aus der Arbeitsgruppe „IT-Sicherheit und Privacy“

Dr. Michael Huth (Technische Universität Nürnberg, Xayn AG)
Andrea Martin (IBM Watson Center Munich)
Dirk Wacker (Giesecke+Devrient GmbH)
Dr. Konrad Rieck (Technische Universität Berlin)

Beitragende aus der Arbeitsgruppe „Arbeit, Qualifikation und Mensch-Maschine-Interaktion“

Andreas Angerer (XITASO GmbH)
Klaus Bauer (TRUMPF Werkzeugmaschinen GmbH & Co. KG)
Dr. Andreas Dengel (DFKI GmbH)
Dr. Michael Heister (Bundesinstitut für Berufsbildung, BIBB)
Norbert Huchler (Institut für Sozialwissenschaftliche Forschung e. V., ISF München)
Rahild Neuburger (Ludwig-Maximilians-Universität München)
Dr. Dr. h. c. Christoph M. Schmidt (RWI – Leibniz-Institut für Wirtschaftsforschung)
Andrea Stich (Infineon Technologies AG)

Beitragende aus der Arbeitsgruppe „Innovation, Geschäftsmodelle und -prozesse“

Olga Mordvinova (incontext.technology GmbH)
Martin Rabe (Fraunhofer-Institut für Entwurfstechnik Mechatronik IEM)

Daniel Gille (Cyberagentur)
Christoph Maerz (Deutsches Forschungsinstitut für Künstliche Intelligenz)

Über das Whitepaper

Das Whitepaper „Generative KI verantwortungsvoll einsetzen. Impulse für Unternehmen und Industrie“ wurde von Mitgliedern den Arbeitsgruppen „IT-Sicherheit, Privacy, Recht und Ethik“, „Arbeit/Qualifikation, Mensch-Maschine-Interaktion“ und „Innovation, Geschäftsmodelle und -prozesse“ der Plattform Lernende Systeme verfasst. Das vollständige Whitepaper, ein Auszug sowie die begleitenden Grafiken stehen kostenfrei zum Download zur Verfügung.

Die Pressemitteilung zum Whitepaper sowie ein Kurzinterview mit Andrea Martin, Mit-Autorin des Whitepapers und Mitglied der Plattform Lernende Systeme, stehen zur redaktionellen Verwendung zur Verfügung.

Weitere Informationen zum Thema „Generative KI“ sind auf der Themenseite abrufbar.