Frau Martin, für Unternehmen eröffnen sich durch GenAI vielfältige Einsatzmöglichkeiten. Wo stehen wir heute?
Andrea Martin: Je nach Studie nutzen zwischen etwas über einem Drittel und der Hälfte der Unternehmen in Deutschland Künstliche Intelligenz. Das ist eine deutliche Steigerung verglichen mit den Vorjahren. Wir sehen zahlreiche Einsatzgebiete, die wir bei IBM auch als so genannter "client zero" selbst nutzen:
Generative KI wird beispielsweise verwendet, um Code zu generieren, zu analysieren und zu testen. Allerdings ist hier zu beachten, wie ich vor Kurzem gelesen habe: „Dass generative KI alle zu Entwicklerinnen und Entwicklern macht, ist genauso ein Irrglaube, wie dass eine Kamera alle zu Fotografinnen und Fotografen macht."
Im Personalwesen (HR) kann generative KI dabei unterstützen, Abläufe zu optimieren, Dialoge zu führen und Routineaufgaben zu erledigen - mit Automation im Hintergrund.
Im Kundensupport wird generative KI eingesetzt, um mit Chatbots Anfragen von Kunden zu beantworten und kontextbezogen Informationen zur Verfügung zu stellen - in natürlicher Sprache, überall und rund um die Uhr.
Im Marketing kann die Erstellung von Texten, Bildern und Videos mit Hilfe von generativer KI beschleunigt werden, indem Vorlagen erstellt werden, die die Mitarbeitenden überprüfen und modifizieren können.
Daneben kann generative KI natürlich auch eingesetzt werden, um Gespräche vorzubereiten, z.B. zwischen Ärztinnen bzw. Ärzten und Patientinnen bzw. Patienten, indem Befunde zusammengefasst werden, grundsätzliche Informationen zum Krankheitsbild zur Verfügung gestellt werden oder Fachausdrücke in allgemeinverständliche Sprache 'übersetzt' werden. Es gäbe noch zahlreiche weitere Einsatzmöglichkeiten zu nennen, aber das würde hier den Rahmen sprengen.
Wo liegen Potenziale und Risiken?
Andrea Martin: Generative KI kann große Produktivitätsgewinne sowohl für Individuen als auch für Unternehmen ermöglichen. Dies kann durch die Optimierung von Prozessen geschehen, durch Unterstützung der Mitarbeitenden bei Routine-Aufgaben, aber auch in ihrer Kreativität sowie durch gezielte Unterstützung bei der Automation von Aufgaben Weiterhin kann generative KI dabei unterstützen, Produkte und Services eines Unternehmens zu verbessern sowie Kundeninteraktionen zu unterstützen.
Ein Risiko beim Einsatz von generativer KI kann unter anderem durch mangelnde Transparenz über die Trainingsdaten oder über die zugrundeliegenden und 'einprogrammierten' Werte entstehen. Diese sollten jedoch - insbesondere im Unternehmenskontext - berücksichtigt werden können. Deshalb sind aus meiner Sicht vernünftig umgesetzte regulatorische Anforderungen an Transparenz, Fairness oder Erklärbarkeit sinnvoll, um Risiken zu vermeiden beziehungsweise mitigieren zu können.
Ein weiteres grundlegendes Risiko beim Einsatz von generativer KI ist mangelndes Verständnis über die Funktionsweise der Technologie: Anwendende von KI sollten zumindest Grundlagen von generativer KI kennen, beispielsweise dass generative KI auf statistischen Verfahren und Wahrscheinlichkeitsrechnung basiert und unter anderem deshalb 'halluzinieren' kann. Nur wenn ich das weiß, kann ich generative KI verantwortungsvoll einsetzen.
Wie lässt sich ein verantwortungsvoller Einsatz sicherstellen?
Andrea Martin: Es gibt viele Maßnahmen, um einen verantwortungsvollen Einsatz von generativer KI zu gewährleisten. Für mich sind dies drei wesentliche Punkte:
Erstens: Eine umfassende KI-Governance ist der Schlüssel für einen verantwortungsvollen Einsatz von Künstlicher Intelligenz inklusive generativer KI.
Hierzu einige Aspekte: Das Ziel von KI-Governance ist es, über den gesamten Lebenszyklus einer KI-Anwendung - von Entwicklung, Training über Implementierung bis hin zum Betrieb - sicherzustellen, dass Transparenz über Ziele, Nutzen, Daten, etc. der KI-Anwendung herrscht. Das bedeutet auch, dass die Einhaltung der Ziele der KI-Anwendung überwacht wird, ebenso wie die Genauigkeit der Antworten. Zudem müssen Risiken wie etwa Diskriminierung, Manipulation von Daten und Ergebnissen oder die Verletzung von Datenschutz verhindert beziehungsweise ausgeglichen werden.
Zu einer funktionierenden KI-Governance gehört ebenso die Definition von Prinzipien, die Etablierung von Methoden und Prozessen, die Definition von Rollen und Gremien sowie die Auswahl von Technologien, die KI-Governance umfassend oder spezialisiert auf Teilbereiche unterstützen.
Zweitens: Nutzerinnen und Nutzer sollten - wie bereits oben erwähnt - zumindest eine grundlegende Kenntnis darüber haben, wie die Technologie funktioniert. Das heißt, dass Unternehmen, die generative KI-Anwendungen einsetzen oder einsetzen wollen, in die Weiterbildung ihrer Mitarbeitenden investieren sollten.
Drittens: Unternehmen sollten informiert bleiben, damit sie zuverlässige generative KI-Anwendungen auswählen können beziehungsweise Tools vermeiden, bei denen es Bedenken hinsichtlich ethischer Richtlinien gibt.
Das Whitepaper „Generative KI verantwortungsvoll einsetzen“ steht hier zum Download zur Verfügung.
Das Interview ist für eine redaktionelle Verwendung freigegeben (bei Nennung der Quelle © Plattform Lernende Systeme).