Szenario 2: Manipulation von Flugdrohnen bei einer Großveranstaltung
In schwer zugänglichen, gefährlichen oder komplexen Umgebungen können KI-Systeme Routineaufgaben übernehmen. Sie erkunden Gebiete, überwachen Infrastrukturen oder unterstützen die Kommunikation der Fachkräfte. Damit diese KI-Systeme – etwa beim Untersuchen oder Reparieren von Infrastrukturen – möglichst selbständig agieren können, werden sie mit speziellen Fähigkeiten ausgestattet; sie agieren (teil-)autonom. Eingesetzt werden sie sowohl als Einzelsysteme als auch in Interaktion miteinander, etwa als Flugdrohnen in einem Schwarm.
Flugdrohnen können künftig genutzt werden, um die Sicherheit bei Großveranstaltungen zu gewährleisten. Die integrierten Sensoren erfassen wichtige Informationen und leiten diese weiter. Da der Luftraum kaum über effiziente Abwehrsysteme oder mechanische Schutzvorrichtungen verfügt, lassen sich Flugdrohnen jedoch auch für gezielte Angriffe auf Personen, kritische Bereiche oder Objekte missbrauchen. Unser Szenario skizziert das Finale der Fußball-Weltmeisterschaft in einer Großstadt. Die Veranstalter lassen das Stadion mithilfe eines Schwarms KI-basierter Flugdrohnen aus der Luft überwachen. Diese kommunizieren untereinander und kooperieren bei Bedarf.
Wie sich verhindern lässt, dass böswillige Angreifer die Flugdrohnen manipulieren und Schaden anrichten, zeigt sich per Klick auf die Grafik.
Mit der Frage, welche Maßnahmen geeignet sind, um einem Missbrauch von KI-Systemen wirksam vorzubeugen, beschäftigt sich auch das Whitepaper KI-Systeme schützen, Missbrauch verhindern der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik.