Künstliche Intelligenz (KI) in Unternehmen - Teil 2

Im ersten Teil unseres Newsletters haben wir bereits Grundlagen von KI-Systemen behandelt und sie mit herkömmlicher Software verglichen. KI lernt aus Daten und passt sich dynamisch an, während klassische Software festen Regeln folgt. Wir haben die Kategorien von KI-Systemen beleuchtet - von schwacher KI, die für spezifische Aufgaben trainiert wird, bis hin zu starker KI, die menschenähnliche Intelligenz anstrebt - und den Unterschied zwischen geschlossenen Systemen mit fest definierten Grenzen und offenen, flexibleren Systemen erklärt. Abschließend wurde die Bedeutung klarer Regeln für einen verantwortungsvollen Umgang mit KI hervorgehoben.

In unserer zweiten Ausgabe widmen wir uns nun den unterschiedlichen Fähigkeiten, Aufgaben und Risiken von KISystemen. Diese reichen von der Analyse großer Datenmengen bis hin zur Nachahmung menschlicher Entscheidungsprozesse. So können KI-Systeme Muster in komplexen Daten erkennen, natürliche Sprache verstehen, Bilder und Videos interpretieren und Vorhersagen treffen, die über menschliche Kapazitäten hinausgehen. KI-Systeme werden in Bereichen wie z.B. Automatisierung, Kundeninteraktion, Produktentwicklung und strategische Planung, Marketing und Personalmanagement eingesetzt. Sie lassen sich anhand ihrer Aufgaben wie folgt kategorisieren und einordnen.

Lernfähigkeit (maschinelles Lernen)

KI-Systeme können aus Daten lernen und ihre Leistung im Laufe der Zeit verbessern, ohne dass sie explizit programmiert werden müssen. Dies geschieht durch Algorithmen, die Muster in Daten erkennen und diese für Vorhersagen und Entscheidungen nutzen. Wenn Sie als Unternehmen selbst Trainingsdaten auswählen und eine KI trainieren möchten, müssen Sie prüfen, ob die Trainingsdaten einen Personenbezug aufweisen. Werden personenbezogene Daten für das Training verwendet oder entstehen diese während der Nutzung, müssen die Betroffenen nach Art. 13 und 14 DSGVO informiert werden. Aufgrund der Intransparenz der Algorithmen eine echte Herausforderung, an der auch schon ChatGPT und OpenAI zwischenzeitlich gescheitert sind.

Anpassungsfähigkeit

KI kann sich an neue Informationen und Veränderungen in ihrer Umgebung anpassen. Das heißt, sie ist in der Lage, ihre Modelle und Strategien auf Basis neuer Daten und Erfahrungen zu aktualisieren. Genau hier liegt aber auch die Gefahr, denn Ungenauigkeit und Bias (systematische Fehleinschätzungen) sind zwei entscheidende und immer wiederkehrende Probleme beim Einsatz von KI, die eine menschliche Überwachung unbedingt erforderlich machen.

Automatisierte Entscheidungsfindung

KI kann auf Basis von Datenanalysen komplexe Entscheidungen treffen. Aber Vorsicht: Die DSK verweist in ihrer Orientierungshilfe auf das Verbot der automatisierten Entscheidungsfindung ohne menschliche Beteiligung (gem. Art. 22 DSGVO). Ein KI-System darf keine Entscheidung treffen, die Auswirkungen auf einen Menschen hat, ohne dass eine andere Person die letzte Entscheidung trifft - eine rein formale Beteiligung eines Menschen ist ausgeschlossen! KI-Systeme sollen als Unterstützung dienen und nicht als Ersatz für menschliches Urteilsvermögen.

Mustererkennung

KI kann große Datenmengen analysieren und Muster erkennen. Dies wird in Anwendungen wie Gesichtserkennung, Sprachverarbeitung und Bilderkennung genutzt. Gesichts- und Bilderkennungen benötigen biometrische Daten, um eine Person eindeutig zu identifizieren. Diese sind in Art. 4 Nr. 14 DSGVO definiert und gehören zu den besonderen Kategorien personenbezogener Daten nach Art. 9 Abs. 1 DSGVO. Biometrische Daten gelten als besonders sensibel und schützenswert. Sie dürfen daher nicht ohne weiteres erhoben und verarbeitet werden, es sei denn, es liegt einer der in Art. 9 Abs. 2 DSGVO genannten Ausnahmetatbestände (z.B. eine ausdrückliche Einwilligung) vor.

Natürliche Sprachverarbeitung

KI-Systeme können menschliche Sprache verstehen, interpretieren und darauf reagieren. Dies ermöglicht Anwendungen wie Chatbots, virtuelle Assistenten und Übersetzungsdienste. Bei allen Vorteilen, die die Verarbeitung natürlicher Sprache (Natural Language Processing, NLP) bietet, birgt ihr Einsatz auch Risiken, die sowohl technischer als auch ethischer Natur sind. Bei der Anwendung von NLP-Modellen werden große Datenmengen verwendet, die auch Vorurteile und Stereotypen widerspiegeln. Dies kann zu diskriminierenden Ergebnissen führen, die wiederum zu Ungleichheiten beitragen. NLP-Modelle können auch für Fake News verwendet oder zur gezielten Manipulation von Meinungen eingesetzt werden. Die Bereitstellung von NLP-Technologien wird häufig von großen Unternehmen dominiert, was zu einer Konzentration von Macht und Wissen führt.

Problem- und Aufgabenlösung

KI-Systeme können auch komplexe Probleme lösen und Aufgaben autonom ausführen. Dies reicht von der Planung und Optimierung bis hin zur Steuerung autonomer Fahrzeuge. Dabei können auch KI-Systeme Fehler machen, insbesondere in unvorhergesehenen oder komplexen Situationen, was zu unerwünschten Ergebnissen führen kann. Bei autonomen Systemen kann es schwierig sein, die Verantwortung eindeutig zuzuweisen, insbesondere wenn Fehler oder Unfälle auftreten. Dies wirft Fragen der Haftung und Regulierung auf. Ein Fehler in einem autonomen Fahrzeug könnte beispielsweise zu einem Unfall führen. Mit zunehmender Autonomie von KI-Systemen besteht die Gefahr, dass der Mensch die Kontrolle über wichtige Entscheidungen verliert, insbesondere dann, wenn Maschinen diese Entscheidungen besser oder schneller treffen können als Menschen.

Ausblick

Im dritten Teil unserer KI-Newsletter-Serie geht es dann um den Einsatz und den Nutzen von hochriskanten KI-Systemen!

Wir unterstützen Sie gerne bei der Entwicklung einer Richtlinie für den Einsatz von KI in Ihrem Unternehmen! Kontaktieren Sie uns, um mehr zu erfahren.