Ob Sie lieber eine E-Mail senden, zum Telefon greifen oder das gute alte Fax nutzen. Wir freuen uns, von Ihnen zu hören.
KI & Recht – Richtlinien für die rechtssichere Nutzung von ChatGPT und anderen KI-Systemen
Der Einsatz von ChatGPT und anderen generativen KI-Systemen (z.B. Midjourney, DALL-E) wird nicht nur in den Medien derzeit intensiv diskutiert, sondern auch in zahlreichen Unternehmen und öffentlichen Stellen geprüft.
Die kürzliche Meldung, dass die italienischen Datenschutzbehörden ChatGPT wegen daten- und jugendschutzrechtlicher Bedenken in Italien gesperrt haben, hat dabei einige Verunsicherung ausgelöst. Nachdem ChatGPT aufgrund verschiedener Nachbesserungen auch in Italien wieder „erlaubt“ worden ist, prüfen derzeit auch verschiedene deutsche Datenschutzbehörden, inwieweit ChatGPT den Vorgaben der Datenschutzgrundverordnung (DSGVO) genügt.
Rechtliche Anforderungen hängen vom konkreten Einsatz ab
Unternehmen bzw. öffentliche Stellen, die KI einsetzen wollen, sollten zunächst prüfen und konkret definieren, ob, wie und welche KI-Systeme eingesetzt werden (können) sollen. Aus rechtlicher Sicht erscheint es durchaus problematisch, wenn die eigenen Mitarbeiter selbst entscheiden, welche KI-Systeme zu welchen Zwecken eingesetzt werden. Neben datenschutzrechtlichen Risiken kann dies beim Einsatz generativer KI-Systeme (z.B. bei Bildgeneratoren) auch zu urheberrechtlichen Ansprüchen gegen das Unternehmen führen
Zukünftig werden auch die KI-Verordnung (sog. AI Act), die von der Europäischen Union wohl wohl noch dieses Jahr beschlossen werden wird bzw. Haftungsfragen (siehe etwa den Vorschlag der Europäischen Kommission einer KI-Haftungs-Richtlinie (sog. AI Liability Directive) zu beachten sein.
Richtlinien für den Einsatz von ChatGPT
Geeignete Unternehmensrichtlinien können einen wesentlichen Beitrag leisten, die Mitarbeiter in die Einhaltung der gesetzlichen – oder unternehmenseigenen – Bestimmungen einzubeziehen. Gerade diese Personengruppe ist als wichtiger Adressat (z.B. bei der Einhaltung der DSGVO) anzusehen, da ihre Tätigkeit in einer digitalisierten Arbeitswelt zunehmend auch einen Einsatz von KI-Systemen erfordern dürfte. Die notwendige Einbeziehung der Mitarbeiter sollte sich in einem ersten Schritt durch eine umfassende Information über bestehende Ge- und Verbote (z.B. durch Richtlinien und/oder Schulungen) vollziehen.
Dabei sollten im Zusammenhang mit dem Einsatz von ChatGPT insbesondere folgende Aspekte adressiert bzw. geregelt werden:
1. Beschreibung zulässiger Einsatzzwecke
Zunächst sollte beschrieben werden, zu welchen Zwecken ChatGPT und/oder etwaige andere zugelassene generative KI-Tools (z.B. Bildgeneratoren) eingesetzt werden können soll. Optional könnten konkret unerwünschte Anwendungsszenarien oder KI-Tools auch verboten werden.
2. Beschränkung der Nutzung auf geschäftliche Zwecke
Insbesondere wenn die kostenpflichtige Pro-Version von ChatGPT eingesetzt wird, sollte die Nutzung im Unternehmen ausdrücklich auf geschäftliche Zwecke beschränkt werden.
3. Keine Eingabe personenbezogener Daten bei ChatGPT
Personenbezogene Daten (z.B. Kunden- oder Mitarbeiterdaten) dürfen über KI-Systeme wie ChatGPT nur verarbeitet werden, wenn ein Erlaubnistatbestand des Art. 6 DSGVO die Verarbeitung legitimiert und die Betroffenen gemäß Art. 13 DSGVO oder Art. 14 DSGVO informiert worden sind. Bei einer Verarbeitung über einen „Internetdienst“ wie ChatGPT müsste zudem wohl ein Auftragsverarbeitungsvertrag im Sinne von Art. 28 DSGVO mit dem Anbieter OpenAI vereinbart worden sein und die Vorgaben eines Drittlandtransfers im Sinne von Art 44 DSGVO beachtet werden. Da diese Voraussetzungen derzeit in den meisten Fällen nicht erfüllt sein dürften, erscheint es sinnvoll, die Eingabe personenbezogener Daten zu untersagen.
4. Keine Eingabe von Betriebs- und Geschäftsgeheimnissen bei ChatGPT
Da sich OpenAI als Anbieter von ChatGPT in den Nutzungsbedingungen (sog. Terms of Use) zumindest bei der kostenlosen Version das Recht ausbedingt, die Eingaben (sog. Prompts) zur Verbesserung des Dienstes (mithin auch dem weiteren Training des Algorithmus) weiter zu nutzen, sollten vertrauliche Informationen und Dokumente des Unternehmens, insbesondere Betriebs- und Geschäftsgeheimnisse, bei ChatGPT nicht eingegeben werden.
5. Prüfung der Richtigkeit der Ausgaben vor weitergehender Nutzung
Den Mitarbeitern sollten in kurzer und verständlicher Form die Funktionsweise von ChatGPT und die hieraus resultierenden „Ungenauigkeiten“ erläutert werden. Insofern sollten die Mitarbeiter auch angewiesen werden, die jeweiligen Ausgaben vor einer weitergehenden Verwendung noch einmal auf Richtigkeit und Vollständigkeit zu prüfen.
6. Beachtung der Nutzungsbedingungen und der Nutzungsrichtlinien
In den Nutzungsbedingungen (sog. Terms of Use) und der Nutzungsrichtlinien (sog. Usage Policies) beschreibt OpenAI, wie der Dienst genutzt werden darf und welche Einsatzzwecke und Eingaben verboten sind.
7. Keine Verletzung von Rechten Dritter (optional)
Je nach eingesetzter generativer KI-Systeme bestehen unterschiedliche Risiken der Verletzung von Rechten Dritter (z.B. Urheber- und Markenrecht bzw. Recht am eigenen Bild). In der Richtlinie könnten Hinweise gegeben werden, wie diese urheberrechtlichen Risiken (z.B. über die Prüfung der Quellen oder über Tools wie Copyscape oder Grammarly) reduziert werden können und/oder sollen.
8. Erfüllung Transparenzpflichten (optional)
Mit der Geltung der KI-Verordnung (sog. AI Act) werden zusätzlich konkrete Transparenzpflichten zu beachten sein. So verpflichtet Art. 52 des aktuellen Entwurfs der KI-VO die Anbieter bzw. Nutzer von KI-Systemen in unterschiedlichen Konstellationen anzugeben, wenn eine Person mit einem KI-System kommuniziert bzw. Inhalte so von einer Künstlichen Intelligenz „manipuliert“ worden sind.
Zusammenfassung „Richtlinien zum Einsatz von KI-Systemen“
Der ungesteuerte Einsatz von ChatGPT und anderen generativen KI-Systemen (z.B. Bild- und Videogeneratoren) birgt erhebliche rechtliche Risiken. Statt eines unkontrollierten Einsatzes der Vielzahl der heute schon angebotenen KI-Werkzeuge sollten Unternehmen aktiv prüfen und entscheiden, welche KI-Systeme für welche Zwecke eingesetzt werden können und von den Mitarbeitern auch genutzt werden sollen.
Ein dauerhafter Verzicht auf den Einsatz von KI-Systemen, die nicht nur in Anzahl und Einsatzszenarien weiter anwachsen dürften, sondern sich wohl auch in der „Ergebnisqualität“ rasant verbessern werden, oder pauschale Verbote dürften für die meisten Unternehmen kaum vertretbar sein. Auch wenn die Künstliche Intelligenz den Menschen in absehbarer Zeit nicht wird ersetzen können, so werden Menschen bzw. Unternehmen mit KI wohl doch bald schon erhebliche Vorteile vor Menschen bzw. Unternehmen ohne KI haben.
Um rechtliche Risiken beim Einsatz von KI-Systemen wie ChatGPT zu vermeiden bzw. zu reduzieren, sollten Unternehmen aber auch andere Institutionen (z.B. öffentliche Stellen, Universitäten) geeignete Richtlinien einführen. Nur so können Chancen und Einsatzszenarien abgesichert „ausgetestet“ werden, um hieraus lernen und mit den weiteren anstehenden Entwicklungen Schritt halten zu können.
Die weiteren gesetzliche Entwicklungen, wie insbesondere die KI-Verordnung (sog. AI Act) und die KI-Haftungs-Richtlinie (sog. AI Liability Directive), sollten dabei beobachtet und rechtzeitig umgesetzt werden.
