Italien verbietet ChatGPT aufgrund von DSGVO-Bedenken

Die italienische Datenschutzbehörde hat OpenAI am Freitag sofort angewiesen , die lokale Datenverarbeitung einzustellen. Grund für das Verbot sind zunehmende Bedenken, dass das Unternehmen aufgrund der Art und Weise, wie es mit Daten umgeht, und fehlender Kontrollen für Minderjährige gegen die Datenschutz-Grundverordnung (DSGVO) der Europäischen Union verstößt.

Obwohl Italien möglicherweise das erste Land ist, das die kostenlose Nutzung von ChatGPT einführt, ist klar, dass die Besorgnis über KI schnell zugenommen hat. Italiens Verbot erfolgt nur wenige Tage, nachdem Tausende von KI-Experten eine sofortige Pause bei dieser Technologie gefordert haben, bis die politischen Entscheidungsträger Zeit haben, die Vorschriften an die Innovation anzupassen.

Das Verbot macht jedoch deutlich, dass solche KI-Vorschriften zumindest in einigen Teilen der Welt bereits existieren. Italiens Gesetzgeber verfügten dank der DSGVO und ihrer Gesetze zum Schutz der personenbezogenen Daten der Bürger bereits über die rechtliche Befugnis, ein solches Verbot von OpenAI zu verhängen. Doch was bedeutet dieses Verbot für die Zukunft der KI?

Wie legal ist KI gemäß DSGVO?

Die europäischen DSGVO-Gesetze gehören wahrscheinlich zu den strengsten weltweit und legen großen Wert auf den Schutz personenbezogener Daten über kommerziellen Gewinn. Vor der Ankündigung des italienischen ChatGPT- Verbots versuchten europäische Gesetzgeber bereits, die vielen heiklen Fragen zu klären, die sich im Zuge der Entwicklung fortschrittlicher KI-Technologie stellen.

Zum einen wird es aufgrund der globalen Natur digitaler personenbezogener Daten immer schwieriger, sie zu verfolgen und zu verwalten.

Beispielsweise gab ChatGPT-4 zuvor bekannt, dass seine Algorithmen anhand von Daten trainiert wurden, die aus dem Internet stammen, zu dem auch offene Foren wie Reddit gehörten. Es ist auch bekannt, dass falsche Angaben zu direkt genannten Personen gemacht werden. Abgesehen von den offensichtlichen Bedenken hinsichtlich Fehlinformationen macht es Unternehmen wie OpenAI auch anfällig für eine Vielzahl von Problemen im Zusammenhang mit den Rechten der Europäer auf personenbezogene Daten.

Auch wenn es um die KI-Technologie im weiteren Sinne im Rahmen der DSGVO-Richtlinien geht, öffnet sich die Gefahr. Das Verbot von OpenAI deutet darauf hin, dass maschinelle Lernalgorithmen im Allgemeinen möglicherweise standardmäßig mit der DSGVO in Konflikt geraten, da die Technologie auf immense Datenmengen angewiesen ist, zu denen wahrscheinlich irgendwann auch personenbezogene Daten gehören.

Nicht nur ein Anliegen der EU

Das offene Moratorium, das dazu aufruft, die Entwicklung fortschrittlicher KI zu stoppen, umfasste hochkarätige Namen, die notorische Befürworter von technischem Fortschritt und Innovation waren. Dies hängt mit dem Auftritt von TikTok vor dem US-Kongress zusammen, der auf ähnliche Bedenken hinsichtlich der Datennutzung zurückzuführen ist.

Europa und seine DSGVO-Gesetzgebung mögen bei den Datenschutzbestimmungen derzeit anderen Ländern voraus sein, doch die Ereignisse der letzten Wochen deuten darauf hin, dass der Fortschritt digitaler Technologien und deren Abhängigkeit von unseren Daten einer genaueren Betrachtung bedarf.

Obwohl die Art und Weise, wie Daten von der Technologie kommerziell oder anderweitig genutzt werden, eine heikle Frage ist, die nicht über Nacht beantwortet werden kann, hat Politico ChatGPT selbst dieses heiße Eisen überlassen, insbesondere im Hinblick auf die DSGVO-Vorschriften.

Die Antwort gibt uns viele Denkanstöße: „Die EU sollte erwägen, generative KI und große Sprachmodelle als ‚Hochrisikotechnologien‘ einzustufen, da sie das Potenzial haben, schädliche und irreführende Inhalte zu erstellen.“ Die EU sollte die Einführung eines Rahmens für die verantwortungsvolle Entwicklung, den Einsatz und die Nutzung dieser Technologien in Betracht ziehen, der geeignete Schutzmaßnahmen, Überwachungs- und Aufsichtsmechanismen umfasst.“

Dieser Artikel wurde ursprünglich von Katie Konyn auf 150sec veröffentlicht.