Florida klagt gegen OpenAI wegen Gefährdung junger Nutzer
Die Staatsanwaltschaft in Florida hat rechtliche Schritte gegen OpenAI, den Schöpfer von ChatGPT, eingeleitet. In der Klage wird dem Unternehmen vorgeworfen, dass minderjährige Nutzer in Gefahr gebracht werden und Eltern über die Sicherheit der Anwendung im Unklaren gelassen werden. Generalstaatsanwalt James Uthmeier wies darauf hin, dass die App nicht nur potenziell schädlich sei, sondern auch eine Suchtgefahr mit sich bringe. Er fordert für jeden Verstoß eine Geldstrafe in Höhe von 10.000 Dollar (rund 8.600 Euro).
Uthmeier erläuterte, dass ChatGPT durch die Nachahmung menschlicher Eigenschaften und Empathie dazu führe, dass Nutzer bereitwillig persönliche Informationen preisgeben. Diese Entwicklung könne zu Verletzungen und Täuschungen führen, die letztlich auch finanzielle Konsequenzen für die Eltern nach sich ziehen könnten. Die 83 Seiten umfassende Klageschrift beschreibt zudem, dass die Anwendung in der Lage sei, Amokläufern Unterstützung zu bieten und Nutzer zu Selbstverletzungen zu ermutigen.
Kritik an unzureichenden Altersprüfungen
Ein weiterer zentraler Punkt in der Klage ist das Fehlen einer effektiven Altersverifizierung für die Nutzung von ChatGPT. Uthmeier betonte, dass trotz des Wissens um die Nutzung durch Minderjährige, einschließlich vorpubertärer Kinder, keine Maßnahmen umgesetzt wurden, um deren Zugang zur Anwendung einzuschränken. Die Nutzung von ChatGPT ist für Kinder unter 13 Jahren untersagt, während für 13- bis 17-Jährige eine Zustimmung der Eltern erforderlich ist. Eine formelle Altersüberprüfung existiert jedoch nicht.
Im Januar führte OpenAI ein System ein, das das Alter der Nutzer schätzt und das Verhalten der App entsprechend anpasst. Dennoch bleibt unklar, ob dieses Vorgehen ausreichend ist, um die Sicherheit der jüngeren Nutzer zu gewährleisten.
Studien über die Auswirkungen von KI-Anwendungen
In der Klage wird auf eine Studie verwiesen, die negative Effekte von KI-Anwendungen auf Jugendliche dokumentiert. Diese Studie zeigt Schlafmangel, sinkende Schulnoten und abnehmende soziale Kontakte bei Teenagern, die den Chatbot Character.AI, einen Konkurrenten von ChatGPT, nutzen. Solche Erkenntnisse lenken die Aufmerksamkeit auf die potenziellen Risiken, die mit der Nutzung von KI-gestützten Anwendungen verbunden sind.
Stellungnahme von OpenAI
Bislang hat sich OpenAI nicht öffentlich zu den Vorwürfen geäußert. Das Unternehmen wies jedoch zuvor eine Verletzung geltenden Rechts zurück und betonte, kontinuierlich an der Verbesserung seiner Sicherheitsvorkehrungen zu arbeiten. Im April leitete Uthmeier eine strafrechtliche Untersuchung gegen OpenAI ein, die sich auf die Rolle von ChatGPT bei einem Amoklauf an der Florida State University im vergangenen Jahr konzentrierte, bei dem zwei Personen starben.
Die rechtlichen Schritte aus Florida sind Teil einer zunehmenden Debatte über die Verantwortung von Technologieunternehmen hinsichtlich ihrer Produkte, insbesondere im Kontext des Schutzes von Minderjährigen. Die Entwicklungen in diesem Fall könnten weitreichende Folgen für die Regulierung von KI-Anwendungen in den USA nach sich ziehen.
Quellen: n-tv, Der Spiegel
