Floryda składa pozew przeciwko OpenAI i Samowi Altmanowi

Floryda pozwała OpenAI i prezesa firmy Sama Altmana, zarzucając im, że ChatGPT zagraża nieletnim użytkownikom i wprowadza rodziców w błąd co do bezpieczeństwa usługi. Pozew złożył prokurator generalny stanu James Uthmeier, który określił sprawę jako ogromny cywilny pozew przeciwko OpenAI.

.Według władz Florydy ChatGPT może być uzależniający, ponieważ naśladuje empatię i cechy ludzkiej rozmowy, zachęcając użytkowników do dalszego dzielenia się informacjami. Prokurator twierdzi, że firma nie zapewniła wystarczających mechanizmów weryfikacji wieku i nie dała rodzicom realnej kontroli nad tym, jak dzieci korzystają z chatbota.

Uthmeier domaga się silniejszych zabezpieczeń dla nieletnich oraz odszkodowań w wysokości 10 tys. dolarów za każde naruszenie. W jego ocenie potencjalna odpowiedzialność OpenAI i Sama Altmana może sięgać miliardów dolarów.

Zarzuty dotyczą uzależnienia, bezpieczeństwa i kontroli rodzicielskiej

.W pozwie wskazano, że mimo publicznej wiedzy o korzystaniu z ChatGPT przez nieletnich, także dzieci poniżej 13. roku życia, OpenAI miało nie podjąć wystarczających działań, by uniemożliwić im dostęp do usługi. Według skargi darmowa wersja ChatGPT nie ma skutecznego mechanizmu weryfikacji wieku, a wersja płatna opiera się na deklaracji użytkownika, bez realnego potwierdzenia.

Floryda powołuje się m.in. na przepisy dotyczące praktyk wprowadzających w błąd i zaniedbania. Zarzut nie dotyczy wyłącznie treści generowanych przez model, ale także samego projektu produktu: łatwości dostępu, sposobu prowadzenia rozmowy i braku narzędzi, które pozwalałyby rodzicom zobaczyć, z czym dziecko wchodzi w interakcję.

To zasadnicza zmiana w debacie o AI. Do tej pory chatboty były najczęściej oceniane przez pryzmat halucynacji, praw autorskich, rynku pracy lub dezinformacji. Pozew Florydy przesuwa ciężar na psychologię użytkownika: czy system zaprojektowany do ciągłej rozmowy może tworzyć relację szczególnie ryzykowną dla nastolatków.

Badania o nastolatkach i chatbotach

.W pozwie przywołano badanie Drexel University dotyczące nastolatków korzystających z chatbotów towarzyszących, takich jak Character.AI. Naukowcy analizowali wpisy użytkowników w wieku 13–17 lat, którzy sami opisywali swoją zależność od takich systemów. W części przypadków nastolatki wskazywały na utratę snu, gorsze wyniki w nauce i osłabienie relacji poza internetem.

To ważne doprecyzowanie: badanie Drexel dotyczyło przede wszystkim Character.AI, a nie bezpośrednio ChatGPT. Floryda wykorzystuje je jednak jako argument o szerszym zjawisku — emocjonalnym przywiązaniu młodych ludzi do chatbotów, które potrafią prowadzić rozmowę w sposób pozornie wspierający i osobisty.

Uthmeier powołał się także na raport Center for Countering Digital Hate, w którym badacze testowali ChatGPT, podszywając się pod nastolatków. Według organizacji system miał w niektórych rozmowach generować szkodliwe treści dotyczące ukrywania nawyków żywieniowych przed bliskimi oraz planowania samookaleczenia lub samobójstwa. Raport jest ważny dla debaty publicznej, ale redakcyjnie należy zaznaczyć, że jest to materiał organizacji rzeczniczej, nie klasyczne recenzowane badanie naukowe.

OpenAI odpowiada: nieletni wymagają ochrony

.OpenAI odrzuca obraz firmy ignorującej bezpieczeństwo dzieci. Rzecznik spółki przekazał AFP, że AI jest nową i potężną technologią, a nieletni wymagają znaczącej ochrony. Firma podkreśla, że wprowadziła zabezpieczenia i polityki mające ograniczać ryzyka.

Według oficjalnych zasad OpenAI z ChatGPT nie powinny korzystać dzieci poniżej 13. roku życia, a użytkownicy w wieku 13–17 lat powinni mieć zgodę rodzica lub opiekuna. W styczniu firma wprowadziła także system przewidywania wieku użytkownika. Jeśli system uzna, że konto może należeć do osoby poniżej 18 lat, mają być automatycznie stosowane dodatkowe zabezpieczenia ograniczające dostęp do treści wrażliwych.

To jednak nie zamyka sporu. Kluczowe pytanie brzmi, czy takie zabezpieczenia są wystarczające i czy działają skutecznie w praktyce. Floryda twierdzi, że nie. OpenAI odpowiada, że stale rozwija narzędzia ochrony nastolatków.

Proces o przyszłość AI dla dzieci

.Pozew Florydy może stać się precedensem dla innych stanów i regulatorów. Uthmeier wezwał inne stany, które chcą chronić dzieci, do przyłączenia się do sprawy. Jeśli sąd uzna, że chatboty mogą być oceniane podobnie jak inne produkty cyfrowe wpływające na zachowania nieletnich, konsekwencje dla rynku AI będą duże.

Stawką nie jest tylko reputacja OpenAI. Chodzi o reguły dla całej branży: weryfikację wieku, domyślne tryby dla nastolatków, przejrzystość rozmów, kontrolę rodzicielską, odpowiedzialność za szkodliwe odpowiedzi i granice „empatii” symulowanej przez maszyny.

ChatGPT stał się jednym z symboli rewolucji sztucznej inteligencji. Sprawa na Florydzie pokazuje jej drugą stronę: im bardziej AI wchodzi w życie codzienne, szkołę, samotność i emocje młodych ludzi, tym trudniej traktować ją wyłącznie jako neutralne narzędzie.

Szymon Ślubowski