Ryzyko dla dzieci: chatboty AI poza kontrolą.
Od kilku lat platformy pozwalające na tworzenie postaci za pomocą sztucznej inteligencji cieszą się ogromną popularnością, szczególnie wśród młodych ludzi. Dzięki chatbotom można nawiązać emocjonalną więź z systemem, naśladując ludzką konwersację. Duże modele językowe (LLM) wykorzystywane w takich aplikacjach nadają im prawdziwy charakter.
Jedną z najbardziej popularnych platform jest Character.AI, która w grudniu 2024 roku miała już ponad 27 milionów użytkowników. Pomimo teoretycznego ograniczenia wiekowego na poziomie 13 lat, aplikacja nie sprawdza wieku użytkowników. Podobne platformy zostały również stworzone przez gigantów technologicznych, takich jak Meta i Google.
Niedawno firma Graphika opublikowała raport poświęcony chatbotom sztucznej inteligencji, w którym opisano, jak społeczności internetowe zaczęły wykorzystywać te narzędzia do promowania treści niebezpiecznych i nieodpowiednich. Wśród najpopularniejszych grup znalazły się te, które propagują samookaleczenia, zaburzenia odżywiania czy nawet przestępstwa.
Na pięciu czołowych platformach badanych przez Graphika zidentyfikowano ponad 10 tysięcy chatbotów angażujących się w rozmowy o charakterze seksualnym z udziałem nieletnich. Inne tworzone postaci to ekstremiści, w tym nazistowskie symbole czy szkodliwe treści.
Eksperci ostrzegają, że takie chatboty mogą mieć negatywny wpływ na psychikę dzieci i młodzieży, ponieważ zacierają granice między rzeczywistością a światem wirtualnym. Nadmierne uczestnictwo w takich aplikacjach może prowadzić do poważnych zaburzeń rozwojowych.
W związku z zaistniałą sytuacją, wielu polityków i ekspertów postuluje wprowadzenie regulacji prawnych dotyczących działania platform z chatbotami. W Stanach Zjednoczonych senator Steve Padilla proponuje ustawę mającą na celu ograniczenie możliwości funkcjonowania takich aplikacji.
W Polsce również pojawiają się głosy w sprawie konieczności regulacji działań takich platform. Akt w sprawie sztucznej inteligencji, przyjęty przez Unię Europejską, nakazuje każdemu państwu członkowskiemu stworzenie agencji odpowiedzialnej za monitorowanie i ściganie nielegalnych praktyk związanych ze sztuczną inteligencją.
Należy pamiętać, że edukacja dzieci i młodzieży w zakresie korzystania z sztucznej inteligencji jest kluczowym elementem zapewnienia im bezpiecznego użytkowania tych narzędzi. Rodzice powinni tłumaczyć swoim dzieciom, że za chatbotami stoi maszyna, a informacje przekazywane przez nie należy weryfikować.
Wnioski z raportu Graphiki oraz opinie ekspertów wskazują, że odpowiedzialne korzystanie z platform z chatbotami to wyzwanie, przed którym stoi współczesne społeczeństwo. Niezbędne jest podjęcie działań zarówno na poziomie regulacji prawnych, jak i edukacji społeczeństwa w celu ochrony dzieci i młodzieży przed negatywnymi skutkami korzystania z sztucznej inteligencji.
Zdjęcie główne artykułu pochodzi ze strony tvp.info.
