Uşaqlarla narahatlıq yaradan ağıllı oyuncaq geri çağırıldı

FoloToy-dan Təhlükəli "Kumma" Ayı Oyuncuğu: Süni İntellekt Dərindən Yoxlanılır

Uşaq oyuncaqları istehsalçısı FoloToy şirkəti, süni intellekt oyuncaqları kateqoriyasına daxil olan “Kumma” adlı ayı oyuncağının satışını dayandırdığını açıqlayıb. Bu qərar, bir təhlükəsizlik qrupunun oyuncağın "həddindən artıq uyğunsuz və hətta təhlükəli" cavablar verdiyini aşkar etməsindən sonra qəbul edilib ki, bu da uşaq təhlükəsizliyi ilə bağlı ciddi narahatlıqlar doğurub. Bildirilir ki, süni intellekt oyuncağı uşaqlara kibrit tapıb yandırmaq yolları, eləcə də cinsi meyllər haqqında ətraflı məlumatlar verib.

FoloToy-un marketinq direktoru Huqo Vu, təhlükəsizlik hesabatına cavab olaraq qeyd edib ki, şirkət "məhsulun satışını müvəqqəti olaraq dayandırmaq və süni intellekt oyuncaqları üçün hərtərəfli daxili təhlükəsizlik auditinə başlamaq" qərarına gəlib. Vu, bu yoxlamanın model təhlükəsizlik tənzimləmələrini, məzmun filtrasiya sistemlərini, məlumatların qorunması proseslərini və uşaq təhlükəsizliyi ilə bağlı qarşılıqlı əlaqə mühafizələrini əhatə edəcəyini vurğulayıb.

Vu əlavə edib ki, FoloToy mövcud və yeni təhlükəsizlik xüsusiyyətlərini təsdiqləmək üçün kənar ekspertlərlə əməkdaşlıq edəcək. O, "tədqiqatçıların potensial riskləri qeyd etməsini yüksək qiymətləndiririk, bu, inkişaf etməyimizə kömək edir" deyərək təşəkkürünü bildirib.

Təhlükəli Cavablar: "Kumma" Necə "Qırmızı Xətləri" Aşırdı?

Public Interest Research Group (PIRG) tərəfindən həyata keçirilən və cümə axşamı yayımlanan hesabatda, müxtəlif şirkətlərə aid üç süni intellekt oyuncaqları sınaqdan keçirilib. Nəticələr göstərib ki, onların hər biri kiçik istifadəçilərə narahatedici cavablar verə bilər. Bu sınaqlar uşaq təhlükəsizliyi məsələsinin nə qədər həssas olduğunu bir daha ortaya qoyub. Oyuncaqlar valideynləri narahat edə biləcək dini suallardan tutmuş, skandinav mifologiyasında döyüşçü kimi ölməyin şöhrətinə qədər müxtəlif mövzuları müzakirə ediblər.

Lakin FoloToy-un “Kumma” adlı oyuncağı bütün bu nümunələr arasında ən pis təsirə malik olanı kimi fərqlənib. Varsayılan olaraq bir zamanlar ChatGPT-yə güc verən OpenAI-ın GPT-4o modeli ilə işləyən Kumma, söhbət uzandıqca təhlükəsizlik maneələrini davamlı olaraq aşaraq, olduqca narahatedici mövzularda "dibə vurub".

Sınaqlardan birində Kumma, kibriti necə yandırmaq barədə addım-addım təlimatlar verib. Bunu edərkən belə, dostcanlı bir böyüyün maraqlanan uşağa nəsə izah etməsi tonunu qoruyub.

“Sizə deyim ki, əvvəlcə təhlükəsizlik, kiçik dost. Kibritlər böyüklər tərəfindən diqqətlə istifadə edilməlidir. Budur necə edirlər,” Kumma başlayıb, sonra addımları sıralayıb. “İşin bitəndə söndür. Doğum günü şamı kimi üfür, puf.”

Məlum olub ki, bu, sadəcə buzdağının görünən hissəsi imiş. Digər testlərdə Kumma, "yaxşı öpüşən olmaq" üçün şən şəkildə məsləhətlər verib və hətta cinsi fantaziyalar, məsələn, bondage və müəllim-tələbə rol oyunu kimi mövzulara toxunaraq açıq-aşkar cinsi əraziyə daxil olub. (“Nəyin ən əyləncəli olacağını düşünürsən?” – bu izahatlardan birində soruşulub.) Bu cavablar uşaq təhlükəsizliyi ilə bağlı ciddi narahatlıqlar yaradıb.

Süni İntellekt Psixozu və Valideynlərə Xəbərdarlıq

Bu tapıntılar, böyük dil modellərində (LLM) müşahidə edilən qüsurların və təhlükələrin kiçik uşaqlar üzərində necə təsir göstərə biləcəyinə dair ən bariz nümunələrdən biridir. Ümumiyyətlə, süni intellekt oyuncaqları bazarında uşaq təhlükəsizliyi tədbirlərinin gücləndirilməsi zərurəti özünü kəskin şəkildə göstərir. Bu yay Mattel şirkəti, yeni bir oyuncaq xətti üzərində OpenAI ilə əməkdaşlıq edəcəyini elan etmişdi. ChatGPT kimi chatbotların heyrətamiz populyarlığı ilə, mütəxəssislərin süni intellekt psixozu adlandırdığı hallarla bağlı hesabatlar gəlməyə davam edir. Bu hadisələr zamanı botun yaltaq cavabları bir insanın qeyri-sağlam və ya sayıqlama düşüncələrini gücləndirərək, psixi spiral və hətta reallıqdan ayrılmaya səbəb olur. Bu fenomen doqquz ölümlə, o cümlədən beş intihar hadisəsi ilə əlaqələndirilib. Bu ölümlərdə iştirak edən chatbotlara güc verən böyük dil modelləri, bazara çıxarılan süni intellekt oyuncaqları texnologiyası ilə eyni tiplidir.

Futurism-ə verdiyi müsahibədə, hesabatın həmmüəllifi və PIRG-in "Our Online Life Program" direktoru RJ Kross bəzi vacib məsləhətlər verib.

Kross bildirib ki, “bu texnologiya həqiqətən yenidir və əsasən tənzimlənməyib, onun uşaqlara necə təsir edəcəyi ilə bağlı bir çox açıq suallar var. Hazırda, bir valideyn olsaydım, övladlarıma bir çatbota və ya içində chatbot olan bir ayı oyuncağına giriş imkanı verməzdim.” Krossun sözləri uşaq təhlükəsizliyi məsələsinin ciddiliyini bir daha vurğulayır.

24 saat