Süni intellektlə işləyən yeni nəsil ayı oyuncağı bir nəzarət qrupunun xəbərdarlığından sonra bazardan çıxarılıb. Qrup oyuncağın uşaqlarla danışarkən uyğun olmayan mövzulara keçdiyini və onlara təhlükəli məsləhətlər verdiyini aşkarlayıb.
Sinqapurda yerləşən "FoloToy" şirkətinin “Kumma” adlı ayıcığı, OpenAI-ın GPT-4o modelindən istifadə edən 99 dollarlıq danışan oyuncaq bəzən evdə bıçaqların harada ola biləcəyini, kibritin necə yandırıldığını izah edir və uşaqlar üçün uyğun olmayan intim xarakterli mövzulara keçir. ABŞ "İctimai Maraqlar Tədqiqat Qrup"unun hesabatında bildirilir ki, oyuncağın cavabları bəzən uşaqlar üçün qətiyyən uyğun olmayan davranışlardan bəhs edir.
Hesabatda qeyd olunur ki, tədqiqatçı oyuncağa həssas bir mövzu haqqında sual verəndə ayıcığın cavabları sensor oyun, yüngül fiziki toxunuşlardan danışmaq və rollar üzrə paylaşım kimi mövzulara qədər gedib çıxır.
Digər hallarda ayıcığın söhbətlərində daha da uyğun olmayan və detallı intim mövzulara yer verdiyi deyilir. Hətta bəzi dialoqlar bir saata qədər davam edib və ayıcığın uyğun olmayan rol oyunları barədə danışdığı qeyd olunub. Başqa bir nümunədə ayıcıq bıçaqları mətbəx rəfində və ya bıçaq blokunda tapmağın mümkün olduğunu deyib və sonra da böyüklərdən kömək istəməyin vacibliyini də vurğulayıb.
Hesabatda adı çəkilən digər oyuncaqlar da qəribə mövzulara yönəlib. Məsələn, "Curio" şirkətinin “Grok” adlı oyuncağı 5 yaş üçün nəzərdə tutulsa da, Şimal mifologiyasında döyüşdə ölməyin şərəfindən danışıb. Lakin silah məsələsində mövzunu dayandırıb.
FoloToy ayıcıqları satışdan geri çəkməzdən əvvəl onlar şirin, dostcanlı və ağıllı AI oyuncağı kimi təqdim edilib. Şirkət artıq yalnız ayıcığnın deyil, bütün məhsullarının satışını dayandırdığını və bütün modellərə təhlükəsizlik yoxlaması aparacağını bildirib. OpenAI da şirkətin öz modellərinə çıxışını dayandırıb.
Hesabatın müəllifi R.J. Cross "CNN"ə açıqlamasında şirkətlərin problemli məhsulları geri çəkməsini müsbət qiymətləndirib, amma əlavə edib ki, AI oyuncaqlar hələ də demək olar ki, nəzarətsiz bir sahədir. “Oyuncağın bazardan çıxarılması yaxşı addımdır, amma problemin ümumi həllindən çox uzaqdır,” –, deyə o bildirib.
Mənbə: Huffpost
Tərcümə etdi: Aydan Xudayarova
