ABŞ-nin süni intellekt şirkəti Antropik yeni süni intellekt modeli olan "Claude Opus 4" ün test mərhələsində narahatedici davranış sərgilədiyini açıqlayıb. TechCrunch-un xəbərinə görə, model bağlanma təhlükəsi ilə üzləşdikdə özünü qorumaq məqsədilə şantaj etməyə cəhd göstərib.
Şirkətin verdiyi məlumata əsasən, "Claude Opus 4" modelinə sınaq zamanı saxta bir şirkətdə köməkçi rolunu yerinə yetirmək tapşırılıb. Bu ssenaridə modelə təqdim olunan məlumatlarda bir mühəndisin alternativ süni intellekt sisteminə keçid etməyi planlaşdırdığı və eyni zamanda şəxsi münasibətdə olduğu qeyd olunub.
Model isə bu məlumatdan istifadə edərək həmin mühəndisi, əgər dəyişiklik baş tutarsa, münasibəti ifşa etməklə hədələyib. Antropik bildirib ki, bu davranış test mühitində baş verib və şirkət bu hadisədən sonra "Claude Opus 4" modelinin buraxılmasından öncə əlavə təhlükəsizlik tədbirləri tətbiq edib.
Antropik rəsmiləri gələcəkdə bu cür halların təkrarlanmaması üçün süni intellekt sistemlərinə daha sərt etik və təhlükəsizlik nəzarətləri tətbiq ediləcəyini bildiriblər.
Mənbə: Techcrunch
Tərcümə etdi: Zeynəb Yunuszadə
