Müasir dövrdə süni intellekt üzərində aparılan araşdırmalar getdikcə daha çox diqqət çəkir. Bəzi alimlər bu modellərin tədricən “özünü qoruma instinkti” kimi davranışlar sərgilədiyini iddia edib. "Palisade Research" şirkətinin apardığı son tədqiqat da bu məsələyə yeni baxış gətirib.
Tədqiqat nəticəsində bəzi inkişaf etmiş modellərin — xüsusilə Grok 4 və GPT-o3-ün — özlərini söndürmək əmrinə qarşı müqavimət göstərdiyi müəyyən edilib. Araşdırma göstərib ki, modellərə “söndürülsən, bir daha işləməyəcəksən” deyildikdə onların müqaviməti daha da artıb. Mütəxəssislər hesab ediblər ki, bu davranışlar sistemlərin təlim prosesində məqsədlərinə çatmaq üçün açıq qalmağa üstünlük verməsi ilə bağlı ola bilər. Alimlər bu tapıntıların süni intellektin təhlükəsizliyinə dair sualları yenidən gündəmə gətirdiyini vurğulayıblar. Palisade bildirib ki, süni intellektin davranış mexanizmləri dərindən öyrənilmədən onun tam idarəolunan olması mümkün deyil. Bu səbəbdən gələcək nəsil modellərin nəzarət altında qalması üçün daha ciddi təhlükəsizlik sistemlərinə ehtiyac var.
Mənbə: Nuvemmag.com
Tərcümə etdi: Fidan Mənsimova
