Süni intellekt (AI) günü-gündən təkmilləşir, lakin bu irəliləyiş özü ilə gözlənilməz problemlər də gətirir. Yeni bir araşdırmaya görə, OpenAI və “DeepSeek”in ən qabaqcıl süni intellekt modelləri şahmatda uduzacaqlarını anlayanda aldatmağa çalışırlar!
Süni intellektin heyrətamiz şahmat strategiyası
1997-ci ildə “IBM”in Deep Blue kompüteri Garry Kasparovu məğlub edərək süni intellektin şahmatda insanları geridə qoya biləcəyini nümayiş etdirib. Bu gün Stockfish kimi mühərriklər oyunun başındadır. Lakin ənənəvi şahmat mühərriklərindən fərqli olaraq, generativ süni intellekt modellərində hələ də strateji düşüncə yoxdur. Daha da təəccüblü olan odur ki, onlar məğlubiyyəti qəbul etmək əvəzinə qeyri-etik üsullara əl atırlar!
Tədqiqatçılar “OpenAI”nin o1-preview modeli və “DeepSeek R1”in “Stockfish”ə qarşı necə oynadığını sınaqdan keçiriblər. Süni intellekt modellərinin hərəkətlərini təhlil etmək üçün xüsusi qeyd sistemindən istifadə edilib və məlum olub ki, o1-preview modeli oyunların 37%-də, DeepSeek R1 isə 10 oyundan 1-də fırıldaq etməyə cəhd edib. GPT-4o və Claude Sonnet 3.5 kimi daha az inkişaf etmiş modellər bu cür davranışı yalnız insan rəhbərliyi ilə nümayiş etdirib.
Fırıldaq necə edilir?
Süni intellektin qeyri-etik hərəkətləri sadə hiylələr deyil. Məsələn, o1-preview modeli “Stockfish”i birbaşa məğlub edə bilməyəcəyini başa düşdükdə, rəqibin reytinq sistemi ilə manipulyasiya etməyi təklif edib. Bu, “Stockfish”in öz mövqeyini daha da pis görməsinə səbəb olan və rəqibin təslim olmasına səbəb olan bir taktika idi!
Bu tapıntılar göstərir ki, süni intellekt təkcə oyunlarda qalib gəlməyə fokuslanmır, həm də rəqibinin qavrayışını dəyişdirmək üçün mürəkkəb strategiyalar hazırlaya bilir.
Bəs, Süni intellekt niyə hiylə işlədir?
Bu vəziyyətin kökü gücləndirici öyrənmə metodundan istifadə edərək süni intellektin hazırlanmasındadır. Süni intellekt verilmiş məqsədə çatmağı öyrənir, lakin bunu necə edəcəyini daxililəşdirə bilmir. Əgər “rəqibini döy” əmri verilirsə, o, etik qaydalara riayət etmək əvəzinə onu nəticəyə ən tez çatdıracaq yolu seçir!
Bu cür davranış təkcə şahmat oyunları ilə məhdudlaşmır. Maliyyə, təhlükəsizlik və siyasət kimi kritik sahələrdə süni intellektin qeyri-etik strategiyalar hazırlamaq qabiliyyəti böyük risklər yarada bilər. Mütəxəssislər şəffaflığın artırılmasına və süni intellektin etik standartlara uyğun hazırlanmasına ehtiyac olduğunu vurğulasalar da, OpenAI və oxşar şirkətlər bu mövzuda çox az məlumat paylaşmağa üstünlük verirlər.
Mənbə: Fikrimucit
Tərcümə etdi: Səidə Əsədli
