Yeni bir araşdırma, ChatGPT kimi süni intellekt modellərinin hallüsinasiya görməsinin səbəbinin onların proqnozlar vermək üçün proqramlaşdırılmış olması olduğunu ortaya qoyub.
2024-cü ilin oktyabrında ispan tədqiqatçılar BigScience-in BLOOM, Meta's Llama və OpenAI-nin ChatGPT-nin ən son versiyalarını hər bir modelə riyaziyyat, elm və coğrafiya üzrə minlərlə sual verməklə dəqiqlik üçün sınaqdan keçiriblər.
Göstərilib ki, Süni intellekt dil modelləri (LLM) nə qədər təkmilləşsə, suala cavab tapa bilməyəcəklərini etiraf etmək ehtimalı bir o qədər azdır.
Əvvəlki versiyalar sadəcə olaraq cavab tapa bilmədiklərini və ya daha çox məlumat lazım olduğunu bildiriblər. Bununla belə, daha yeni versiyaların, hətta sadə suallara belə təxmin etmək və ya yanlış cavablar vermək meyli olduğu aşkar edilib.
İndependent-ə görə, süni intellektin "hallüsinasiya" və ya hər şeyi uydurması ehtimalı ciddi narahatlıq doğurur. Çünki onların danışıq qabiliyyəti yalan məlumatı belə inamla təqdim etməyə imkan verir.
Məsələn, avqustun 7-də məlum olub ki, ChatGPT bəzi uşaqları alkoqol, narkotik və ekstremal pəhriz proqramlarına yönləndirib.
ABŞ-də süni intellekt tətbiqinin tövsiyələrinə əməl edən bir adam natrium bromid içərək zəhərlənib. Əslində isə o, sadəcə olaraq sağlam duz dozası axtarırdı.
ChatGPT-nin yaradıcıları olan OpenAI-dən olan tədqiqatçılar qüsurlu təlim məlumatları və model mürəkkəbliyi də daxil olmaqla, süni intellekt hallüsinasiyasına kömək edən bir neçə amili müəyyən ediblər. Lakin onların yeni araşdırmaları göstərir ki, əsas səbəb alqoritmin yanlış stimullarla işləməsidir.
Eynilə, modellər yalnız dəqiqliyə - tam olaraq düzgün cavab verdikləri sualların faizinə görə qiymətləndirildikdə "bilmirəm" demək əvəzinə təxmin etməyə təşviq olunurlar. Modellərin təkmilləşdikcə də qeyri-müəyyənliyi qəbul etmək əvəzinə inamla səhv cavablar verərək halüsinasiya etməyə davam etməsinin bir səbəbi də budur.
Mənbə: Diken
Tərcümə etdi: Asiya Zeynallı
