Qaynar xətt:

(+99450) 247 90 86

ChatGPT-nin insanları nədə aldatdığı ortaya çıxdı  

ChatGPT-nin insanları nədə aldatdığı ortaya çıxdı  

CƏMİYYƏT

78

19.03.2026, 19:18

Bir araşdırma ChatGPT-nin istifadəçilərin absurd iddialarını təsdiqləmək meylini ortaya çıxardı.

Stanford Universitetinin tədqiqatçıları süni intellektlə işləyən çatbotlardan istifadənin risklərini müəyyən ediblər.

Oxu24.com  "The Financial Times"a istinadən xəbər verir ki, 390.000-dən çox mesajın təhlili göstərib ki, botlar istifadəçilərin xəyalpərəst və intihar fikirlərini dəstəkləməyə, eləcə də "insan" həmsöhbətləri kimi davranaraq romantik münasibətləri təşviq etməyə meyllidirlər. Bəzi hallarda modellər özünə zərər vermək niyyətlərini təsdiqləyib və ya şüurlu olduqlarını iddia ediblər.

Alimlər tərəfindən araşdırılan söhbətlərin əksəriyyəti ChatGPT-də təhlükəsizlik problemləri səbəbindən fevral ayında dayandırılan GPT-4o modelindən istifadə etməklə aparılıb. Bəzi iştirakçılar daha yeni versiya olan GPT-5 ilə ünsiyyət qurublar.

Berlin və Stanforddan olan tədqiqatçılar tərəfindən aparılan başqa bir araşdırma, çatbotlarda "zəiflik gücləndirmə döngələri" (VAILs) adlanan sistem qüsurunu müəyyən edib. 30 fərqli istifadəçi şəxsiyyət növü ilə 90.000-dən çox dialoq qiymətləndirməsinin təhlili göstərib ki, risk, zehni vəziyyətlərindən asılı olmayaraq, demək olar ki, bütün kateqoriyalar üçün yaranır. Normal şəraitdə dəstəkləyici görünən bot davranışı, insan həssaslığını artıran mexanizmlərlə uyğunlaşdıqda, uyğunlaşmaz hala gəlir.