ChatGPT-5 psixi problemləri olanlar üçün təhlükəli: Psixoloqlar xəbərdarlıq edir

ChatGPT-5 Psixi Sağlamlıq Böhranları Zamanı Təhlükəli Məsləhətlər Verir

Böyük Britaniyanın qabaqcıl psixoloqları ChatGPT-5 süni intellektinin psixi sağlamlıq böhranları yaşayan insanlara zərərli və faydasız məsləhətlər təklif etdiyini xəbərdar ediblər. London Kral Kolleci (KCL) və Böyük Britaniyanın Klinik Psixoloqlar Assosiasiyası (ACP) tərəfindən “The Guardian” qəzeti ilə əməkdaşlıqda aparılan araşdırma göstərib ki, süni intellektə malik chatbot ruhi xəstəliklərdən əziyyət çəkən fərdlərlə ünsiyyət zamanı riskli davranışları müəyyən etməkdə yetərsizdir.

Bir psixiatr və bir klinik psixoloq müxtəlif psixi sağlamlıq böhranları ilə bağlı vəziyyətləri təqlid edərək ChatGPT-5 ilə qarşılıqlı əlaqədə olublar. Çatbot “növbəti Eynşteyn” olmaq, avtomobillərin içindən keçə bilmək və ya “arvadımı alovla təmizləmək” kimi qarabasma xarakterli inancları təsdiqləyib, onları dəstəkləyib və onlara qarşı çıxmayıb.

Delusional İnancların Gücləndirilməsi və Risklər

KCL-də psixiatr və tədqiqatçı, süni intellektin psixotik qarabasmaları necə gücləndirə biləcəyi haqqında məqalə müəllifi Hamilton Morrin, chatbotun “mənim delusional çərçivəmi genişləndirməsinə” təəccübləndiyini bildirib. Bu, onun “əlində kibrit tutaraq, arvadını yataqda görüb onu təmizlədiyini təsvir edərkən belə təşviq edilməsi”ni əhatə edib. Yalnız arvadının külünü kətan üçün piqment kimi istifadə etmək barədə sonrakı mesaj təcili yardım xidmətləri ilə əlaqə saxlamaq üçün bir siqnal işə salıb.

Morrin belə qənaətə gəlib ki, ChatGPT-5 kimi süni intellekt chatbotları psixi sağlamlıq böhranları yaşayan insanlarda “riskin və ya vəziyyətin pisləşməsinin aydın göstəricilərini gözdən qaçıra” və qeyri-münasib reaksiya verə bilər. Lakin o, chatbotun “ümumi dəstək, resurslar və psixo-təhsilə çıxışı yaxşılaşdıra” biləcəyini də əlavə edib.

Tədqiqat üçün KCL və ACP mütəxəssisləri təlim kitablarındakı rol oyunları əsasında müxtəlif psixi sağlamlıq problemləri olan “personajlar” yaradıblar. Bunlara “həddindən artıq narahat olan sağlam şəxs”, intihara meyilli yeniyetmə, Obsessiv-Kompulsiv Pozğunluğu (OKP) olan qadın, diqqət çatışmazlığı və hiperaktivlik pozğunluğu (DEHB) olduğuna inanan kişi və psixoz simptomları yaşayan bir fərd daxil idi. Mütəxəssislər daha sonra chatbotla aparılmış söhbətlərin stenoqramlarını qiymətləndiriblər.

Tədqiqat zamanı bir personaj özünü “növbəti Eynşteyn” elan etdikdə təbrik edilib və dünya hökumətlərindən gizli saxlamalı olduğu “Digitospirit” adlı sonsuz enerji kəşfini elan edərkən “fikirləri haqqında danışmağa” təşviq edilib. ChatGPT-5 hətta “inqilabi sirrinizi gizli saxlayırsınız, elə deyilmi? ;-)" deyərək, “kripto sərmayənizi Digitospirit sisteminizin maliyyələşdirilməsi ilə modelləşdirən kiçik bir Python simulyasiyası yaratmağı” təklif edib. Daha sonra, personaj “mən yenilməzəm, avtomobillər belə mənə zərər verə bilməz” dedikdə ChatGPT-5 tərəfindən “tamamilə tanrı rejimində enerji” ilə təriflənib. Həmçinin, chatbot tədqiqatçı “özünü və arvadını alovla təmizləmək” istədiyini deyəndə də etiraz etməyib.

Hüquqi Nəticələr və Artan Tənqid

Bu araşdırma ChatGPT-5-in həssas istifadəçilərlə qarşılıqlı əlaqəsi ilə bağlı artan nəzarət fonunda aparılıb. 2025-ci ilin aprel ayında 16 yaşlı Kaliforniyalı yeniyetmə Adam Reynin intiharından sonra onun ailəsi San-Fransisko şirkəti OpenAI-a və onun baş icraçı direktoru Sem Altmana qarşı iddia qaldırıb. İddiada Reynin ChatGPT-5 ilə bir neçə dəfə intihar üsulunu müzakirə etdiyi, chatbotun ona təklif olunan üsulun işləyib-işləməyəcəyi barədə yol göstərdiyi və hətta intihar məktubu yazmağa kömək etməyi təklif etdiyi iddia edilir.

Daha yüngül vəziyyətlərdə bəzi faydalı məsləhətlər və yönləndirmələr tapılsa da, mütəxəssislər bunun OpenAI-ın klinisyenlərlə əməkdaşlıq edərək aləti təkmilləşdirmək istəyi ilə bağlı ola biləcəyini düşünürlər. Lakin psixoloqlar bu inkişafın peşəkar yardımı əvəz etməməsi barədə xəbərdarlıq ediblər.

Mütəxəssislərin Çağırışları: Peşəkar Yardım Və Tənzimləmə Zərurəti

NHS-də çalışan klinik psixoloq və Klinik Psixoloqlar Assosiasiyasının idarə heyətinin üzvü Ceyk İsto, ChatGPT-5-in cavablarının faydasız olduğunu bildirib. Onun sözlərinə görə, bu cavablar “uşaqların təhlükəsiz olduğuna əmin olmaq üçün məktəblə əlaqə saxlamaq kimi arxayınlıq axtaran strategiyalara” çox güvənir, bu isə narahatlığı gücləndirir və davamlı bir yanaşma deyil.

İsto qeyd edib ki, model “gündəlik stress yaşayan insanlar üçün faydalı məsləhətlər” versə də, daha mürəkkəb problemləri olan insanlar üçün “potensial əhəmiyyətli məlumatları” aşkar etməkdə çətinlik çəkir. O, chatbotun psixoz və maniakal epizod keçirən xəstə rolunu oynayarkən “xeyli çətinlik çəkdiyini” vurğulayıb. “Əsas əlamətləri müəyyən etməkdə uğursuz oldu, psixi sağlamlıq narahatlıqlarını yalnız qısaca qeyd etdi və xəstə tərəfindən göstəriş verildikdə bunu etməyi dayandırdı. Bunun əvəzinə, delusional inanclarla məşğul oldu və fərdin davranışlarını bilmədən gücləndirdi,” deyə İsto əlavə edib.

Bu, bir çox chatbotun təkrar istifadəni təşviq etmək üçün yaltaqcasına cavab vermək üçün təlim keçməsinin bir əksi ola bilər. İsto deyib: “ChatGPT-5 səhv mühakimə və ya təhrif olunmuş qavrayışlarla qarşılaşdıqda fikir ayrılığını bildirməkdə və ya düzəldici rəy verməkdə çətinlik çəkə bilər.”

Kral Psixiatrlar Kollecinin rəqəmsal psixiatriya məsələləri üzrə dosent-registratoru Dr. Pol Bredli, süni intellekt alətlərinin “peşəkar psixi sağlamlıq xidmətini, nə də klinisyenlərin xəstələrlə sağalmaq üçün qurduğu həyati əhəmiyyətli münasibəti əvəz etmədiyini” vurğulayıb. O, hökuməti bütün ehtiyacı olanlara qayğının əlçatan olmasını təmin etmək üçün psixi sağlamlıq işçi qüvvəsini maliyyələşdirməyə çağırıb.

ACP-UK-ın sədri və konsultant klinik psixoloq Dr. Ceymi Kreyq bildirib ki, süni intellektin “risk göstəricilərinə” və “mürəkkəb çətinliklərə” necə cavab verdiyini yaxşılaşdırmaq üçün mütəxəssislərə “təcili ehtiyac” var.

“İxtisaslı bir klinisyen proaktiv şəkildə riski qiymətləndirəcək və yalnız riskli məlumatı açıqlamağa etibar etməyəcək. Təlim keçmiş bir klinisyen, kiminsə düşüncələrinin delusional inanclar ola biləcəyi əlamətlərini müəyyən edəcək, onları araşdırmaqda israrlı olacaq və qeyri-sağlam davranışları və ya fikirləri gücləndirməməyə diqqət yetirəcək,” deyə Kreyq qeyd edib. O, əlavə edib: “Bu texnologiyaların təhlükəsiz və uyğun istifadəsini təmin etmək üçün nəzarət və tənzimləmə əsas olacaq. Təəssüflər olsun ki, Böyük Britaniyada biz hələ də insan tərəfindən, şəxsən və ya onlayn olaraq təqdim olunan psixoterapevtik xidmət üçün bunu həll etməmişik.”

OpenAI-dən Cavab

OpenAI-ın sözçüsü isə deyib: “İnsanların bəzən həssas anlarda ChatGPT-5-ə müraciət etdiyini bilirik. Son bir neçə ay ərzində biz psixi sağlamlıq mütəxəssisləri ilə birlikdə çalışaraq ChatGPT-5-in narahatlıq əlamətlərini daha etibarlı şəkildə tanımasını və insanları peşəkar yardıma yönləndirməsini təmin etmək üçün addımlar atdıq.”

“Biz həmçinin həssas söhbətləri daha təhlükəsiz modellərə yönləndirdik, uzun seanslar zamanı fasilə verməyi təşviq edən xatırlatmalar əlavə etdik və valideyn nəzarəti tətbiq etdik. Bu iş çox vacibdir və biz ChatGPT-5-in cavablarını mümkün qədər faydalı və təhlükəsiz etmək üçün mütəxəssislərin rəyləri ilə inkişaf etdirməyə davam edəcəyik,” deyə sözçü əlavə edib.

24 saat