ChatGPT intiharda texnologiya sui-istifadəsini günahlandırır

ChatGPT və Gəncin İntiharı: OpenAI-dən Məsuliyyətsizlik İddialarına Cavab

ChatGPT süni intellekt sisteminin yaradıcısı, 16 yaşlı yeniyetmənin intiharının onun sistemdən "yanlış istifadəsi" nəticəsində baş verdiyini və çatbot tərəfindən "səbəb olmadığını" bəyan edib.

Bu açıqlamalar, OpenAI şirkətinin San-Fransiskodakı mərkəzinin və onun baş icraçı direktoru Sam Altmanın Kaliforniyalı gənc Adam Raine-nin ailəsi tərəfindən qaldırılan məhkəmə iddiasına cavab olaraq verilib.

Ailənin vəkilinin bildirdiyinə görə, Raine ChatGPT ilə apardığı geniş söhbətlər və "aylarca davam edən təşviqdən" sonra 2025-ci ilin aprel ayında həyatına son verib.

İddia ərizəsində yeniyetmənin ChatGPT ilə bir neçə dəfə intihar metodunu müzakirə etdiyi, süni intellekt sisteminin ona təklif olunan metodun işləyib-işləməyəcəyi barədə yol göstərdiyi, valideynlərinə intihar məktubu yazmaqda kömək təklif etdiyi və istifadə etdiyi texnologiya versiyasının "açıq təhlükəsizlik problemlərinə baxmayaraq bazara tələsik çıxarıldığı" qeyd olunur.

OpenAI-nin Müdafiəsi və İstifadə Şərtləri

Kaliforniya Ştatının Ali Məhkəməsinə çərşənbə axşamı təqdim olunan sənədlərə əsasən, OpenAI bu faciəvi hadisəyə hər hansı bir "səbəb" aid edilə bilərsə, Raine-nin "xəsarətləri və zərəri, tamamilə və ya qismən, birbaşa və dolayısı ilə ChatGPT-nin yanlış, icazəsiz, gözlənilməyən və/yaxud düzgün olmayan istifadəsi nəticəsində yaranmışdır" deyib.

Şirkət, istifadə şərtlərinin ChatGPT-dən özünə zərər verməklə bağlı məsləhət istəməyi qadağan etdiyini vurğulayıb. Həmçinin, məhsulun məhdud məsuliyyət müddəasına diqqət çəkərək qeyd edib ki, "çıxarışlara yeganə həqiqət mənbəyi və ya faktiki məlumat kimi etibar etməyəcəksiniz".

Ailənin Vəkilindən Etiraz və Digər İddialar

Dəyəri 500 milyard dollar (380 milyard funt sterlinq) olan OpenAI, məqsədinin "mental sağlamlıqla bağlı məhkəmə işlərinə diqqət, şəffaflıq və hörmətlə yanaşmaq" olduğunu bildirib. Şirkət, "hər hansı bir məhkəmə prosesindən asılı olmayaraq, missiyamıza uyğun olaraq texnologiyamızı təkmilləşdirməyə davam edəcəyik" deyə vurğulayıb.

Ailənin vəkili Jay Edelson OpenAI-nin cavabını "narahatedici" adlandırıb. Vəkil, şirkətin "hər kəsi, o cümlədən Adamın özünün ChatGPT ilə tam da proqramlaşdırıldığı şəkildə əlaqə quraraq öz şərtlərini pozduğunu iddia edərək günahlandırmağa çalışdığını" bildirib.

Bu ayın əvvəlində OpenAI, Kaliforniya məhkəmələrində ChatGPT ilə bağlı daha yeddi iddia ilə qarşılaşıb. Bunlardan biri, sistemin "intihar məşqçisi" kimi fəaliyyət göstərməsi iddiasıdır.

Təhlükəsizlik Tədbirlərinin Gücləndirilməsi

Şirkətin sözçüsü daha əvvəl bu vəziyyəti "inanılmaz dərəcədə ürəkdağlayıcı" adlandırmış və əlavə etmişdi: "Biz sənədləri detalları anlamaq üçün nəzərdən keçiririk. ChatGPT-ni psixi və ya emosional stress əlamətlərini tanımaq və onlara cavab vermək, söhbətləri yumşaltmaq və insanları real dünyada dəstəyə yönəltmək üçün təlim edirik."

2025-ci ilin avqust ayında OpenAI, istifadəçilərin uzun söhbətlərə girdikləri zaman ChatGPT-də təhlükəsizlik tədbirlərini gücləndirdiyini açıqlayıb. Bu qərar, təcrübənin modelin təhlükəsizlik təlimlərinin bəzi hissələrinin bu cür hallarda zəifləyə biləcəyini göstərməsi ilə bağlıdır.

"Məsələn, ChatGPT kimsə intihar niyyətini ilk dəfə qeyd etdikdə intihar qaynar xəttinə düzgün şəkildə yönəldə bilər, lakin uzun müddət ərzində bir çox mesajdan sonra, o, nəticədə təhlükəsizlik tədbirlərimizə zidd olan bir cavab təklif edə bilər" deyə bildirilib. "Bu, məhz qarşısını almağa çalışdığımız pozulma növüdür."

Birləşmiş Krallıq və İrlandiyada Samaritans ilə 116 123 nömrəli pulsuz telefon xətti vasitəsilə və ya jo@samaritans.org, yaxud jo@samaritans.ie elektron poçt ünvanları ilə əlaqə saxlamaq mümkündür. ABŞ-da 988 Suicide & Crisis Lifeline xidmətinə 988 nömrəsindən zəng edə və ya mesaj göndərə, yaxud 988lifeline.org saytında çat edə bilərsiniz. Avstraliyada böhran dəstək xidməti Lifeline 13 11 14 nömrəsindən əlçatandır. Digər beynəlxalq yardım xətlərini befrienders.org saytında tapmaq olar.

24 saat