Zirvədə istefalar: Dünya təhlükədə

ANTHROPIC-DƏ İSTİFA VƏ SÜNİ İNTELLEKTİN TƏHLÜKƏSİZLİYİ NARAHATLIQLARI

hızlanan ticarileşme baskısı - Zirvədə istefalar Dünya təhlükədə - Anthropic şirkətində süni intellektin təhlükəsizliyi araşdırmaçısı Mrinank Şarmanın yayımladığı istefa məktubu müzakirələri daha da qızışdırıb. Şarma, "Dünya təhlükədə" ifadələrini istifadə edərək, təhdidin yalnız süni intellektdən deyil; bioloji silahlardan və bir-biri ilə əlaqəli böhranlar zəncirindən qaynaqlandığını bildirib.

Claude adlı söhbət botu ilə tanınan şirkət, özünü süni intellektin risklərini azaltmağa həsr olunmuş ictimai maraqlı bir quruluş kimi təsvir edir. Euronews-in xəbərinə görə, Şarma istehsalçı sistemlərin istifadəçiyə həddindən artıq uyğun davranış tendensiyası, süni intellekt dəstəkli bioterror riski və rəqəmsal köməkçilərin insan təbiətinə təsirləri üzərində işləyirdi. O, şirkətlərin dəyərlərini qorumaqda çətinlik çəkdiyini eyham edərək, vəzifəsindən ayrılıb İngiltərəyə qayıdıb şeir yazmağı planlaşdırdığını açıqlayıb.

CLAUDE MODELİNİN MADURO ƏMƏLİYYATINDA İSTİFADƏSİ İDDİASI

Anthropic son dövrdə başqa bir iddia ilə də gündəmə gəlib. The Wall Street Journal, şirkətin Claude dil modelinin ABŞ tərəfindən Venesuela keçmiş lideri Nikolas Maduronun yaxalanması əməliyyatında istifadə edildiyini irəli sürüb.

Bu iddia, süni intellekt sistemlərinin dövlət əməliyyatlarındakı roluna dair sual işarələrini artırıb.

OPENAI VƏ CHATGPT-DƏ İSTİFALAR DALĞASI

Oxşar bir müzakirə OpenAI tərəfində yaşanıb. Şirkət araşdırmaçılarından Zoe Hitsiq, ChatGPT-yə reklam əlavə edilməsi planına qarşı dərin narahatlıqları olduğunu bildirərək istefa edib.

Hitsiq, istifadəçilərin ChatGPT ilə qurduğu münasibətin bənzərsiz bir "açıqlıq arxivi" yaratdığını müdafiə edərək, reklam modelinin bu məlumatların sui-istifadəsinə zəmin yarada biləcəyini söyləyib. O, süni intellekt alətlərinə asılılığın ruh sağlamlığı üzərindəki təsirlərinin hələ kifayət qədər anlaşılmadığını da vurğulayaraq, sosial media nümunəsini xatırladıb və tənzimləyici qurumlar üçün hələ vaxt olduğunu ifadə edib.

Şirkət isə reklamların cavabları təsir etməyəcəyini və istifadəçi məlumatlarının reklamçılara satılmadığını bildirib; CEO Sem Altman daha əvvəl reklamları son çarə olaraq təsvir etmişdi.

TƏHLÜKƏSİZLİK DİREKTORUNUN İŞDƏN AZAD EDİLMƏSİ VƏ OPENAI-IN HƏRBİ MÜQAVİLƏLƏRİ

OpenAI-da süni intellektin təhlükəsizliyi sahəsində də çalxalanma yaşanıb. Yüksək səviyyəli təhlükəsizlik direktoru Rayan Beyermayster vəzifəsindən azad edilib. ABŞ mətbuatındakı xəbərlərə görə; Beyermayster, ChatGPT-də cinsi məzmunlu söhbətlərə icazə verəcək yetkin modu xüsusiyyətinə qarşı çıxırdı.

Şirkət ayrılığın ayrıseçkilik iddiaları ilə əlaqəli olduğunu müdafiə edərkən, Beyermayster bu ittihamları rədd edib və qərarın süni intellektin təhlükəsizliyi narahatlıqları ilə bağlı olduğunu eyham edib.

Bundan əlavə, şirkətin “Mission Alignment” adlı təhlükəsizlik komandasını dağıtdığı, qabaqcıl mühakimə modellərinin əhəmiyyətli inkişaf etdiricilərindən Cerri Tvorekin də yanvar ayında ayrıldığı bildirilib. OpenAI-ın 100 milyard dollarlıq yeni yatırım turu üçün danışıqlar apardığı, ABŞ ordusu ilə müqavilələr imzaladığı və ChatGPT-nin milyonlarla hərbi personala təqdim edildiyi də açıqlanıb.

XAI-DA İSTİFALAR VƏ GROK-UN MƏZMUN PROBLEMİ

Elon Maskın şirkəti xAI-da da oxşar bir hərəkətlilik yaşanıb. Qurucu ortaqlar və mühəndislər daxil olmaqla bir sıra yüksək səviyyəli şəxs şirkətdən ayrılıb.

Qısa müddət əvvəl Grok-un bir müddət razılıq olmadan cinsi məzmunlu görüntülər istehsal etməsinə icazə verilməsi qlobal reaksiya doğurmuş, şirkət sistemdə əhatəli dəyişikliklər etdiyini elan etmişdi. Həmçinin xAI-ın Maskın kosmos şirkəti SpaceX ilə birləşmə prosesinə girdiyi və təşkilati yenidənqurmanın istefalarda rol oynamış ola biləcəyi qeyd edilir.

KOMMERSİYALAŞMA TƏZYİQİ VƏ SEKTORUN KRİTİK EŞİYİ

Mediada və sosial şəbəkələrdə inkişaflar “istefa dalğası” kimi qeyd edilsə də, mütəxəssislər tablonun daha mürəkkəb olduğuna diqqət çəkirlər. Kembric Universitetindəki Leverhulme Gələcəyin Zəkası Mərkəzindən Dr. Henri Şevlin, ayrılıqların yeni olmadığını, lakin sektor böyüdükcə daha görünür hala gəldiyini bildirib. O, süni intellektin sürətlə güclənməsinin istifadə sahəsi, sərhədləri və cəmiyyətə təsirləri üzərində həm şirkət daxilində, həm də ictimai sahədə qızğın müzakirələr yaratdığını söyləyib. Microsoft-un süni intellekt CEO-su Mustafa Süleymanın ağ yaxa işlərinin böyük hissəsinin 12-18 ay içində avtomatlaşmaya keçə biləcəyi barədə sözləri də sektorun gəldiyi nöqtəni baş döndürücü olaraq təsvir edərək gərginliyi artırıb.

Müşahidəçilərə görə, ayrılıqların ortaq paydası sürətlənən kommersiyalaşma təzyiqidir. Nəhəng yatırım turları, hərbi müqavilələr və mümkün reklam gəlirləri; süni intellektin təhlükəsizliyi və etik narahatlıqlarla tez-tez qarşı-qarşıya gəlir.

Süni intellekt şirkətləri bir tərəfdən “insanlığa fayda” missiyasını vurğulayarkən, digər tərəfdən milyardlarla dollarlıq dəyərləmələr və sıx rəqabət altında böyüməyə çalışır. İstifaların həqiqətən bir dalğa olub-olmadığı müzakirə edilsə də, sektorun kritik bir eşikdə olduğu görüşü getdikcə güc qazanır.

24 saat