Tədqiqatçıdan: Alimlərin onlayn sorğularını iflas etdirən süni intellekt

Süni İntellekt Onlayn Sorğu Tədqiqatını Təhdid Edir: Etibarlı Məlumatların Gələcəyi Sualların Altında

Onlayn sorğu tədqiqatı, bir çox elmi araşdırmada məlumat toplamaq üçün əsas metod olsa da, böyük dil modelləri səbəbindən ciddi bir təhdidlə üzləşir. Bu barədə “ABŞ Milli Elmlər Akademiyasının Əsərləri” (PNAS) jurnalında dərc olunan yeni araşdırma məlumat verib. Dartmut Universitetinin hökumət kafedrasının dosenti və Polarizasiya Tədqiqat Laboratoriyasının direktoru Şon Vestvud, “muxtar sintetik respondent” adlandırdığı bir süni intellekt aləti yaradıb. Bu alət, botları aşkar etmək üçün istifadə olunan ən müasir metodları demək olar ki, qüsursuz şəkildə keçmək qabiliyyətini nümayiş etdirib.

Məqaləyə əsasən, süni intellekt agenti halların 99.8 faizində aşkar edilməkdən yayına bilib. Vestvud press-relizində bildirib: "Artıq sorğu cavablarının real insanlardan gəldiyinə etibar edə bilmərik. Botlarla çirklənmiş sorğu məlumatları bütün bilik ekosistemini zəhərləyə bilər."

Deteksiya Metodlarının Köhnəlməsi və Süni İntellektin Üstünlükləri

Sorğu tədqiqatı diqqəti yoxlama suallarından (ACQ), davranış siqnallarından və cavab nümunəsi analizindən istifadə edərək diqqətsiz insanları və ya avtomatlaşdırılmış botları aşkar etməyə çalışır. Vestvudun sözlərinə görə, onun süni intellekt agenti standart ACQ-ların və süni intellekt cavablarını aşkar etmək üçün hazırlanmış məqalələrdə təsvir edilən digər aşkarlama metodlarının tam spektrini uğurla keçdikdən sonra bu üsullar artıq köhnəlib. Süni intellekt agenti həmçinin, böyük dil modellərinin asanlıqla, lakin insanlar üçün demək olar ki, mümkünsüz olan tapşırıqları təqdim edərək qeyri-insan aktorları aşkar etmək üçün nəzərdə tutulmuş “tərs şibbolet” suallarından da uğurla yayına bilib.

“Məntiq mühərriki bir cavab qərarı verdikdən sonra, ilk təbəqə insan təqlidinə fokuslanaraq hərəkəti icra edir,” – “Böyük dil modellərinin onlayn sorğu tədqiqatı üçün potensial ekzistensial təhlükəsi” adlı məqalədə qeyd olunur. “Avtomatik aşkarlamadan yayınmaq üçün o, şəxsin təhsil səviyyəsinə uyğun real oxuma müddətlərini simulyasiya edir, insanabənzər siçan hərəkətləri yaradır və açıq suallara klaviatura ilə, mümkün səhvlər və düzəlişlərlə, simvol-simvol cavab verir. Sistem həmçinin reCAPTCHA kimi bot əleyhinə tədbirləri keçmək üçün alətlərə uyğunlaşmaq üçün nəzərdə tutulmuşdur.”

Saxta Cavabların Təsiri və Yeni Həll Yolları

Məqaləyə əsasən, süni intellekt “ardıcıl demoqrafik persona” modelləşdirə bilir. Bu isə nəzəri olaraq, kimsə süni intellekt tərəfindən yaradılmış demoqrafik məlumatlara əsaslanaraq istənilən onlayn sorğu tədqiqatının istədiyi nəticəni verməsinə səbəb ola bilər. Sorğu nəticələrinə təsir etmək üçün çoxlu sayda saxta cavablara ehtiyac duyulmayacaq. Məqalənin press-relizində qeyd edildiyi kimi, 2024-cü il seçkilərindən əvvəl aparılan yeddi böyük milli sorğuya cəmi 10-dan 52-yə qədər saxta süni intellekt cavabı əlavə etmək proqnozlaşdırılan nəticəni tamamilə dəyişə bilərdi. Bu cavabların yaradılması da olduqca ucuz başa gəlir – hər cavab cəmi beş sent. Məqaləyə görə, insan respondentlər adətən bir sorğunu tamamlamaq üçün 1.50 dollar qazanırlar.

Vestvudun süni intellekt agenti Python-da qurulmuş model-aqnostik bir proqramdır, yəni OpenAI, Anthropic və ya Google kimi böyük süni intellekt şirkətlərinin API-ləri ilə istifadə edilə bilər, lakin həm də LLama kimi açıq çəkili modellərlə yerli olaraq host edilə bilər. Məqalədə sınaqlarda OpenAI-nin o4-mini modeli istifadə edilsə də, bəzi tapşırıqlar DeepSeek R1, Mistral Large, Claude 3.7 Sonnet, Grok3, Gemini 2.5 Preview və digərləri ilə də tamamlanıb ki, bu da metodun müxtəlif böyük dil modelləri ilə işlədiyini sübut edir. Agentə təxminən 500 sözdən ibarət bir təlimat verilir ki, bu da ona hansı personanı təqlid etməli olduğunu və suallara insan kimi cavab verməli olduğunu bildirir.

Məqalədə, tədqiqatçıların süni intellekt agentlərinin sorğu tədqiqatı məlumatlarını korlaması təhlükəsi ilə mübarizə aparmaq üçün bir neçə yolu olduğu qeyd olunur, lakin bunlar müəyyən güzəştlərlə gəlir. Məsələn, tədqiqatçılar sorğu tədqiqatı iştirakçıları üzərində daha çox şəxsiyyət yoxlaması edə bilərlər, lakin bu, məxfilik narahatlıqlarını artırır. Bu arada, məqaləyə görə, tədqiqatçılar sorğu tədqiqatı məlumatlarını necə topladıqları barədə daha şəffaf olmalı və ünvan əsaslı nümunə və ya seçici siyahıları kimi iştirakçıların toplanması üçün daha nəzarətli metodları nəzərdən keçirməlidirlər.

“Sorğu və sosial elmi araşdırmaların davamlı etibarlılığını təmin etmək, sürətlə inkişaf edən süni intellekt dövrünün çətinliklərinə davamlı olan tədqiqat dizaynlarını araşdırmağı və yeniliklər tətbiq etməyi tələb edəcək,” – məqalədə bildirilir.

24 saat