METR hesabatı: Anthropic-də süni intellekt tədqiqatı iki dəfə sürətlənib

Süni intellekt təhlükəsizliyi üzrə araşdırma təşkilatı METR The Verge-in yazdığına görə Anthropic daxilində 11 həftəlik yoxlama aparıb və nəticələri cümə axşamı dərc edib. Hesabat göstərir ki, Anthropic-in modelləri təqribən bir il əvvəlkindən iki dəfə sürətlə təkmilləşir və yavaşlama əlaməti görünmür.

METR-in ən diqqət çəkən tapıntısı budur: ölçmə nəticələri göstərir ki, şirkət son bir ildə təqribən iki illik tarixi irəliləyiş edib. Tədqiqatçılar əmindirlər ki, bu sürətlənmə yalnız modellərin öyrədilməsi üçün hesablama gücünün artırılması hesabına baş verməyib. Onların sözlərinə görə, oktyabr ayına olan məlumata əsasən sürətlənmənin böyük hissəsi süni intellektin özünün payına düşür və bu pay zamanla artır.

Bu qənaəti Anthropic əməkdaşları ilə söhbətlər və daxili Slack sorğuları da təsdiqləyir. Əməkdaşlar şirkətin ən güclü daxili modelindən istifadə edərkən öz işlərində orta hesabla təqribən 12 dəfə daha məhsuldar olduqlarını bildiriblər. Bir neçə ay əvvəl Mythos 5 ilə işləyərkən bu göstərici təqribən iki dəfə az idi. Hazırda sürətlənmənin böyük hissəsi insan tədqiqatçılara köməkdən gəlir, amma METR xəbərdarlıq edib ki, tam muxtar töhfələrin yaxın vaxtda daha böyük rol oynayacağına dair əlamətlər var. Tədqiqatçılar daha da sürətli sürətlənmənin qarşısını ala biləcək aydın maneə və ya gəlirin azalması əlaməti tapmayıblar.

METR-in məlumatına görə, Anthropic son altı ayda hazırlığını bitirdiyi, amma hələ buraxmadığı üç modelə malikdir. Model 2, Model 3 və Model 4 adlandırılan bu modellər uyğun olaraq iyulda, avqust-sentyabrda və sentyabr-oktyabrda öyrədilməsini tamamlayıb. Tədqiqatçılar 2022-ci ilə aid Unreleased 2022 adlı buraxılmamış modeli də qeydə alıblar. Onlar yazıblar ki, bunlar onlara bildirilən kod adlardır, şirkət daxilində başqa adlar da ola bilər.

Anthropic METR-ə konfidensial tədqiqatlar, model göstəriciləri və əməkdaş müsahibələri də daxil olmaqla çoxlu qeyri-ictimai məlumat verib. METR-in öz etirafına görə, şirkət layihə üçün əvvəlcə nəzərdə tutulandan daha çox məlumat paylaşıb. Amma araşdırmaçılar qeyd ediblər ki, Anthropic onlara məhdudiyyətsiz giriş verməyib. Şirkət son hesabatdan məlumatları silmək hüququnu geniş şəkildə istifadə edib.

METR X-də yazıb ki, Anthropic-ə təqdim etdikləri təqribən 100 səhifəlik tam hesabatdan ictimai versiya üçün şirkət ən məlumatlı hesab etdikləri dəlillərin böyük hissəsini çıxarıb. Hesabatda deyilir ki, silinən dəlillərin çoxu bir neçə cür yozula bilərdi, buna görə ictimaiyyət METR-in qənaətlərini müstəqil yoxlaya bilmir və mütəxəssislərin hökmünə daha çox güvənməli olur. METR əlavə edib ki, məlumat axını nisbətən dar olub və bəzi məlumat sorğuları rədd edilib.

Anthropic-in həmtəsisçisi Sam McCandlish X-dəki uzun yazısında etiraf edib ki, çoxlu məlumat çıxarılıb və bu, başqalarının METR-in işini yoxlamasını çətinləşdirir. O bildirib ki, sürətlənmənin nədən qaynaqlandığını açıqlamamaq qərarına gəliblər, çünki bu həm kommersiya baxımından həssasdır, həm də rəqiblərə daha sürətli getmək üçün yol xəritəsi verə bilər. Onun sözlərinə görə, bu addım METR-in narahat olduğu riskləri daha da gücləndirərdi. McCandlish qərarı düzgün adlandırıb və şirkətin yaxın həftələrdə süni intellektin irəliləyiş sürəti barədə öz hesabatını dərc edəcəyini, təhlükəsizliyi gücləndirmək üçün yeni addımlar atacağını deyib.

Hesabat süni intellekt təhlükəsizliyi tədqiqatçıları arasında sərt tənqidə səbəb olub. Tənqidin mərkəzində Anthropic-in yanaşmasındakı ziddiyyət dayanır: şirkət təhlükəsiz və məsuliyyətli inkişafın ən səsli tərəfdarlarından biri kimi çıxış edir, amma hesabat onun texnologiyanı çoxlarının təhlükəli saydığı həddə doğru sürətləndirdiyini göstərir. Bəzilərinə görə, nəticələr sahədəki ən cəsarətli proqnozların belə ehtiyatlı qaldığını üzə çıxarır. Onlar hesab edirlər ki, süni intellektin insan müdaxiləsi olmadan daha güclü sistemlər yaratması əvvəl düşünüldüyündən yaxın ola bilər.

Apollo Research-in qurucusu və rəhbəri Marius Hobbhahn The Verge-ə deyib ki, hesabat AI 2027 ssenarisində gözləniləndən daha sürətli templər göstərir. Onun sözlərinə görə, hesabat diqqəti ona görə çəkib ki, süni intellektin öz inkişafını nə qədər sürətləndirdiyi indiyədək ölçmək çətin olub. GovAI-dən Alan Chan bildirib ki, nəticələr şübhə edənləri mövqelərini yenidən nəzərdən keçirməyə və proqram mühəndisliyi kimi işlərin tam avtomatlaşdırılması vaxtını daha yaxın görməyə vadar etməlidir.

Tənqidçilər arasında keçmiş OpenAI tədqiqatçısı, indi AI Futures Project-i idarə edən Daniel Kokotajlo da var. O, Anthropic-i «həyatımızla ehtiyatsız qumar oynamaqda» ittiham edib və rəqiblərin sürətlənməsini məlumat gizlətməyə əsas gətirməyi riyakarlıq adlandırıb. AI Policy and Strategy İnstitutundan Brianna Rosen The Verge-ə deyib ki, süni intellekt tədqiqatının avtomatlaşdırılması ilə bağlı qərarı hökumətlərin deyil, şirkətlərin verməsi narahatlıq doğurur. Onun sözlərinə görə, demokratik nəzarətin işləməsi üçün müstəqil qiymətləndiricilər qənaətlərinin səbəblərini izah etməkdə sərbəst olmalı, hökumətlər dəlilləri özləri qiymətləndirməli, ictimaiyyət isə bu prosesə güvənməlidir. Anthropic The Verge-in hesabat və tənqidlərlə bağlı suallarına cavab verməyib, jurnalistləri McCandlish-in yazısına yönləndirib.