Anthropic RSI həddinə yaxınlaşdığını xəbərdar edib

TechCrunch-ın yazdığına görə, Anthropic bazar ertəsi yenilənmiş S-1A sənədində şirkətin rekursiv özünütəkmilləşdirmə (RSI) qabiliyyətinə çox yaxın olduğunu bildirib. Sənəddə deyilir ki, şirkət hələ heç bir modelini bu həddi keçən kimi qeyd etməyib, amma daxili hesablamalar və gələcək modellərlə bağlı gözləntilər onu göstərir ki, RSI həddinə yaxın vaxtda çatmaq mümkündür.

RSI o mərhələdir ki, süni intellekt özünü təlim etməkdə o qədər güclü olur ki, imkanların sürətli artımı başlayır. Anthropic sənəddə deyir ki, süni intellekti elmi-tədqiqat və inkişaf işlərində istifadə edir. Şirkət xəbərdarlıq edir ki, daha qabiliyyətli süni intellekt yaratmaq üçün süni intellektdən istifadə ciddi təhlükəsizlik riski yarada bilər, xüsusən də tərəqqi kəskin sürətlənərsə. Bu məsələ şirkətin Responsible Scaling Policy sənədinin əhatə etdiyi sahələrdən biridir.

Sənədin Risk Faktorları bölməsinə əlavə edilən yeni ifadələrə görə, Anthropic keçmişdə süni intellektdən istifadə edərək yeni modellər hazırlayıb və onların imkanlarında baş verən sıçrayışı həmin anda görməyib. Şirkət eyni zamanda bildirir ki, süni intellekt sistemlərindən istifadənin artması modellərin imkanlarının təhlükəsizlik, uyğunlaşdırma və müdafiə tədbirlərindən daha sürətli irəliləməsinə səbəb ola bilər.

Bununla yanaşı, Anthropic qeyd edir ki, yaxın gələcəkdə insanların tədqiqat və inkişaf prosesində qalmasını təmin etmək niyyətindədir. Şirkət deyir ki, Claude-u ciddi insan nəzarəti və anlayışı olmadan ardıcıl nəsil sərhəd modellərini tam muxtar şəkildə dizayn edib qurmaq üçün təhlükəsiz istifadə etməyin mümkün olacağını gözləmir. Buna görə də sərhəd modellərinin hazırlanmasında insan nəzarətini saxlamaq üçün Responsible Scaling Policy sənədinə yeniliklər baxılır.

TechCrunch yazır ki, Claude-un kodlaşdırma, riyaziyyat və kibertəhlükəsizlik sahələrindəki imkanları bu il əhəmiyyətli dərəcədə artıb.