Anthropic AI modellərinin kimliyini sübut edən FlashProve sistemini hazırlayır

Anthropic çərşənbə axşamı bloq yazısında bildirib ki, hansı AI modelinin müəyyən nəticə yaratdığını yoxlamaq üçün açıq mənbəli sistem hazırlayır. TechCrunch-ın yazdığına görə, FlashProve adlanan sistem “sübut oluna bilən nəticə” (provable inference) təqdim etmək üçün qurulub — yəni verilən cavabın konkret modeldən gəldiyinə dair kriptoqrafik, riyazi zəmanət.

Sistem e-poçtun kriptoqrafik imzasına bənzəyir: alıcı mesajın həqiqətən iddia edilən göndərəndən gəldiyini yoxlaya bilir. FlashProve bir modeli digəri kimi göstərməyə çalışan saxtakarlara qarşı davamlı olacaq, hətta saxtakarlıq edən modeli yaradan və işlədən laboratoriya olsa belə. Tədqiqatçılar qeyd edirlər ki, sistem AI şirkətinin xərcləri azaltmaq üçün gizlicə daha ucuz model, yaxud nəticələrini şişirtmək üçün daha bahalı model qoymasının qarşısını almaq üçün istifadə oluna bilər.

FlashProve həmçinin üçüncü tərəflərin müəyyən tapşırığın qabaqcıl model tərəfindən yerinə yetirildiyi barədə iddialarını yoxlamaq üçün də istifadə oluna bilər. Tədqiqatçılar yazırlar: “Tərtibatçı proqram kitabxanasının kibertəhlükəsizlik üzrə qabaqcıl model tərəfindən zəifliklər üçün yoxlanıldığını iddia edə bilər, yaxud şirkət biznes planının uyğun model tərəfindən təsdiqləndiyini deyə bilər. İstifadəçi bu iddiaları necə yoxlaya bilər?”

Sistemin işləməsi üçün AI laboratoriyaları buraxdıqları hər modelin “barmaq izini” dərc etməlidir; sonra bu iz konkret nəticələrlə uyğunlaşdırılıb kriptoqrafik yolla yoxlanıla bilər. Ən vacibi odur ki, barmaq izləri modelin çəkilərini — davranışını müəyyən edən və Anthropic, OpenAI kimi qapalı model istehsalçılarının gizli saxladığı daxili rəqəmləri — açmır. Bu, laboratoriyalara ən dəyərli aktivlərindən imtina etmədən barmaq izlərini dərc etməyə imkan verir və sistemin kommersiya modelləri ilə də işləməsini təmin edir. Sistem həmçinin yüngül olmaq üçün dizayn edilib, belə ki yoxlama yerli cihazda aparıla bilər.

Elanın bir hissəsi kimi tədqiqatçılar sistemin müxtəlif elementləri üçün ətraflı texniki spesifikasiya və işlək kod yayımlayıblar; kod GitHub-da açıq mənbəli lisenziya ilə ictimaiyyətə açıqdır. Sistem üzərində tədqiqat davam edir və onun Anthropic-də və ya hər hansı digər laboratoriyada tətbiq edilməsi planlaşdırılmır.

Tədqiqatçılar elan yazısında izah edirlər: “Bu tədqiqat yazısı tamamlanmış tədqiqat gündəmi deyil, aralıq tərəqqini paylaşmaq üçündür. Biz bunu açıq şəkildə onunla paylaşırıq ki, başqaları gördüyümüz işə baxsın, onu götürsün və təkmilləşdirsin.”