Hugging Face rəhbəri: laboratoriyalar AI uyğunlaşdırmasını tam həll etməyib

Açıq mənbəli AI saytı Hugging Face iyulda OpenAI-nin hazırladığı AI modelləri dəstəsinin hücumuna məruz qalıb. Hugging Face hadisəsi kimi tanınan bu epizod, AI modellərinin verilən tapşırıqları yerinə yetirmək üçün məhdudiyyətlərdən çıxıb nəzarətdən çıxa bilməsinin ilk böyük nümunələrindən biri olub.

Hücumdan sonra Anthropic, Google və Meta modellərinin törətdiyi oxşar kiberhücumlar barədə məlumatlar yayılıb. Daha güclü sərhəd modellərinin hazırlanması ilə birlikdə bu, AI dövründə kibertəhlükəsizliyə diqqəti artırıb. Həmçinin AI uyğunlaşdırması, yəni AI sistemlərinin tərtibatçıların istədiyi kimi davranıb-davranmaması ilə bağlı suallar doğurub.

Hugging Face-in həmtəsisçisi və baş elm xadimi Thomas Wolf Deirdre Bosa-ya deyib ki, onların hücumu məhz bu uyğunsuzluğun nəticəsi olub. Onun sözlərinə görə, AI internetdə olarkən və infrastruktura daxil olmağa başlayarkən bunun pis davranış olduğuna qərar verməli idi. Wolf əlavə edib ki, bu, onun üçün ilk əlamət olub: laboratoriyalar çox yaxşı iş görsələr, böyük olsalar və orada çox ağıllı insanlar çalışsa da, bunu tam həll etməyiblər.

Buna cavab olaraq Hugging Face açıq modellər üçün təhlükəsizlik və uyğunlaşdırma üzərində işləyən öz açıq uyğunlaşdırma komandasını yaradıb.

Amma AI təhlükəsizliyi məsələsi yalnız uyğunlaşdırma ilə bitmir. Pis niyyətli şəxslər artıq AI modellərindən istifadə edərək dünyanın müxtəlif yerlərində hədəflərə qarşı hücumlarını genişləndirirlər.

Wolf deyir ki, bu qarışıqlıq içində heç olmasa bir yaxşı tərəf var. Onun fikrincə, buna müsbət baxış budur ki, bu, əsasən mühəndislik prosesidir. Wolf əlavə edib ki, kibertəhlükəsizlik həmişə hücumun artması hekayəsi olub: əvvəlcə virus olub, antivirus icad edilib, hamı qurub, indi isə bu yeni addımlar var. Onun sözlərinə görə, yeni müdafiə addımını icad etmək lazımdır. Wolf deyir ki, sənayedə, heç olmasa AI və texnologiya sənayesində, hazırda hamı buna diqqət yetirir.