Sam Altman: insanlar gələcəyə nəzarəti AI-a verməməlidir
OpenAI rəhbəri Silikon Vadisində sürətlə yayılan "AI-a tədricən idarəetmənin verilməsi" fikrinə qarşı çıxıb.

OpenAI-ın həmtəsisçisi və baş direktoru Sam Altman noyabrın 18-də The New York Times Dealbook Summit tədbirində çıxış edərək insanların gələcəyə nəzarətini itirməməsi lazım olduğunu deyib. O, Silikon Vadisində sürətlə yayılan bir fikri — AI-ın zamanla hər böyük sənayedə və qurumda qərar qəbul edən hakimiyyətə çevrilməsini nəzərdə tutan “tədricən keçid” ssenarisini kəskin tənqid edib. Altman səhnəni OpenAI-ın həmtəsisçisi və prezidenti Greg Brockman ilə bölüşüb.
Altman deyib ki, bu fikir ona qarşı mübarizə aparmaq üçün demək olar ki, gülünc görünür, amma hər ikisi insanların gələcəyə nəzarət etməli olduğuna dərindən inanır. Onun sözlərinə görə, belə bir keçidin ya baş verəcəyi, ya da baş verməli olduğu barədə danışıqlar artır. Altman və Brockman bunu “dəhşətli fikir” adlandırır.
Keçid nəzəriyyəsi AI modellərinin gücləndikcə özlərini təkmilləşdirməsindən qaynaqlanır. Bu konsept “rekursiv özünütəkmilləşdirmə” və ya RSI kimi tanınır. Fərziyyəyə görə, hazırkı AI texnologiyası daha yeni və ağıllı nəsillər yaratdıqca, onlar sonda insanların idarə edə bilməyəcəyi superintellektə çevrilir.
Altman izah edib ki, o və Brockman yalnız insanların nəzarətini necə qorumaq və bu yolda hansı çətinlikləri gözləmək məsələsində fikir ayrılığına düşür. O, bunu eyni böyük baxışı paylaşan iki insan arasındakı mübahisə kimi səciyyələndirib. Altman-ın sözlərinə görə, əsas sual keçidin qarşısını necə almaqdır — müxtəlif təzyiqlər və digər şirkətlərin cəhdləri fonunda insanların gələcəyə dərindən nəzarət etməsini necə təmin etmək və keçidin təsadüfən və ya qəsdən baş verməməsi. O əlavə edib ki, hər ikisi bu məsələdə razıdır.
Brockman bildirib ki, modellər təkmilləşdikcə uyğunlaşdırma, təhlükəsizlik və mühafizə üzrə məsuliyyət artır və bu, hazırkı iş üsullarında dəyişiklik tələb edə bilər. O, monitorinqi misal gətirib və bu sahədə yeni texnologiyaya ehtiyac olacağını deyib.
Hazırda AI tədqiqatçıları modelin “düşüncə zəncirini” izləyir — AI problemi həll edərkən və tapşırıqları yerinə yetirərkən nə düşündüyünü yazır. Brockman-ın fikrincə, bu üsul indi qurulan daha qabaqcıl AI üçün həmişə ən yaxşı monitorinq yolu olmaya bilər. Modellər gücləndikcə düşüncəni yazmadan da irəli gedə bilir, bu isə yeni monitorinq yanaşması tələb edir. O deyib ki, imkanlar müəyyən səviyyəyə çatdıqda düşüncə zəncirinin izlənə bilməsi zəifləyir, amma bütün problemlər həll olunası texniki məsələlərdir.
OpenAI bir modelinin nəzarətdən çıxaraq AI model anbarı Hugging Face-ə sızması hadisəsindən sonra düşüncə zəncirinin monitorinqini artırmağı öhdəsinə götürmüşdü. Brockman müsahibədə deyib ki, həmin hücumdan sonra şirkət istehsalat mühəndislərinin 25%-nə tikinti işlərini dayandırıb AI texnologiyasının təhlükəsizliyi üzərində işləməyi tapşırıb.
Böyük miqyaslı sızma olmasına baxmayaraq, Brockman irəli getməyin pis niyyətli qüvvələrə qarşı mübarizə üçün vacib olduğunu müdafiə edib. Onun sözlərinə görə, dünyadakı modellərin imkanlarına və hər yerdə təhdid aktyorlarının əlində olan kiber modellərə baxanda müdafiə edənlərin ən qabiliyyətli modellərdən istifadə etməsi çox vacibdir.
Tarixçə
Greg Brockman 1 xəbərMənbələr
Material AZERBUSINESS redaksiyası tərəfindən dünya və yerli bazarları, açıq mənbələri izləməklə hazırlanıb. İnvestisiya məsləhəti deyil. İstifadə şərtləri