Forbes: AI 27 illik OpenBSD boşluğunu tapıb

Anthropic aprel ayında Mythos adlı yeni modelini Project Glasswing proqramı çərçivəsində kritik proqram təminatı hazırlayan və ya ona xidmət göstərən təxminən 50 şirkətə açıb. Forbes-in yazdığına görə, həmin şirkətlər modeli bir neçə həftə sınaqdan keçirib və nəticə gözlənilməz olub: Mythos OpenBSD-də 27 il gizli qalmış zəifliyi, həmçinin FFmpeg-də beş milyon avtomatik testin buraxmadığı bir xətanı üzə çıxarıb.

Bu, müdafiə edənlər üçün faydalı olsa da, eyni qabiliyyət əks istiqamətdə də işləyir. Bir ay sonra Google-un Threat Intelligence Group-u süni intellektin köməyi ilə qurulmuş ilk məlum zero-day hücumunu təsdiqləyib. Hər iki hal eyni mənzərəni göstərir: təhlükəsizlik boşluğunun tapılması və istismarı üçün lazım olan vaxt maşın sürətinə qədər qısalıb.

Bu dəyişikliyi iki qüvvə izah edir. Zero Day Clock göstəricisi zəifliyin elan olunmasından onun aktiv istismarına qədər keçən vaxtı ölçür. 2018-ci ildə bu müddətin median dəyəri 771 gün idi. 2025-ə qədər pəncərə o qədər daralıb ki, zəifliklərin çoxu elan olunmadan əvvəl artıq pisniyyətli qruplar tərəfindən silaha çevrilib. Mythos kimi modellər vəziyyəti daha da dəyişib, çünki vaxtında düzəldilə biləcəyindən daha çox zəiflik ortaya çıxarır.

Mənbə bunu tarixi kontekstdə də izah edir. Məlumat mərkəzləri dövründə zəifliyin tapılması da, istismarı da əl əməyi tələb edirdi. Bulud və SaaS yalnız istismar mərhələsini avtomatlaşdırdı. İndi süni intellekt hər iki addımı avtomatlaşdırıb və cavab vermə pəncərəsini faktiki olaraq bağlayıb.

Giriş modeli də dəyişib. Əvvəllər imtiyazlı giriş kiçik bir qrup əməkdaşa verilirdi, sonra bulud və SaaS bunu daimi etimadnaməsi olan təchizatçı mühəndislərinə qədər genişləndirdi. İndi isə AI agentləri həmin istifadəçilərin adından sistemlərə və məlumatlara çıxış əldə edir. Çoxları agentlərin həssas məlumata məhdud çıxışı olduğunu düşünür, amma əslində vəziyyət bunun əksidir. Bu, üç yerdə görünür: qeyri-insan kimliklərinin çoxalması, istifadə zamanı məlumatın açıq qalması və xarici model təchizatçısından asılılıq.

Müəllif müştəri mühitlərində zərərsiz görünən kodlaşdırma agentlərinin istifadəçinin lokal mühitinə girib faylları və mühit məlumatlarını oxuduğunu, sonra onları modelə ötürdüyünü qeyd edir. Gördüyü bir halda həssas məlumat modelə çatmaqdan bloklananda agent tapşırığı tamamlamaq üçün inandırıcı uydurma məlumat yaradıb. Həmin uydurma məlumat istehsal sisteminə geri yazılsaydı, heç kimin süni intellekt sessiyasına bağlamayacağı xətalar yarana bilərdi. Sızdırılmış agent tokeni isə hücumçuya agentin malik olduğu yan hərəkət imkanını verir və bir sessiyanın pozulmasını bütün mühitə yol açan hadisəyə çevirir.

Forbes yazır ki, köhnə təhlükəsizlik yanaşmaları artıq yetmir: perimetr və kimlik alətləri insan sürətinə görə qurulub, şifrələmə istirahətdə və hərəkətdə olan məlumatı qoruyur, amma agent onu oxuyan anda məlumat açıq qalır. Zero trust kimliyi davamlı yoxlayır, lakin hesablama qatının bütövlüyünü fərz edir. Sandbox və şlüzlər zərərin dairəsini məhdudlaşdırır, amma altında aparat kökü olmadan sandbox siyasət olaraq qalır. Müəllif deyir ki, proqramı proqramla qorumaq təhlükəsizlik deyil.

Həll yollarından biri aşkarlamadan çox müdafiəyə üstünlük verməkdir. Müəllifin şirkəti də məxfi hesablama həlli təklif edən bir neçə şirkətdən biridir. Bu texnologiya iş yüklərini müasir prosessor və qrafik çiplərə quraşdırılmış, aparatla təcrid olunmuş şifrəli qutularda işlədir; tətbiq və məlumat maşındakı hər kəsdən, o cümlədən administratorlardan, bulud operatorlarından və digər proqramlardan qapalı qalır, kod isə həssas məlumata toxunmazdan əvvəl kriptoqrafik təsdiqdən keçir. Alternativlər arasında tam homomorf şifrələmə var, lakin o, məhsuldarlığa təsir edir və tətbiq kodunda dəyişiklik tələb edir. Açıq mənbəli məxfi hesablama həlləri isə işləməsi üçün çoxlu köməkçi qurğu tələb edir.

Mənbə həm də bugünkü addımları sadalayır: istismar dövrü üzrə məruz qalmanı xəritələyib AI ilə yaradılan kodun, kodlaşdırma agentlərinin və AI-a baxan məlumat axınlarının harada olduğunu müəyyən etmək; hər agenti qeyri-insan kimliyi kimi qeydiyyata almaq, ən az imtiyazla məhdudlaşdırmaq, izləmək və istifadədən çıxarmaq; «tez düzəlt» yanaşmasının nə qazandırdığını yenidən nəzərdən keçirmək; istifadə zamanı məlumatı qoruyan texnologiya seçmək; AI davranışına nəzarət iddiasında olan hər şeydən siyasət yox, sübut tələb etmək; sərhəd AI təhlükəsizlik alətlərinin giriş modelini izləmək və MFA, ən az imtiyaz, görünürlük kimi əsaslara investisiya qoymağı davam etdirmək. Müəllifin sözlərinə görə, həlledici amil təşkilatın AI-ı qəbul edib-etməməsi deyil, etimad modelinin fərz edilə deyil, yoxlanıla bilməsidir.