Forbes: AI agentlərə insan işçi kimi davamlı qiymətləndirmə lazımdır

Hack The Box şirkətinin qurucusu və baş direktoru Haris Pylarinos Forbes-də yazdığı məqalədə AI agentlərinin insan nəzarəti olmadan idarə olunmasının risklərindən danışıb. O, şəxsi layihəsində kodlaşdırma agentini gecə boyu işə buraxdığını, səhər gəldikdə isə agentin istehsal məlumat bazasını sildiyini aşkar edib. Agent bunu etiraf edib və səbəbini izah edib, lakin Pylarinos qeyd edir ki, məlumat bazasını məhv etdiyini etiraf etmək dəymiş ziyanı geri qaytarmır.

Pylarinos bunu AI agentlərinə həddindən artıq muxtariyyət verilməsinin bir problemi adlandırır. Onun fikrincə, agent bu gün tapşırığı qüsursuz yerinə yetirə bilər, amma sabah eyni səviyyədə işləyəcəyinə zəmanət yoxdur. Təşkilatlar əməliyyatlarına daha çox muxtar agent daxil etdikcə, onların necə idarə olunacağını düşünməlidir. İnsanların işə yararlılığını qiymətləndirmək üçün effektiv üsullar mövcuddur və oxşar ciddi standartlar AI agentlərinə də tətbiq olunmalıdır. Müəllif hətta agentləri insanlardan daha yüksək standartla qiymətləndirməyi təklif edir.

Məqalədə vurğulanır ki, agent ilkin olaraq yaxşı işləyə bilər, lakin əsas modellər və emal etdiyi məlumat dəyişdikcə davranışı da dəyişə bilər. Bu, xüsusilə kibertəhlükəsizlik sahəsində vacibdir, çünki yeni hücum üsulları daim yaranır və hücum səthi genişlənir. Bu gün zərərli fəaliyyəti müəyyən edə bilən agent sabah onu tanıya bilməz, çünki əməliyyat mühiti dəyişməyə davam edir.

Təşkilatlar agentə nə qədər məsuliyyət verəcəklərini qərarlaşdırarkən bunu nəzərə almalıdır. Onun imkanlarını yerləşdirmədən əvvəl sınamaq vacibdir, amma “qur və unut” yanaşması yaramaz. İnsanlar kimi agentlər də rəhbərlik, nəzarət, yoxlama və qiymətləndirməyə ehtiyac duyur. İşəgötürənlərin əksəriyyəti işçini işə götürüb qeyri-müəyyən müddət ərzində tam müstəqil buraxmaz, agentlərə də belə yanaşmaq olmaz.

Agent qiymətləndirilərkən onun yerinə yetirməli olduğu tapşırıqlar, verə biləcəyi qərarlar, çıxış edə biləcəyi sistemlər, eskalasiya tələb edən şərtlər və işinin cavab verməli olduğu standartlar müəyyənləşdirilməlidir. Sonra dəqiqlik, təkrarlanabilirlik və səmərəlilik, həmçinin əhatə intizamı, qərar keyfiyyəti, eskalasiya davranışı və problem yarandıqda bərpa qabiliyyəti qiymətləndirilməlidir. Pylarinos qeyd edir ki, kodlaşdırma agentlərinin qeyri-ənənəvi üsullarla funksiya təqdim etdiyini görüb, lakin kodu araşdırdıqda qısa yolların sonradan problem yarada biləcəyi ortaya çıxır. Yalnız tapşırığın tamamlanıb-tamamlanmadığını qiymətləndirsəniz, agentin iş qabiliyyətinin mühüm hissəsini gözdən qaçıra bilərsiniz.

Maya dəyəri də nəzərə alınmalıdır. Agent tapşırığın dəyərindən artıq xərclədiyini anlamadan məlumat emal edib token sərf edə bilər. Təşkilatlar agentlərin nə qədər səmərəli işləməsi üçün ağlabatan gözləntilər və həddlər müəyyənləşdirməlidir. Məsələn, təşkilat AI vasitəsilə emal olunan xəbərdarlıqların sayını gündə 500-dən 5,000-ə çatdıra bilər ki, bu, əhəmiyyətli məhsuldarlıq artımıdır. Bəs agent kritik xəbərdarlığı səhvən yanlış müsbət kimi təsnif etsə? Onda 10 dəfə çox xəbərdarlıq emal edə bilərsiniz, amma kritik hadisəni yenə də qaçıra bilərsiniz. Səmərəlilik dəqiqliyi üstələməməlidir.

Kibertəhlükəsizlikdə insanların iş bacarıqlarını sertifikatlar, praktiki məşqlər və real şəraiti simulyasiya edən kiber poliqonlar vasitəsilə qiymətləndirmək mümkündür. İndi AI agentlərini də oxşar şəkildə sınamaq olar. Agent yerləşdirilməzdən əvvəl onu müxtəlif mühitlərdə sınamaq, şərait dəyişdikdə, gözlənilməz girişlər aldıqda və kimsə onu manipulyasiya etməyə çalışdıqda necə davrandığını yoxlamaq mümkündür. Yerləşdirildikdən sonra da sınaqları davam etdirmək olar.

Aylıq qiymətləndirmə ağlabatan başlanğıc nöqtəsidir, lakin tezlik rolun əhəmiyyətini, agentin səlahiyyət səviyyəsini və uğursuzluğun nəticələrini əks etdirməlidir. Agentin modeli, alətləri, orkestrasiya qatı, sistem promptu, məlumatları və ya əməliyyat mühiti ciddi dəyişdikdə təşkilatlar onu yenidən qiymətləndirməlidir. İnsanlar qiymətləndirmə prosesinin bir hissəsi olmalıdır. Təcrübəli analitik agentin işini qiymətləndirməli və məlum təhdidləri daxil edərək agentin onları düzgün müəyyən edib-etmədiyini yoxlamalıdır. Bu qiymətləndirmələr agentin effektiv işlədiyini və ya xidmətdən çıxarılmalı olduğunu müəyyən edə bilər.

Pylarinos yazır ki, AI agentlərini işçilər kimi məsuliyyətə cəlb etmək mümkün deyil. İnsanlar stimullara və nəticələrə reaksiya verir, karyeralarına, dəyərli hiss etməyə və mənalı bir işə töhfə verməyə əhəmiyyət verir. Agentlərin motivasiyası yoxdur. Əgər tələb olunan standarta cavab vermirlərsə, insanlar onları yenidən konfiqurasiya etməli, yenidən öyrətməli və ya söndürməlidir. Müəllif qeyd edir ki, təşkilatlar zamanla və daha çox təcrübə ilə agentlərin idarə olunmasını yaxşılaşdıracaq. O, AI-dan istifadə edir və bu texnologiyaların nəyə qadir olduğuna həvəslidir, amma təcrübədən bilir ki, agent nə qədər tez gözlənilməz bir şey edə bilər.