Forbes: AI layihələrində risk balı tətbiqi tələb olunur

Forbes-in dərc etdiyi məqalədə 10Pearls şirkətinin baş direktoru və həmtəsisçisi Imran Aftab yazır ki, müəssisələr generativ AI-ya on milyardlarla dollar sərmayə qoyub, lakin mənfəətə ölçülə bilən təsir gördüyünü bildirən təşkilatların payı çox azdır. AI layihələrinin böyük hissəsi pilot, konsepsiya sınağı və ya nəzarətsiz təcrübə mərhələsində qalır və bütün təşkilata yayılmaq üçün lazım olan etimadı qazanmır.

Müəllifin fikrincə, bunun səbəbi AI-ın tam hazır və təhlükəsiz olduğu sübut olunmadan işə salınmasıdır. Stanford Universitetinin 2026-cı il AI Index hesabatına istinad edilir: AI Incident Database (AIID) məlumatına görə, AI hadisələrinin sayı bu il keçən illə müqayisədə 55% artıb. Aftab yazır ki, layihələrin sayı çoxalsa da, sürətli yayım «ehtimal ki» ilə «mütləq» anlayışlarını bir-birinə qarışdırır.

Risk-i qara və ağ kimi görmək olmaz. Müəllif təklif edir ki, risk adlandırılmış ölçülərdən qurulan bal şəklində qiymətləndirilsin və sistemin nə qədər müstəqil işləyəcəyini məhz bu bal müəyyən etsin. Bal direktorlar şurasının, tənzimləyicilərin, müştərilərin və mühəndislərin qarşısında əsaslandırıla bilməlidir.

Məqalədə dörd ölçü göstərilir. Birincisi, yanlış qərarın geri qaytarıla bilməsidir: göndərilməzdən əvvəl insan tərəfindən yoxlanılan e-poçt tam geri qaytarıla bilər, amma artıq icra olunmuş kredit imtinası belə deyil. İkincisi, AI səhv etdikdə insanlara, mənfəətə, təhlükəsizliyə, reputasiyaya, məxfilikə və ya uyğunluğa real təsirdir. Deloitte-un araşdırmasına görə, şuraların 66%-i hələ də AI haqqında məhdud və ya heç bir biliyə malik deyil.

Üçüncü ölçü tənzimləmə riskidir. EU AI Act çərçivəsində Article 50-nin şəffaflıq öhdəlikləri və AI Office-in ümumi təyinatlı AI üzərində icra səlahiyyətləri qüvvəyə minib, cərimələr on milyonlarla ölçülə bilər. Dördüncü ölçü audit imkanıdır: AI-ın düşüncə yolu tələb olunduqda göstərilə, izah edilə və müdafiə oluna bilməlidir. Təşkilatların 31%-i AI-ın şura gündəliyində ümumiyyətlə olmadığını bildirir.

Aftab yazır ki, bu dörd ölçü vahid bala birləşdirilməli, bal isə istifadə halının arxitekturasını və müstəqillik səviyyəsini müəyyən etməlidir. Risk balı bəzən o qədər yüksək olur ki, ən doğru cavab AI-dan ümumiyyətlə imtina etməkdir; müəllif bunu uğursuzluq deyil, prosesin düzgün işləməsi adlandırır. Bal aşağı riskli, yüksək həcmli işlər üçün tam müstəqillikdən ən ağır risklər üçün yalnız insan iş axınına qədər uzanan yanaşmaları seçir.

Stanford Universitetinin həmin hesabatına görə, məsuliyyətli AI siyasəti olmayan təşkilatların payı 2024–2025-ci illərdə 24%-dən 11%-ə düşüb, AI ilə bağlı idarəetmə rolları isə 17% artıb. Lakin icra və hesabatlılıq geridə qalır: McKinsey-in 2025-ci il sorğusuna görə, təşkilatların yalnız 28%-i AI idarəetməsinə birbaşa məsuliyyəti baş direktora verir, 17%-i isə şuraya.