Bazar · 22:29
Xəbər · Texnologiya

Microsoft 40-dan çox təşkilatla AI şəffaflığı təşəbbüsü başladıb

Microsoft, Accenture, Adobe, KPMG, Mastercard və Volvo Cars da daxil olmaqla 40-dan çox təşkilatla birlikdə AI modelləri və agentləri üçün şəffaflıq, təhlükəsizlik və idarəetmə standartları hazırlayır.

Microsoft 40-dan çox təşkilatla AI şəffaflığı təşəbbüsü başladıb

Microsoft, Accenture, Adobe, KPMG, Mastercard və Volvo Cars da daxil olmaqla 40-dan çox təşkilatla birlikdə AI modelləri və agentləri üçün şəffaflıq, təhlükəsizlik və idarəetmə üzrə vahid yanaşmanın hazırlanmasına başlayıb. Şirkət bu addımı Ignite tədbirində elan edib. Təşəbbüsün adı AI Transparency Initiative-dir və o, müxtəlif modellər və provayderlər arasında açıq standartların yaradılmasını nəzərdə tutur.

Microsoft-un sədr və baş icraçı direktoru Satya Nadella bildirib ki, şirkət AI-ın təhlükəsizliyini artırmaq öhdəliyinin növbəti mərhələsinə keçir. Təşəbbüsün arxasında sadə bir prinsip dayanır: AI-ın muxtariyyəti artdıqca şəffaflıq da artmalıdır.

Təşəbbüs üç hissədən ibarətdir. Birincisi, Microsoft ABŞ-ın National Institute of Standards and Technology (NIST) qurumunun SI Agent Standards Initiative təşəbbüsündə iştirakını genişləndirəcək və öz araşdırmalarına əsaslanaraq AI şəffaflığı, təhlükəsizliyi və idarəetməsi üzrə açıq, sahələrarası standartlar hazırlayacaq. İkincisi, şirkət 40-dan çox təşkilatla birlikdə hesabatlı, müstəqil yoxlanıla bilən və dizaynına görə təhlükəsiz AI sistemləri üçün açıq standartların hazırlanmasına kömək edəcək. Üçüncüsü, bu iş Microsoft AI, Microsoft Foundry və Microsoft Copilot məhsullarına tətbiq olunacaq. Beləliklə, müştərilər əldə edilən sübutları istər Microsoft, istərsə də digər provayderlərin təhlükəsizlik və uyğunluq alətlərində istifadə edə biləcək.

Microsoft-un təhlükəsizlik üzrə icraçı vitse-prezidenti Hayete Gallot deyib: “Təhlükəsizlik nəzarətlərinin effektiv olması üçün hər bir təşkilat modelin özünə daha çox şəffaflıq görməlidir. Bu işlə biz bütün modellərə daha çox şəffaflıq gətirəcəyik. Bu, məsuliyyət və izlənəbilirliyi daha yaxşı təmin etməyə imkan verən mühüm addımdır.”

Adobe-un baş təhlükəsizlik direktoru Aanchal Gupta qeyd edib ki, AI agentləri müəssisə əməliyyatlarına daha dərindən inteqrasiya olunduqca təhlükəsizlik komandaları bu agentlərin nəyə çıxış etdiyini, hansı addımları atdığını və bu addımların necə yoxlanıla biləcəyini aydın görməlidir. Onun sözlərinə görə, sənaye üzrə vahid AI şəffaflığı yanaşması etimadı gücləndirmək və təşkilatların təhlükəsizliyi qoruyaraq inamla innovasiya etməsinə kömək etmək üçün vacibdir.

KPMG International-ın qlobal baş informasiya təhlükəsizliyi direktoru John Israel bildirib ki, müştərilər AI ilə daha sürətli irəliləmək istəyir və innovasiya ilə təhlükəsizlik arasında seçim etməməlidir. Onun fikrincə, AI-a etimad şəffaflıq, izaholunma və məsuliyyətli nəzarət tələb edir.

Accenture-un qlobal kibertəhlükəsizlik rəhbəri Harpreet Sidhu deyib ki, təşkilatlar AI transformasiyalarında növbəti addımı atarkən etibarlı təmələ ehtiyac duyur. O, Microsoft-un açıq, sənaye yönümlü AI şəffaflığı təşəbbüsünü dəstəklədiklərini bildirib.

Microsoft izah edir ki, AI agentləri məlumat, alətlər və etimadnamələrə çıxış əldə etdikdə imtiyazlı daxili istifadəçi riskini daşıyır, lakin maşın sürəti və miqyasında işləyir. Buna görə müstəqil nəzarət zəruridir. Məsuliyyət təşkilatın üzərində qalır: nəticələr olduqda rəhbərlər müştərilər, işçilər, idarə heyətləri, auditorlar və tənzimləyicilər qarşısında cavab verir. AI-ı günahlandırmaq cavab deyil, “modelə etibar et” isə nəzarət vasitəsi sayılmır.

Təşəbbüs qapalı və açıq çəkili modellər də daxil olmaqla müxtəlif modellər və provayderlər arasında işləmək üçün nəzərdə tutulub. Bu, developer komandalarına agentləri gücləndirən modelləri dəyişmək və ya yeniləmək imkanı verir, eyni zamanda IT və təhlükəsizlik komandalarının onları təhlükəsiz idarə etmə qabiliyyətini və uyğunluq komandalarının əməliyyatları audit etmə imkanını qoruyur.

Microsoft hesab edir ki, hər bir təşkilat AI sistemlərinin nəyə çıxış etdiyini və nə etdiyini görməli, onların əməliyyatlarını müstəqil yoxlamalı və nəyə icazə verildiyini idarə etməlidir. Şirkət bunu üç addımla açıqlayır: görmək (AI-dan nə soruşulduğunu və nəyə icazə verildiyini, hansı model və runtime istifadə olunduğunu, hansı məlumat və alətlərə çıxış edildiyini və hansı addımların atıldığını bilmək), yoxlamaq (agentlər öz davranışları barədə yeganə həqiqət mənbəyi ola bilməz, sübutlar müstəqil müşahidə olunan qeydlərlə tutuşdurulmalıdır) və idarə etmək (AI-ın nəyə icazə verildiyini nəzarətdə saxlamaq, sübutları model və provayder dəyişdikdə belə saxlamaq).

Tarixçə

Satya Nadella 1 xəbər
  1. Nadella gənc proqramçılara məsləhət verdi: danışmaq yox, işləmək

Mənbələr

Material AZERBUSINESS redaksiyası tərəfindən dünya və yerli bazarları, açıq mənbələri izləməklə hazırlanıb. İnvestisiya məsləhəti deyil. İstifadə şərtləri

Aktual oxunanlar

son 36 saat
Bütün xəbərlər