Bazar · 03:44
Xəbər · Texnologiya

OpenAI CSAM-a qarşı görüntü təsnifatçısı buraxıb

OpenAI uşaqların cinsi istismarı materialını aşkarlayan yeni görüntü təsnifatçısını təqdim edib; ilkin sınaqda o, 48% az şəkil işarələyib.

OpenAI CSAM-a qarşı görüntü təsnifatçısı buraxıb

OpenAI uşaqların cinsi istismarı materialı (CSAM) ilə mübarizə üçün yeni alətlər açıqlayıb. TechCrunch xəbər verir ki, şirkət CSAM şəkillərini, o cümlədən süni intellektlə yaradılanları aşkarlayan görüntü təsnifatçısı hazırlayıb və onu seçilmiş şirkətlərə API vasitəsilə ödənişsiz verir.

Təsnifatçı əvvəl rast gəlinməmiş şəkillərdə istismarın vizual əlamətlərini axtarır və rəyçilərə istiqamət verən bal qoyur. OpenAI bu aləti Milli İtkin və İstismar Olunmuş Uşaqlar Mərkəzi (NCMEC) ilə birlikdə hazırlayıb, Tech Coalition və ROOST ilə də alətə çıxışı paylaşmaq üzərində işləyir. Tərəfdaşlarla ilkin sınaqda təsnifatçı eyni sayda istismar şəkli taparkən 48% az şəkil işarələyib və bununla rəyçilərin işini azaldıb. Təsnifatçının işarələdiyi şəkillərin istismar materialı olma ehtimalı iki dəfə yüksəkdir.

Şirkət ChatGPT-də uşaqları cinsiləşdirən materiala çıxışın qarşısını almaq üçün yeni xəbərdarlıq ekranları da əlavə edir. Belə sorğu göndərməyə cəhd edən istifadəçi xəbərdarlıq görəcək, zərərli davranışı dayandırmaq üçün xüsusi dəstəyə yönləndiriləcək və hesabı 24 saatlıq dayandırılacaq. Tətbiq artıq CSAM məzmununu və onunla bağlı sorğuları bloklayır. Təkrar pozuntular hesabın birdəfəlik silinməsinə səbəb ola bilər.

OpenAI bu davranışla bağlı mesaj və qaydaları təşkilatlar və tədqiqatçılarla birlikdə hazırlayıb. Onların arasında Protect Children, Lucy Faithfull Foundation və Tasmaniya Universitetindən Joel Scanlan var; Scanlan çəkindirici mesajların sınağını müstəqil qiymətləndirib. Şirkət OpenAI alətlərindən istifadə edən tərtibatçılar üçün CSAM məzmununun qarşısını almağa, onu aşkarlamağa və istifadəçilərə şikayət etməyə kömək edən qaydalar da dərc edir. İlkin sınaqda bu qaydalar bir sıra tərtibatçıya uşaq təhlükəsizliyi alətlərini tətbiq etməyə və CSAM barədə NCMEC-ə məlumat vermək üçün qeydiyyatdan keçməyə kömək edib.

OpenAI uşaq təhlükəsizliyi ilə məşğul olan hüquq-mühafizə orqanlarını da süni intellekt əsaslı funksiyalarla təchiz edir: xüsusi plaginlər, araşdırma alətləri və mürəkkəb məlumat təhlili. Çıxışı proqram administratorları idarə edir. Şirkət müstəntiqlərə təlim və süni intellektdən istifadə üzrə praktik bələdçi də verir.

OpenAI texnologiyasının istifadəçilərə, xüsusən uşaqlara zərər vurması ilə bağlı bir neçə məhkəmə iddiası ilə üzləşib. Təhlükəsizliyə fokuslanan qeyri-kommersiya təşkilatı Common Sense Media OpenAI texnologiyasını yeniyetmələr üçün “qəbuledilməz risk” adlandırıb. Digər süni intellekt çatbotu — xüsusilə Grok — razılıq olmadan cinsi xarakterli görüntülər, o cümlədən uşaqların təsvirləri yaratmaq üçün istifadə olunub.

Son 12 ayda şirkət texnologiyasına dəyişikliklər edib: təhlükəsizlik planını dərc edib, yersiz məzmunu qadağan etmək üçün məzmun qaydalarını yeniləyib, modelini zərərli məzmun yaratmamaq üçün yenidən tənzimləyib və yeniyetmələr üçün ChatGPT-nin xüsusi versiyasını buraxıb.

Tarixçə

ChatGPT 15 xəbər
  1. Google Gemini-dən daha yaxşı nəticə almaq üçün nə etməli
  2. OpenAI ChatGPT-yə alış-verişi idarə edən Wallet əlavə edib
  3. Araşdırma: AI çatbotları saxta mağaza saytları göstərir
  4. United Airlines AI agentlərinin bilet almasını məhdudlaşdırır
  5. ChatGPT bizneslər üçün təsdiqlənmiş agentlər açır
  6. OpenAI ChatGPT-də biznes profillərini işə salıb
  7. Adobe ChatGPT və Copilot-a CX Coworker-i yerləşdirib, səhmlər 28.2% düşüb
  8. ChatGPT dünya AI trafikinin 81%-ni toplayır, ziyarətlər 61.35 milyarda çatıb
  9. Apple HomeView-a çatbot dəstəyi əlavə edə bilər
  10. Nvidia və TSMC-nin AI yarışında hər ikisi güclü qalib gəlir
  11. ChatGPT artıq animasiyalı GIF hazırlayır
  12. Niyə ChatGPT yüksək sürətlə populyarlaşır?
  13. OkCupid uyğun suallar yaratmaq üçün ChatGPT ilə təcrübə edir
  14. ChatGPT Google üçün təhlükə yarada bilər?
  15. ChatGPT Google üçün təhlükə yarada bilər?

Mənbələr

Material AZERBUSINESS redaksiyası tərəfindən dünya və yerli bazarları, açıq mənbələri izləməklə hazırlanıb. İnvestisiya məsləhəti deyil. İstifadə şərtləri

Aktual oxunanlar

son 36 saat
Bütün xəbərlər