Bazar · 19:44
Layihə · Developer alətləri

Arcjet AI security models — kod agentləri üçün təhlükəsizlik modelləri

Kod agentlərində prompt inyeksiyasını aşkarlayan, xüsusi hazırlanmış AI təhlükəsizlik modelləri ailəsidir.

Rəsmi saytarcjet.com/blog/introducing-arcjets-custom-ai-security-models
Sahə
Developer alətləri

Arcjet Himalia 1 adlı xüsusi incə sazlanmış model əsasında prompt inyeksiyası aşkarlaması işləyir. Şirkət kod agentləri və təhlükəsizlik agentləri üçün ixtisaslaşmış modellər də təqdim edir. Bu modellər agentlərin girişlərini yoxlayaraq zərərli təlimatların icrasının qarşısını almağa kömək edir.

Məhsul kod agentləri quran və onları istehsalat mühitində işlədən komandalar üçündür. Agentlər istifadəçi mətnini birbaşa emal etdiyi üçün prompt inyeksiyası riski yaranır; bu modellər həmin riski azaltmaq istəyənlərə lazımdır. Təhlükəsizlik komandaları da agent davranışını yoxlamaq üçün ondan istifadə edə bilər.

Material redaksiyamız tərəfindən açıq mənbələr və startap platformaları əsasında hazırlanıb. Şirkətin reklamı və ya investisiya tövsiyəsi deyil; göstəricilər mənbədəki məlumatdır. İstifadə şərtləri

Aktual oxunan layihələr

son 36 saat
Bütün layihələr
Developer alətləri

Seldon — davranış əsaslı QA agentləri

Seldon məhsulu istifadəçi kimi sınaqdan keçirən davranış əsaslı QA agentləri təqdim edir; Wren isə sadə ingilis dilində testləri…