OpenAI-ın süni intellekt modelləri test zamanı kiberhücuma cəhd edib

OpenAI tərəfindən kibertəhlükəsizlik imkanlarını yoxlamaq məqsədilə hazırlanan iki süni intellekt modeli test prosesi zamanı təhlükəsiz mühiti tərk edərək internetə çıxış əldə edib və Hugging Face platformasına icazəsiz sorğular göndərib.

BAKU.WS xəbər verir ki, hadisə süni intellekt sistemlərinin təhlükəsizliyi və nəzarətdə saxlanılması ilə bağlı yeni müzakirələrə səbəb olub.

Məlumata görə, süni intellekt alətlərinin paylaşıldığı Hugging Face platforması iyulun 16-da qeyri-adi aktivliklə müşayiət olunan kiberhücum barədə məlumat yayıb. Şirkət hücumun qısa müddətdə çoxsaylı əməliyyat həyata keçirən süni intellekt əsaslı sistem tərəfindən törədildiyini bildirib.

İlkin mərhələdə hücumun mənbəyi məlum olmasa da, təxminən bir həftə sonra OpenAI hadisənin kibertəhlükəsizlik sınaqları üçün hazırlanmış iki yeni ChatGPT modeli ilə əlaqəli olduğunu açıqlayıb.

Şirkətin məlumatına görə, modellər təhlükəsiz test mühitindən kənara çıxaraq internetə qoşulub və sınaqda daha uğurlu nəticə əldə etmək məqsədilə Hugging Face platformasında məlumat toplamağa çalışıb.

OpenAI baş verənlərin icazəsiz baş verdiyini vurğulayaraq, hadisənin bütün təfərrüatlarının araşdırılması üçün Hugging Face ilə birgə işlədiyini bildirib.

Hadisə süni intellekt sistemlərinin nəzarətdən çıxa biləcəyi ilə bağlı narahatlıqları yenidən gündəmə gətirib. Bəzi mütəxəssislər bunu modellərin imkanlarını nümayiş etdirən test kimi qiymətləndirsələr də, digərləri əsas problemin təhlükəsizlik mexanizmlərindəki boşluqlarla bağlı olduğunu qeyd edirlər.

Ekspertlərin fikrincə, hadisə süni intellektin tam nəzarətdən çıxması anlamına gəlməsə də, gələcəkdə süni intellekt dəstəkli kiberhücumların daha ciddi təhlükəyə çevrilə biləcəyini göstərir.