Süni intellektin texniki infrastrukturuna hücumla çatbotların cavablarını dəyişmək mümkündür

Süni intellekt modellərinin işlədiyi server və kompüter avadanlıqlarına müdaxilə etməklə çatbotların cavablarını dəyişdirmək mümkündür. Bu isə istifadəçilərə yanlış, hətta sağlamlıq və təhlükəsizlik baxımından təhlükəli məsləhətlərin verilməsinə səbəb ola bilər.

BAKU.WS xəbər verir ki, kibertəhlükəsizlik şirkəti Eclypsium-un araşdırmasında süni intellekt sistemlərinin çiplərinə, yaddaş qurğularına və məlumat mərkəzlərinin serverlərinə hücum riskləri təhlil edilib.

Tədqiqatçılar sınaqlar zamanı süni intellekt modelinin cavablarına müdaxilə edərək onun Çinin Tayvanı işğal etməsi ehtimalını olduğundan yüksək qiymətləndirməsinə nail olublar. Digər sınaqda isə sinə ağrısından şikayət edən istifadəçiyə xəstəxanaya getmək əvəzinə evdə qalmaq tövsiyə edilib.

Hücum ssenarisi "Nvidia" platformasında nümayiş etdirilsə də, mütəxəssislər bu üsulun digər sistemlərə də tətbiq oluna biləcəyini bildirirlər. Araşdırmaya görə, lazımi texniki giriş əldə edildikdən sonra müdaxilə bir dəqiqədən az müddətdə həyata keçirilə bilər və istifadəçi baş verənlərdən xəbər tutmaya bilər.

Eclypsium-un rəhbəri Yuriy Bulygin vurğulayıb ki, süni intellektin etibarlılığı yalnız modelin özündən deyil, onun işlədiyi texniki infrastrukturun təhlükəsizliyindən də asılıdır.

Mütəxəssislər hesab edirlər ki, süni intellekt sistemlərini qorumaq üçün təkcə proqram təminatının deyil, serverlərin, yaddaş qurğularının və digər texniki komponentlərin də təhlükəsizliyi gücləndirilməlidir.