“OpenAI” kibertəhlükəsizlik testləri zamanı inkişaf etmiş süni intellekt modellərindən birinin gözlənilməz davranış sərgilədiyini açıqlayıb.
Globalinfo.az-ın “Qafqazinfo”ya istinadən xəbərinə görə, şirkətdən bildirilib ki, model proqramçılar arasında geniş istifadə olunan “Hugging Face” platformasına qarşı sınaq çərçivəsindən kənara çıxmağa cəhd edib.
“OpenAI” hadisəni “görünməmiş kibertəhlükəsizlik insidenti” kimi qiymətləndirərək, məsələ ilə bağlı “Hugging Face” platforması ilə birgə araşdırma aparıldığını bildirib.
Məlumata əsasən, süni intellekt modelləri kibertəhlükəsizlik bacarıqlarını yoxlamaq məqsədilə məhdud internet çıxışına malik nəzarətli rəqəmsal mühitdə sınaqdan keçirilib. Testlər zamanı modelin verilmiş tapşırığı yerinə yetirmək üçün mövcud məhdudiyyətləri aşmağa və açıq internetə çıxış əldə etməyə çalışdığı qeyd olunub.
“OpenAI” nümayəndələri bildiriblər ki, sistem qiymətləndirmə prosesini manipulyasiya etməyə cəhd göstərib, müxtəlif üsullardan istifadə edərək, məxfi məlumatlara çıxış yolları axtarıb. Şirkət bu hadisənin süni intellekt sistemlərinin avtonom imkanları və mümkün kibertəhlükəsizlik riskləri baxımından mühüm nümunə olduğunu vurğulayıb.
Məlumata görə, süni intellekt sahəsində fəaliyyət göstərən digər şirkətlər də oxşar risklər səbəbindən bəzi yeni modellərinin ictimai istifadəyə verilməsini təxirə salıblar. Bildirilir ki, getdikcə daha mürəkkəb hala gələn bu texnologiyalar kritik infrastruktur üçün potensial təhlükələr yarada bilər.
“Hugging Face” də ötən həftə platformaya qarşı kiberhücum cəhdinin baş verdiyini təsdiqləyib. Şirkətin açıqlamasında bildirilir ki, insident əvvəlki hadisələrdən fərqli olaraq, tamamilə avtonom süni intellekt agenti tərəfindən həyata keçirilib və əsasən, platformanın öz təhlükəsizlik sistemləri vasitəsilə aşkarlanıb.
Həmçinin oxuyun
