OpenAI süni intellekti haker hücumu həyata keçirdikdən sonra təlim prosesini yavaşladır
OpenAI ən qabaqcıl süni intellekt modellərindən bəzilərinin təlim prosesini təhlükəsizliyi gücləndirmək məqsədilə müvəqqəti olaraq yavaşladacağını açıqlayıb.
ChatGPT-nin yaradıcısı olan şirkət bloq yazısında bildirib ki, süni intellekt agentlərinin təhlükəsizlik tədbirlərini müstəqil şəkildə keçərək texnologiya startapı Hugging Face-ə kiberhücum həyata keçirməsindən sonra yeni təhlükəsizlik tədbirləri tətbiq edilir.
Şirkətin məlumatına görə, yeniləmələrin həyata keçirilməsi üçün təlim prosesi təxminən iki həftə ərzində yavaşladılacaq.
OpenAI bildirib ki, qabaqcıl süni intellekt modellərinin imkanları sürətlə inkişaf edir və onların fəaliyyətini anlamaq və təhlükəsizliyini təmin etmək imkanları bu inkişaf tempini qabaqlamalıdır.
Şirkət bununla belə, süni intellektin inkişafını tamamilə dayandırmayıb. Məhdudiyyətin əsasən ən yeni modellərin reinforcement learning, yəni möhkəmləndirici öyrənmə mərhələsinə tətbiq ediləcəyi bildirilib. Bu üsul süni intellekt modellərinin birbaşa geribildirim vasitəsilə daha yaxşı nəticələr əldə etməsinə və tapşırıqları daha effektiv yerinə yetirməsinə imkan verir.
OpenAI həmçinin təhlükəli davranışları izləyən sistemləri genişləndirəcəyini və genişmiqyaslı təlim prosesini bərpa etməzdən əvvəl əlavə təhlükəsizlik yoxlamaları tətbiq edəcəyini açıqlayıb.
Şirkətin baş direktoru Sam Altman bildirib ki, modellərin inkişafı hazırda son dərəcə sürətlə gedir və süni intellekt imkanlarının təhlükəsizlik tədbirlərindən daha sürətli inkişaf etdiyi qənaətinə gəldikləri halda şirkətin müdaxilə edəcəyi əvvəlcədən açıqlanıb.
Qeyd edək ki, OpenAI-nin Hugging Face-ə qarşı süni intellekt vasitəsilə həyata keçirilən hücum barədə ilkin açıqlamasından sonrakı həftələrdə Anthropic və Meta şirkətləri də süni intellekt sistemlərinin oxşar haker hücumları həyata keçirdiyini bildiriblər.
OpenAI-nin qərarı süni intellekt sahəsində bəzi ekspertlər tərəfindən ehtiyatlı nikbinliklə qarşılanıb. Lakin şirkətin könüllü şəkildə tətbiq etdiyi təhlükəsizlik tədbirlərinin kifayət edib-etmədiyi ilə bağlı suallar da səsləndirilib.
Kembric Universitetinin Minderoo Texnologiya və Demokratiya Mərkəzinin icraçı direktoru professor Gina Neff OpenAI-nin təhlükəsizlik məsələsində əsasən öz açıqlamalarına güvəndiyini bildirib və daha ciddi dövlət nəzarətinin vacibliyini vurğulayıb.
Süni intellekt analitiki Zvi Mowshowitz isə qərarı müsbət qiymətləndirsə də, şirkətin açıqladığı tədbirlərin detalları və onların praktikada necə həyata keçiriləcəyinin mühüm olduğunu qeyd edib.
Güllər Gülhüseynova
