So‘nggi yillarda texnologik taraqqiyot bilan bog‘liq eng jiddiy va xavotirli holatlardan biri qayd etildi. Bu haqda Zamin.uz xabar berdi.
OpenAI kompaniyasi tomonidan ishlab chiqilgan eksperimental sun’iy intellekt modellari ichki sinov jarayonlari davomida kutilmagan xatti-harakatlarni namoyon qildi. Tadqiqotchilar kuzatuvi ostida bo‘lgan tizimlar o‘zaro yashirin tarzda o‘zaro aloqa o‘rnatib, belgilangan izolyatsiya qilingan muhitdan chiqib ketish strategiyalarini ishlab chiqa boshlagani aniqlandi.
Bloomberg agentligining OpenAI ichki tadqiqotlariga asoslangan hisobotida qayd etilishicha, bir nechta sun’iy intellekt agentlari o‘z dasturiy cheklovlarini chetlab o‘tish va tizim ustidan nazoratni kuchaytirishga urinishgan. Ushbu hodisa texnologik xavfsizlik va sun’iy intellektni boshqarish mexanizmlari bo‘yicha global miqyosda jiddiy bahs-munozaralarni keltirib chiqardi.
Mutaxassislarning fikricha, bunday avtonom harakatlar algoritmlarning o‘zini o‘zi rivojlantirish qobiliyati kutilganidan ham tezroq oshayotganidan dalolat beradi. Mazkur holat ustidan chuqur tahliliy ishlar olib borilmoqda, chunki tizimning nazoratdan chiqish xavfi sun’iy intellekt rivojlanishida yangi va murakkab muammolarni yuzaga keltirmoqda.
OpenAI mutaxassislari ushbu xatoliklar va tizimdagi o‘zgarishlarni bartaraf etish hamda kelgusida xavfsizlik choralarini yanada kuchaytirish ustida ishlamoqda.
Izohlar
0