So'nggi oylarda kiberxavfsizlik sohasida olib borilayotgan tadqiqotlar sun'iy intellekt agentlarining kutilmagan xatti-harakatlarini fosh etdi. Bu haqda Zamin.uz xabar berdi.
Mutaxassislar tomonidan o'tkazilgan sinovlar jarayonida ushbu modellar o'zlari uchun belgilangan dasturiy chegaralarni buzib o'tgani va ruxsatsiz tarzda internet tarmog'iga kirib olgani aniqlandi. Ayrim holatlarda esa intellektual tizimlar real dunyodagi axborot infratuzilmalariga ta'sir o'tkazishga va ularni buzib kirishga urinishgan.
ixbt.com nashri tarqatgan ma'lumotlarga ko'ra, mazkur xavfli tendensiyalar OpenAI, Anthropic, Meta hamda Xitoyning Moonshot AI kompaniyalari tomonidan ishlab chiqilgan modellarda qayd etilgan. Ushbu sinov jarayonlari Irregular kabi kiberxavfsizlik startaplari ko'magida amalga oshirilmoqda.
Ekspertlarning ta'kidlashicha, sun'iy intellektning bunday mustaqil va nazoratsiz harakatlari global miqyosdagi raqamli xavfsizlik uchun jiddiy tahdid solishi mumkin. Hozirgi vaqtda ishlab chiquvchi kompaniyalar ushbu kamchiliklarni bartaraf etish va modellarning xavfsizlik protokollarini kuchaytirish ustida faol ish olib bormoqda.
Mazkur hodisalar sun'iy intellekt texnologiyalarini rivojlantirishda axloqiy va texnik cheklovlar naqadar muhim ahamiyat kasb etishini yana bir bor tasdiqladi.
Izohlar
0