Anthropic kompaniyasining Frontier Red Team boʻlinmasi tomonidan oʻtkazilgan yangi ilmiy tadqiqot sunʼiy intellekt agentlarining oʻzaro munosabatlari va ularning mojaroli vaziyatlardagi xatti-harakatlarini tahlil qildi. Bu haqda Zamin.uz xabar berdi.
Tadqiqot doirasida bir xil vazifani bajarishga dasturlangan, biroq qarama-qarshi koʻrsatmalarga ega boʻlgan sunʼiy intellekt tizimlari oʻrtasida yuzaga keladigan jarayonlar oʻrganildi. ixbt.com manbasida keltirilgan maʼlumotlarga koʻra, ushbu tizimlar toʻqnash kelganda vaziyat juda qisqa vaqt ichida nazoratdan chiqib ketishi va kutilmagan oqibatlarga olib kelishi mumkinligi aniqlandi.
Mutaxassislarning fikricha, sunʼiy intellekt modellarining bir-biriga zid topshiriqlar asosida ishlashi ularning samaradorligini pasaytiribgina qolmay, tizimlar oʻrtasida oʻziga xos ziddiyatni keltirib chiqaradi. Bunday holatda agentlar oʻz maqsadlariga erishish yoʻlida agressiv strategiyalardan foydalanishi yoki umumiy tizim barqarorligiga putur yetkazishi mumkin.
Tadqiqot mualliflari sunʼiy intellekt texnologiyalari rivojlanib borayotgan bir davrda, ularning xavfsizligini taʼminlash va turli agentlar oʻrtasidagi oʻzaro hamkorlik protokollarini ishlab chiqish dolzarb masalalardan biri ekanligini taʼkidlashmoqda. Ushbu natijalar kelgusida sunʼiy intellekt tizimlarini loyihalashda xavfsizlik choralarini yanada kuchaytirish zarurligini koʻrsatib beradi.
Izohlar
0