ChatGPT yangi versiyalari biologik qurol yaratishni soddalashtirishi mumkin

OpenAI kompaniyasining keyingi avlod sun’iy intellekt modellari (ChatGPT) yangi xavflarni yuzaga keltirishi, jumladan, ilmiy ma’lumotga ega bo‘lmagan odamlarga biologik qurol kabi ehtimoliy xavfli moddalarni yaratishga imkon berishi mumkin. Buni kompaniya rahbariyati ham tan olmoqda.

Yuqori xavfli sun’iy intellekt paydo bo‘lishining aniq vaqti aytilmagan bo‘lsa-da, OpenAI xavfsizlik tizimlari rahbari Yohannes Xaydeke o3 modelining ba’zi versiyalari shu darajaga yetishini ta’kidladi.

Sun’iy intellektni cheklash bilan bog‘liq qiyinchilik shundaki, katta til modellariga (LLM) tibbiy yutuqlarni yaratishga imkon beradigan ba’zi bir imkoniyatlar zararli maqsadlar uchun ham ishlatilishi mumkin.

U OpenAI va boshqa kompaniyalarga 99 foizdan yuqori aniqlik yoki 100 ming holatdan birida zararli foydalanishning oldini oladigan aniqlash tizimlari kerakligini tan oldi. Shu bilan birga, inson nazorati muhim ahamiyatga ega: monitoring guruhlari avtomatik filtrlashni chetlab o‘tadigan hodisalarga tezda javob berishi va potensial tahdidni tezda bartaraf etishi kerak.

2024 yildayoq OpenAI biologik qurollarni yaratishga hissa qo‘shishi mumkin bo‘lgan ma’lumotlarni olish uchun ChatGPT platformasidan foydalanishga urinishlarni bloklashi mumkin bo‘lgan erta ogohlantirish tizimini ishlab chiqayotganini e’lon qildi.

Shu yil aprel oyida kimyoviy va biologik tahdidlar bilan bog‘liq ehtimoliy xavfli so‘rovlarni kuzatib boradigan o3 va o4 mini modellari uchun monitoring tizimi joriy etildi. Ushbu chora-tadbirlar sun’iy intellektning haqiqiy qurollarni yaratishga olib kelishi mumkin bo‘lgan ko‘rsatmalar berishining oldini olishga qaratilgan.