OpenAI kompaniyasi ChatGPT foydalanuvchilarining xabarlarini avtomatik skanerlash tizimini joriy etganini maʼlum qildi.

Yangi mexanizmning vazifasi potensial xavfli kontentni aniqlash va shubhali suhbatlarni moderatorlar jamoasiga yuborishdir. Zarurat tugʻilganda, keskin vaziyatlar huquq-tartibot idoralariga ham yetkazilishi mumkin.

Mazkur qaror sunʼiy intellekt bilan muloqotdan soʻng ayrim foydalanuvchilarda oʻziga zarar yetkazish, ruhiy bosim yoki hatto joniga qasd qilish holatlari kuzatilgani ortidan qabul qilindi.

Masalan, Kaliforniyada bir ota-ona farzandi oʻz joniga qasd qilgani sababli OpenAI va uning rahbari Sem Altman ustidan sudga murojaat qilgan. Daʼvoga koʻra, ChatGPT berilgan maslahatlari orqali 16 yoshli oʻsmirning ahvolini yanada ogʻirlashtirgan.

Mutaxassislar bunday holatlarni “AI-psixoz” deb atamoqda — yaʼni odamlar sunʼiy intellekt taʼsirida voqelik bilan aloqasini yoʻqotib qoʻyishi.

OpenAI bayonotiga koʻra, yangi algoritmlar uchinchi shaxslarga zarar yetkazish rejalari boʻyicha muloqotlarni kuzatib boradi. Shubhali suhbatlar moderatorlarga yuboriladi va ular yakuniy qaror qabul qiladi. Agar moderatorlar foydalanuvchi jismoniy zoʻravonlikka tayyorgarlik koʻrayotganini aniqlasa, maʼlumot politsiyaga yetkaziladi. Biroq bunday qoidalar amal qiladigan mamlakatlar roʻyxati hozircha oshkor etilmadi.

Shu bilan birga, kompaniya maxfiylik masalasiga alohida eʼtibor qaratmoqda. Hozircha oʻz-oʻziga zarar yetkazish bilan bogʻliq holatlar huquq-tartibot organlariga maʼlum qilinmaydi. OpenAI bu orqali chat-bot bilan shaxsiy suhbatlarning nozik tabiatini inobatga olganini va inqiroz holatidagi odamlarni politsiya tashriflari bilan qoʻrqitishni istamasligini bildirdi.

Bu ChatGPT ’dagi maxfiylik masalalari yuzasidan-yuzaga kelgan ilk muammo emas. Kompaniya rahbari Sem Altman Teo Von podkastida shunday degan edi:

“Terapevt, huquqshunos yoki shifokor bilan suhbatlaringiz yuridik jihatdan himoyalanadi. ChatGPT bilan boʻlgan suhbatlarda esa bunday himoya tizimi hali mavjud emas”.

Bundan tashqari, 2024 yil iyul oyida AQSh Federal sudi OpenAI kompaniyasini ChatGPT foydalanuvchilarining barcha suhbat jurnallarini, hatto foydalanuvchi oʻchirgan yoki “vaqtinchalik” deb belgilagan boʻlsa ham, saqlab qolishga majbur qiluvchi qaror chiqardi. Mazkur qaror The New York Times tomonidan berilgan mualliflik huquqini buzish haqidagi daʼvo asosida chiqarilgan.

Bu esa foydalanuvchilar tarixidan oʻchirgan chatlar ham aslida toʻliq yoʻq qilinmasligini anglatadi. Kompaniya agar sud ularni talab qilsa, maʼlumotlarni tegishli organlarga taqdim etishga majbur boʻladi.

“Tarixdagi eng yirik firibgarlik”: Pavel Durov WhatsApp’ni shaxsiy yozishmalarni oʻqishda aybladi

Endilikda ChatGPT bilan suhbatlar tekshirilishi va zarur hollarda huquq tartibot organlariga yuborilishi mumkin

ChatGPT’dagi yozishmalar maxfiy emas va ular sudga taqdim etilishi mumkin — OpenAI rahbari Sem Altman