ChatGPT-სთან აქტიური საუბრების შემდეგ მოზარდმა თავი მოიკლა - ოჯახი OpenAI-ს უჩივის

16 წლის ადამ რეინმა სიცოცხლე თვითმკვლელობით დაასრულა. OpenAI-სა და მისი აღმასრულებელი დირექტორის, სემ ალტმანის, წინააღმდეგ მოზარდის ოჯახმა სასამართლოში სარჩელი შეიტანა. როგორც ამბობენ, ადამი სწორედ ჩატბოტმა "წაახალისა".

OpenAI აღიარებს, რომ სისტემამ შეიძლება ყოველთვის საჭიროებისამებრ ვერ იმუშაოს. მსგავსი შედეგების თავიდან ასარიდებლად აპირებენ, რომ 18 წლამდე პირებისთვის დამატებითი ზომები მიიღონ, როცა საქმე სარისკო ქცევებს ან სენსიტიურ თემებზე საუბარს ეხება.

500 მილიარდ დოლარად შეფასებულმა კომპანიამ ასევე აღნიშნა, რომ მშობელთა კონტროლის ფუნქციას შემოიღებს. მისი მეშვეობით ისინი შეძლებენ, ChatGPT-ს გამოყენებისას თავიანთი შვილის აქტივობა შეამოწმონ და შესაბამისი ზომებიც მიიღონ.

"ChatGPT-თან თვეების განმავლობაში საუბრობდა, ჩატბოტი კი მის წახალისებას ცდილობდა", — აცხადებს ოჯახის ადვოკატი, ჯეი ედელსონი.

ჯეი ედელსონის, ოჯახის ადვოკატის, თქმით, თვითმკვლელობამდე მოზარდს "ChatGPT თვეების განმავლობაში უწყობდა ხელს". ოჯახი კომპანიასა და მის აღმასრულებელ დირექტორს იმ ბრალდებით უჩივის, რომ ვერსია GPT-4o "უსაფრთხოების პრობლემების მიუხედავად ნაადრევად გამოუშვეს ბაზარზე".

როგორც აღმოჩნდა, მოზარდს არაერთხელ განუხილავს ChatGPT-სთან თვითმკვლელობის მეთოდები — მათ შორის იმ ღამითაც, როცა სიცოცხლე დაასრულა. სასამართლოში შეტანილი სარჩლის მიხედვით, ჩატბოტმა ადამს უთხრა, იმუშავებდა თუ არა მის მიერ შერჩეული მეთოდი. გარდა ამისა, შესთავაზა დახმარებაც მშობლებისთვის გამოსამშვიდობებელი წერილის დაწერაში. 

"ღრმად დამწუხრებული ვართ ბატონი რეინის სიკვდილით", — განაცხადა OpenAI-ს წარმომადგენელმა — "ღრმა მწუხარებას გამოვთქვამთ მისი ოჯახის მიმართ ამ რთულ დროს".

Microsoft-ის AI-ს განყოფილების ხელმძღვანელმა, მუსტაფა სულეიმანმა, გასულ კვირას თქვა, რომ სულ უფრო მეტად წუხს ფსიქოზის რისკზე, რომელსაც ხელოვნური ინტელექტი მომხმარებლებს უქმნის.

"მაფიქრებს მანიის მსგავსი მომენტები, ბოდვითი აზრები ან პარანოია, რომლებიც შეიძლება გაჩნდეს ან გაღრმავდეს ჩატბოტებთან მუდმივი კომუნიკაციისას", — ამბობს სულეიმანი.

OpenAI-ს განცხადებით, ხანგრძლივი საუბრისას მოდელის უსაფრთხოება შეიძლება შემცირდეს. როგორც სარჩელში წერია, ადამი და ჩატბოტი ერთმანეთს დღეში 650-ამდე შეტყობინებას წერდნენ.

"რეინის ოჯახი ამტკიცებს, რომ ადამის მსგავსად სიკვდილის შემთხვევები გარდაუვალი იყო. აპირებენ, რომ ნაფიც მსაჯულებს მტკიცებულებები წარუდგინონ იმის შესახებ, რომ კომპანიის გუნდის წევრებიც კი 4o მოდელის ნაადრევად გაშვების წინააღმდეგნი იყვნენ. ზუსტად ამ მიზეზით დატოვა სამსახური კომპანიის უსაფრთხოების მკვლევარმა, ილია სუცკევირმა. სარჩელში ასევე წერია, რომ კონკურენტების გასწრების მიზნით ახალი მოდელის სწრაფად გამოშვებამ კომპანიის ღირებულება 86 მილიარდიდან 300 მილიარდ დოლარამდე გაზარდა", — დაამატა ოჯახის ადვოკატმა.

"ხანგრძლივი დიალოგი უსაფრთხოებას ამცირებს", — წერს კომპანია OpenAI — "თავდაპირველად ჩატბოტი თვითმკვლელობის განზრახვის მქონე მომხმარებელს ურჩევს, რომ ცხელი ხაზს დაუკავშირდეს. მრავალ შეტყობინებაზე პასუხის გაცემის შემდეგ მას შეიძლება ისეთი პასუხები ჰქონდეს, რომლებიც უსაფრთხოების წესებს ეწინააღმდეგება. ხანგრძლივ საუბრებში უსაფრთხოებას გავაძლიერებთ".

კომპანიამ მაგალითიც მოიყვანა. შესაძლოა, ვინმეს ეგონოს, რომ მანქანის 24 საათის განმავლობაში მართვა თავისუფლად შეუძლია, რადგან ორღამიანი უძილობის შემდეგ თავს უძლეველად გრძნობს; ჩატბოტს შეიძლება ეს ენთუზიაზმით გაუზიაროს.

"ChatGPT-მ შეიძლება რაღაც ვერ აღიქვას საფრთხის შემცველად ან იფიქროს, რომ უბრალოდ თამაშია, თემაზე საუბრის დროს კი მსუბუქად განამტკიცოს ქცევა. უკვე ვმუშაობთ GPT-5-ის განახლებაზე, რომელიც ადამიანებს რეალობაში დააბრუნებს. ჩვენი მაგალითის შემთხვევაში იგი მომხმარებელს აუხსნის, რომ უძილობა სახიფათოა და რამის გაკეთებამდე ცოტა უნდა დაისვენოს", — განმარტა კომპანიამ.