Valideynlər ChatGPT də övladlarını izləyə biləcək

OpenAI bildirib ki, yaxın 1 ay ərzində ChatGPT tətbiqində valideyn nəzarəti funksiyası əlavə olunacaq.

Lent.az xarici KİV-ə istinadən qeyd edir ki, valideynlər öz hesablarını 13 yaşdan yuxarı yeniyetmənin hesabı ilə əlaqələndirə, modelin davranış qaydalarını təyin edə, yaddaşı və söhbət tarixini aktivləşdirib-deaktiv edə biləcəklər. Həmçinin ChatGPT yeniyetmənin stress vəziyyətində olduğunu müəyyənləşdirərək bu barədə valideynlərə məlumat göndərəcək. OpenAI şirkəti təhlükəsizlik tədbirlərini sərtləşdirir, bunun fonunda şirkətə qarşı 16 yaşlı Adam Raine-nin intihar etməsi ilə bağlı valideynləri tərəfindən məhkəmə iddiası qaldırılıb. İddiaçılar bildiriblər ki, 2024-cü ilin sonundan etibarən Adam mütəmadi olaraq problemlərini ChatGPT ilə müzakirə edib, süni intellekt isə onun meyllərini dəstəkləyib və son dialoqlardan birində hətta vida məktubu tərtib etməyi təklif edib.

Şirkət əvvəlcə etiraf edib ki, uzun dialoqlar zamanı modelləri təhlükəsizlik protokollarına daha zəif riayət edə bilər. Bu problemin həlli üzərində hazırda OpenAI mütəxəssisləri çalışır, həmçinin şirkət dünyanın müxtəlif yerlərindən 250 ekspertdən ibarət qrup formalaşdırıb və onlarla əlavə məsləhətləşmələr aparacaq. Hazırda ChatGPT artıq istifadəçilərə hara müraciət edə biləcəkləri barədə göstəriş verməyə öyrədilib: buna misal olaraq universal findahelpline.com saytını gətirmək olar. Valideyn nəzarətinin tətbiqindən əlavə, OpenAI həssas mövzular üzrə dialoqları GPT-5 Thinking və o3 kimi məntiqi düşünən modellərə daha fəal yönləndirməyi planlaşdırır. Şirkətin daxili sınaqları göstərib ki, bu cür modellər təhlükəsizlik protokollarına daha yaxşı riayət edirlər.