Süni intellekt casus kimi hər şeyi izləyəcək AÇIQLAMA

OpenAI süni intellekt istifadəçiləri arasında ekstremizm və digər riskli davranışları erkən mərhələdə müəyyən edən yeni “ThroughLine” sistemini təqdim edir. Hazırda sistem istifadəçi sorğularında özünə zərər vermə, məişət zorakılığı və qidalanma pozuntuları kimi siqnalları aşkarlayaraq onları müvafiq dəstək xidmətlərinə yönləndirir. Lakin bu yanaşma bəzi istifadəçi hüquqlarının pozulması və müəyyən risklərin yaranması kimi narahatlıqlara səbəb ola bilər.
Məsələ ilə bağlı İT mütəxəssisi Natiq Məmişov Demokrat.az-a bilirib ki, sistem sorğuları təhlil edir və erkən mərhələdə riskli məzmunu aşkar edə bilir:
"Bu, ictimai mövzular, insanın özünə bağlılığı və psixoloji dəstəklərlə əlaqəli ola bilər. Sistem yalnız riskli məzmunu müəyyən edir və istifadəçiyə yardım siyahıları təqdim edir. Analiz zamanı istifadəçilərin məlumatları anonim və aqreqat şəkildə işlənməlidir. İstifadəçi şərtlərində bu barədə məlumat verilməlidir. Məsələn, kredit götürəndə bank istifadəçidən icazə alır. Eyni şəkildə vətəndaş da bilməlidir ki, onun məlumatları analiz ediləcək. Hazırda məlumatlar saxlanılır və cəmiyyət üçün təhlil olunur".
Ekspert deyib ki, bu sistem cəzalandırmaq üçün deyil, yön göstərmək və riskləri aşkar etmək üçün istifadə olunmalıdır:
"İstifadəçi məlumatları təhlükəsiz saxlanmalıdır. Risk kateqoriyasına görə profil yaradılmamalıdır. Analiz nəticələri şəffaf və tənzimlənmiş olmalıdır.
Bəzən psixoloji və emosional vəziyyət, şəxsi düşüncələr və həssas mövzular risk yaradır. Bu, məxfilik və məlumatların qorunması ilə bağlıdır. Yanlış şərtləndirmə riskli kateqoriyalara aid edilməyə səbəb ola bilər.
İstifadəçilər riskli qiymətləndirmələri bilsələr də, sui-istifadə riski yüksəkdir. Dövlətlər və böyük texnologiya şirkətləri bu texnologiyadan geniş nəzarət və monitorinq üçün istifadə edə bilər.
Şəffaflıq mütləqdir. İstifadəçilər analizlərin aparıldığını bilməlidir. Minimal məlumat prinsipi tətbiq olunmalı və yalnız zəruri məlumatlar işlənməlidir. İnsan nəzarəti olmalıdır, kritik qərarlar yalnız avtomatik sistem tərəfindən verilməməlidir.
Anonimləşdirmə təmin edilməli, fərdi identifikasiya mümkün qədər azaldılmalıdır. Sistemlər mütəmadi yoxlanmalı, analiz prosesləri və kateqoriyalaşma şəffaf şəkildə həyata keçirilməlidir".
Əfsanə Kamal
Demokrat.az