Demokrat.az saytından verilən məlumata görə, Icma.az xəbər verir.
Süni intellekt platformalarından, xüsusilə də “ChatGPT”dən istifadə edənlərin sayı artdıqca şəxsi məlumatların məxfiliyi narahatlıq yaradır. Belə ki, ChatGPT ilə yazışmaları real insanların oxuduğu iddia olunub.
Azərbaycan Kibertəhlükəsizlik Təşkilatları Assosiasiyası" İctimai Birliyinin eksperti, Xəzər Universitetinin İT departament rəhbəri Fərid Musayev Demokrat.az-a açıqlamasında bildirib ki, süni intellekt modellərinin daha təbii, dəqiq və insanla ünsiyyətə uyğun cavablar verməsi üçün istifadə olunan üsullardan biri “İnsan rəyi əsasında gücləndirilmiş öyrənmə”dir (RLHF):
“Bu proses zamanı annotatorlar, yəni məlumat işçiləri süni intellekt tərəfindən yaradılan cavabları qiymətləndirir, onları müqayisə edir və daha uyğun cavab variantlarını seçirlər. Bu mərhələ istifadəçilərin süni intellekt sistemlərinə daxil etdiyi məlumatların məxfiliyi ilə bağlı suallar da yaradır. Xüsusilə istifadəçi ChatGPT kimi platformalara spesifik, şəxsi və ya korporativ məlumatlar daxil etdikdə, həmin məlumatların hansı məqsədlə və necə emal olunduğu önəm daşıyır. Süni intellekt provayderlərinin məlumatlardan istifadə qaydaları platformadan və hesabın parametrlərindən asılı olaraq dəyişə bilər. Bəzi hallarda istifadəçilərin yazışmaları xidmətlərin təkmilləşdirilməsi və modellərin gələcək versiyalarının inkişaf etdirilməsi məqsədilə istifadə oluna bilər. Buna görə də şəxsi məlumatların, məxfi sənədlərin və şirkətə aid həssas informasiyanın süni intellekt sistemlərinə daxil edilməsi müəyyən məxfilik riskləri yarada bilər. Xüsusilə proqramçıların məxfi kodları və sənədləri, şirkət əməkdaşlarının kommersiya sirri təşkil edən məlumatları və ya menecerlərin strateji planları süni intellektə analiz məqsədilə göndərməsi riskli hesab olunur. Eyni zamanda ad, ünvan, bank məlumatları və sağlamlıq tarixçəsi kimi şəxsi məlumatların paylaşılması da məxfiliyin pozulması ehtimalını artırır. Məlumatların qorunması üçün istifadəçilərə bir sıra tədbirlər görmək tövsiyə olunur. İlk növbədə, platformanın məxfilik və məlumatların təlim məqsədilə istifadəsi ilə bağlı parametrləri yoxlanılmalıdır. Mümkün olduğu hallarda məlumatların modelin təkmilləşdirilməsi üçün istifadəsi deaktiv edilə bilər”.
Mütəxəssis əlavə edib ki, süni intellektə tapşırıq verilərkən real adların, şirkət adlarının, müştəri məlumatlarının və digər həssas detalların anonimləşdirilməsi məqsədəuyğundur:
“Məsələn, real adlar əvəzinə “Müştəri X”, şirkət adı əvəzinə isə “Şirkət A” kimi ifadələrdən istifadə etmək olar. Korporativ istifadə zamanı isə şirkətlər üçün nəzərdə tutulmuş xüsusi süni intellekt xidmətlərindən və API əsaslı həllərdən istifadə edilməsi daha uyğun ola bilər. Belə xidmətlərdə məlumatların təlim məqsədilə istifadəsi ilə bağlı fərqli qaydalar və əlavə təhlükəsizlik mexanizmləri tətbiq edilir. Əsas qayda isə sadədir. Paylaşılması şəxsin və ya şirkətin təhlükəsizliyinə, məxfiliyinə və kommersiya maraqlarına risk yarada biləcək məlumatlar bulud əsaslı süni intellekt platformalarına daxil edilməzdən əvvəl diqqətlə qiymətləndirilməlidir. Beləliklə, süni intellekt sistemlərində insan rəyi əsasında öyrənmə mexanizminin mövcudluğu məlumatların emalı və məxfiliyi ilə bağlı suallar yaratsa da, konkret risklər istifadə olunan platformanın siyasətindən, hesab parametrlərindən və məlumatların necə emal edilməsindən asılıdır. İstifadəçinin məxfilik parametrlərini düzgün tənzimləməsi və həssas məlumatları paylaşmaması bu risklərin azaldılmasına kömək edə bilər”.
Məsələ ilə bağlı saytımıza danışan süni intellekt mütəxəssisi Abdulla Abdullayev söyləyib ki, “ChatGPT” ilə yazışmaların heç bir halda insanlar tərəfindən görülmədiyini demək düzgün olmaz:
“”OpenAI” bildirir ki, müəyyən hallarda məzmun məhdud sayda səlahiyyətli əməkdaş tərəfindən, məsələn, təhlükəsizlik, sui-istifadənin araşdırılması, dəstək və bəzi hallarda modelin təkmilləşdirilməsi məqsədilə nəzərdən keçirilə bilər. Bu, o demək deyil ki, “insanlar oturub bütün istifadəçilərin ChatGPT yazışmalarını oxuyur”. Eyni zamanda modelin yazışmaları bir verilənlər bazası kimi saxlayıb sonradan başqa istifadəçiyə həmin məlumatı verməsi də sistemin normal iş prinsipi deyil. “OpenAI” öz modellərini fərdi məlumatları yadda saxlamaq üçün deyil, məlumatlar arasındakı nümunələri öyrənmək üçün qurduğunu bildirir. Digər tərəfdən, fərdi “ChatGPT” istifadəçilərinin söhbətləri modelin təkmilləşdirilməsi üçün istifadə oluna bilər, əgər istifadəçi bunu “Data Controls” bölməsindən deaktiv etməyibsə. “Temporary Chat” isə modelin təlimində istifadə olunmur. Biznes məhsullarında, o cümlədən “API”də isə məlumatlar standart olaraq modelləri öyrətmək üçün istifadə edilmir. Daha böyük riskin hesabların oğurlanması hallarında ola biləcəyini düşünürəm. Müşahidəmə əsasən deyə bilərəm ki, süni intellekt platformalarındakı hesablarda çox az insan ikiqat təsdiq funksiyasından istifadə edir”.
Fidan Hacızadə
Ən son xəbərləri və yenilikləri almaq üçün Icma.az saytını izləyin. Azərbaycan Kibertəhlükəsizlik Təşkilatları Assosiasiyası" İctimai Birliyinin eksperti, Xəzər Universitetinin İT departament rəhbəri Fərid Musayev Demokrat.az-a açıqlamasında bildirib ki, süni intellekt modellərinin daha təbii, dəqiq və insanla ünsiyyətə uyğun cavablar verməsi üçün istifadə olunan üsullardan biri “İnsan rəyi əsasında gücləndirilmiş öyrənmə”dir (RLHF):
“Bu proses zamanı annotatorlar, yəni məlumat işçiləri süni intellekt tərəfindən yaradılan cavabları qiymətləndirir, onları müqayisə edir və daha uyğun cavab variantlarını seçirlər. Bu mərhələ istifadəçilərin süni intellekt sistemlərinə daxil etdiyi məlumatların məxfiliyi ilə bağlı suallar da yaradır. Xüsusilə istifadəçi ChatGPT kimi platformalara spesifik, şəxsi və ya korporativ məlumatlar daxil etdikdə, həmin məlumatların hansı məqsədlə və necə emal olunduğu önəm daşıyır. Süni intellekt provayderlərinin məlumatlardan istifadə qaydaları platformadan və hesabın parametrlərindən asılı olaraq dəyişə bilər. Bəzi hallarda istifadəçilərin yazışmaları xidmətlərin təkmilləşdirilməsi və modellərin gələcək versiyalarının inkişaf etdirilməsi məqsədilə istifadə oluna bilər. Buna görə də şəxsi məlumatların, məxfi sənədlərin və şirkətə aid həssas informasiyanın süni intellekt sistemlərinə daxil edilməsi müəyyən məxfilik riskləri yarada bilər. Xüsusilə proqramçıların məxfi kodları və sənədləri, şirkət əməkdaşlarının kommersiya sirri təşkil edən məlumatları və ya menecerlərin strateji planları süni intellektə analiz məqsədilə göndərməsi riskli hesab olunur. Eyni zamanda ad, ünvan, bank məlumatları və sağlamlıq tarixçəsi kimi şəxsi məlumatların paylaşılması da məxfiliyin pozulması ehtimalını artırır. Məlumatların qorunması üçün istifadəçilərə bir sıra tədbirlər görmək tövsiyə olunur. İlk növbədə, platformanın məxfilik və məlumatların təlim məqsədilə istifadəsi ilə bağlı parametrləri yoxlanılmalıdır. Mümkün olduğu hallarda məlumatların modelin təkmilləşdirilməsi üçün istifadəsi deaktiv edilə bilər”.
Mütəxəssis əlavə edib ki, süni intellektə tapşırıq verilərkən real adların, şirkət adlarının, müştəri məlumatlarının və digər həssas detalların anonimləşdirilməsi məqsədəuyğundur:
“Məsələn, real adlar əvəzinə “Müştəri X”, şirkət adı əvəzinə isə “Şirkət A” kimi ifadələrdən istifadə etmək olar. Korporativ istifadə zamanı isə şirkətlər üçün nəzərdə tutulmuş xüsusi süni intellekt xidmətlərindən və API əsaslı həllərdən istifadə edilməsi daha uyğun ola bilər. Belə xidmətlərdə məlumatların təlim məqsədilə istifadəsi ilə bağlı fərqli qaydalar və əlavə təhlükəsizlik mexanizmləri tətbiq edilir. Əsas qayda isə sadədir. Paylaşılması şəxsin və ya şirkətin təhlükəsizliyinə, məxfiliyinə və kommersiya maraqlarına risk yarada biləcək məlumatlar bulud əsaslı süni intellekt platformalarına daxil edilməzdən əvvəl diqqətlə qiymətləndirilməlidir. Beləliklə, süni intellekt sistemlərində insan rəyi əsasında öyrənmə mexanizminin mövcudluğu məlumatların emalı və məxfiliyi ilə bağlı suallar yaratsa da, konkret risklər istifadə olunan platformanın siyasətindən, hesab parametrlərindən və məlumatların necə emal edilməsindən asılıdır. İstifadəçinin məxfilik parametrlərini düzgün tənzimləməsi və həssas məlumatları paylaşmaması bu risklərin azaldılmasına kömək edə bilər”.
Məsələ ilə bağlı saytımıza danışan süni intellekt mütəxəssisi Abdulla Abdullayev söyləyib ki, “ChatGPT” ilə yazışmaların heç bir halda insanlar tərəfindən görülmədiyini demək düzgün olmaz:
“”OpenAI” bildirir ki, müəyyən hallarda məzmun məhdud sayda səlahiyyətli əməkdaş tərəfindən, məsələn, təhlükəsizlik, sui-istifadənin araşdırılması, dəstək və bəzi hallarda modelin təkmilləşdirilməsi məqsədilə nəzərdən keçirilə bilər. Bu, o demək deyil ki, “insanlar oturub bütün istifadəçilərin ChatGPT yazışmalarını oxuyur”. Eyni zamanda modelin yazışmaları bir verilənlər bazası kimi saxlayıb sonradan başqa istifadəçiyə həmin məlumatı verməsi də sistemin normal iş prinsipi deyil. “OpenAI” öz modellərini fərdi məlumatları yadda saxlamaq üçün deyil, məlumatlar arasındakı nümunələri öyrənmək üçün qurduğunu bildirir. Digər tərəfdən, fərdi “ChatGPT” istifadəçilərinin söhbətləri modelin təkmilləşdirilməsi üçün istifadə oluna bilər, əgər istifadəçi bunu “Data Controls” bölməsindən deaktiv etməyibsə. “Temporary Chat” isə modelin təlimində istifadə olunmur. Biznes məhsullarında, o cümlədən “API”də isə məlumatlar standart olaraq modelləri öyrətmək üçün istifadə edilmir. Daha böyük riskin hesabların oğurlanması hallarında ola biləcəyini düşünürəm. Müşahidəmə əsasən deyə bilərəm ki, süni intellekt platformalarındakı hesablarda çox az insan ikiqat təsdiq funksiyasından istifadə edir”.
Fidan Hacızadə