Kaspersky ekspertləri ChatGPT, Gemini və digər Sİ xidmətlərindən təhlükəsiz istifadə qaydalarını hazırlayıb

Süni intellekt (Sİ) alətləri hər yerdə — əməliyyat sistemlərindən və ofis proqramlarından tutmuş qrafik redaktorlara və çatlara qədər bir çox yerdə qarşımıza çıxır. ChatGPT, Gemini və onların çoxsaylı əlavələrindən istifadə edərkən rəqəmsal təhlükəsizliyi necə təmin etmək olar?

Bizimyol.info xəbər portalı Kaspersky ekspertləri bir neçə tövsiyə hazırlayıblar.

Vacib məlumatları filtr edin. “OpenAI” (ChatGPT-nin yaradıcısı) şirkətinin məxfilik siyasətində açıq şəkildə bildirilir ki, çatbotla aparılan bütün dialoqlar saxlanılır və müxtəlif məqsədlər üçün istifadə oluna bilər. Sİ köməkçisi müəyyən məlumatları cavab kontekstində uyğun hesab etdiyi halda başqalarına da təqdim edə bilər. Bundan əlavə, informasiya təhlükəsizliyi üzrə mütəxəssislər xüsusi olaraq dialoqları oğurlamaq məqsədilə müxtəlif hücum üsulları (bir, iki, üç) işləyib hazırlayıblar və bu sahədə daha da irəliləməkdədirlər. Buna görə də unutmayın: Sİ-yə yazdığınız hər şey sizə qarşı istifadə oluna bilər. Sİ ilə ünsiyyət qurarkən təhlükəsizlik qaydalarına riayət etməyi tövsiyə edirik.

Çatbota şəxsi məlumatları göndərməyin. Şifrələr, pasport və bank kartı nömrələri, ünvanlar, telefonlar, adlar və digər şəxsi məlumatlar — sizin, şirkətinizin və ya müştərilərinizin məlumatları — Sİ ilə yazışmaların bir hissəsi olmamalıdır. Onların əvəzinə bir neçə ulduz işarəsindən (*) və ya "REDACTED" qeydindən istifadə edə bilərsiniz.

Sənədləri yükləməyin. Çoxsaylı plaginlər və əlavələr çatbotlardan sənədlərin emalı üçün istifadə etməyə imkan verir. Məsələn, uzun bir sənədin xülasəsini əldə etmək üçün bu cür xidmətlərə sənəd yükləmək çox əlverişli görünə bilər. Lakin çoxsəhifəli sənədi diqqətlə yoxlamadan yüklədikdə məxfi məlumatların, intellektual mülkiyyətin və ya kommersiya sirrlərinin — məsələn, yeni məhsulların buraxılış tarixləri və ya bütün şöbənin maaş məlumatlarının — sızma riski ilə üzləşirsiniz. Üstəlik, xarici mənbələrdən göndərilən sənədlərin emalı zamanı bu cür sənədlərin dil modelləri tərəfindən oxunmasını təmin edən hücumlara məruz qalma ehtimalı daha da artır.

Məxfilik parametrlərindən istifadə edin. İstifadə etdiyiniz dil modelinin tərtibatçısının məxfilik siyasətini və mövcud parametrlərini diqqətlə araşdırın. Adətən bu vasitələrlə izlənməni minimuma endirmək mümkündür.

Kod göndərirsiniz? Onu məxfi məlumatlardan təmizləyin. Proqramçılara ayrıca tövsiyə: Sİ köməkçilərindən kodun yoxlanılması və təkmilləşdirilməsi üçün istifadə edərkən API açarlarını, server ünvanlarını və tətbiqin strukturu, həmçinin server infrastrukturunu açığa çıxaran digər məlumatları koddakı məxfi məlumatlardan çıxarın.

Kənar tətbiq və plaginlərdən istifadəni məhdudlaşdırın. Sadalanan bütün tövsiyələri hansı populyar Sİ köməkçisindən istifadə etməyinizdən asılı olmayaraq mütləq tətbiq edin. Lakin hətta bu tədbirlər məxfiliyi tam təmin etmək üçün kifayət olmaya bilər. Çünki ChatGPT-dəki plaginlər, Gemini-dəki genişlənmələr və ya fərdi tətbiq əlavələri kimi qoşulma modullarının istifadəsi yeni təhdid növlərinə qapı aça bilər.

İcraedici plaginlər xüsusi nəzarət tələb edir. İndiyə qədər əsasən məlumat sızması ilə bağlı risklərdən bəhs etdik, lakin Sİ ilə işləyərkən qarşılaşa biləcəyiniz potensial problemlər bununla məhdudlaşmır. Bir çox plaginlər istifadəçinin komandalarına əsasən xüsusi əməliyyatlar yerinə yetirə bilir, məsələn, aviareys biletləri sifariş etmək kimi. Bu cür alətlər potensial təcavüzkarlar üçün yeni imkanlar yaradır: qurbanlara əsas məzmunla yanaşı dil modeli üçün nəzərdə tutulmuş gizli komandaları da ehtiva edən sənəd, veb-səhifə, video və ya şəkil təqdim edilir. Əgər qurban bu sənədi və ya linki çatbota yükləsə, Sİ zərərli əmri icra edə və məsələn, sizin pulunuzla aviareys biletləri ala bilər. Bu tip hücumlar "prompt injection" adlanır. Fərqli GPT texnologiyalarının tərtibatçıları bu təhlükənin qarşısını almaq üçün müdafiə mexanizmləri hazırlamağa çalışsalar da, risklərə qarşı hassaslıq davam edir (və, ola bilsin ki, həmişə həssas olaraq qalacaq). Buna görə də, icraedici plaginlərdən istifadə edərkən diqqətli olun və təhlükəsizlik tədbirlərinə riayət edin.

Xoşbəxtlikdən, əksər vacib əməliyyatlar, xüsusilə ödənişlərlə bağlı olanlar, məsələn, bilet alışı, adətən ikiqat təsdiq tələb edir. Lakin dil modelləri ilə plaginlərin qarşılıqlı fəaliyyəti hücum üçün elə münbit bir zəmin yaradır ki, bu cür müdafiə tədbirlərinin dayanıqlılığını təmin etmək çətindir.

Buna görə də yalnız diqqətlə seçilmiş Sİ alətlərindən istifadə etmək deyil, həm də onlara təkcə etibarlı məlumatların emalına icazə vermək çox vacibdir.