Жұмыс үшін ChatGPT: жеке деректер үшін төрт тәуекел

Қазір көптеген адамдар жұмыс істеу үшін ChatGPT сияқты нейрондық желілерге негізделген тілдік модельдерді пайдаланады. Мысалы, Ресейде «Касперский зертханасы» сауалнамасына сәйкес респонденттердің 11%-ы чат-боттарды қолданған. Сонымен қатар, 30%-ы олардың арқасында адамдардың едәуір бөлігі жұмыссыз қалуы мүмкін деп қауіптенеді. Басқа зерттеулер көрсеткендей, ChatGPT көмегіне Бельгиядағы кеңсе қызметкерлерінің 57% - ы деректерді тексермей-ақ сүйенеді, ал Ұлыбританиядағы респонденттердің саны (58%) жұмыс уақытын оңтайландыру үшін ЖИ құралдарының әлеуетін көреді. «ChatGPT» іздеу сұрауларының жиілігі туралы мәліметтер адамдардың күнделікті өмірде чатботты белсенді қолданатындығын және, мүмкін, жұмыс тапсырмалары үшін де қолданатындығын айтады. Мысалы, Қазақстанда 2023 жылғы қыркүйектегі іздеу сұрауларының саны осы жылдың қаңтарымен салыстырғанда 120% - дан астам өсті*.

ChatGPT танымалдылығының артуы аясында маңызды сұрақ туындайды: оған құпия деректерге сенуге бола ма? «Касперский Зертханасының» зерттеушілері чат-ботты бизнес тапсырмалары үшін пайдаланудың үш негізгі тәуекелін ерекшеледі.

Провайдер тарапынан деректердің ашылуы немесе бұзуы

LLM негізіндегі чатботтар (үлкен тілдік модельдер) ірі технологиялық компаниялардың бақылауында болғанына қарамастан, олар деректерді бұзуға немесе кездейсоқ ашылуынан сақтанған емес. 2023 жылдың наурызында кейбір ChatGPT пайдаланушылары басқа пайдаланушылардың хат алмасуларында тақырыптар мен алғашқы хабарламаларды көре алатын тоқтау болды. Осыған байланысты OpenAI чатбот жұмысын уақытша тоқтата тұруға мәжбүр болды. 

Зиянкесті  жалған көшірмелер

ChatGPT сияқты ресми қызметтер кейбір жерде бұғатталуы мүмкін. Бұл жағдайда күрделі мәселелер туындайды: пайдаланушылар бейресми баламаларды — бағдарламаларды, сайттарды, мессенджер боттарын жүктей алады және клиент немесе қолданба  ретінде жасырылған зиянды бағдарламаны кездейсоқ жүктей алады. 

Аккаунты бұзу

Зиянкестер фишинг көмегімен қызметкерлердің есептік жазбаларына және олардың жеке деректеріне қол жеткізе алады. Kaspersky Digital Footprint Intelligence  қызметі чат-боттардағы аккаунттарға кіруді сату туралы хабарландыруларды даркнетте форумдарда үнемі анықтап отырады.

ChatGPT және Synthesia корпоративтік аккаунтына $40 долларға қол жеткізуді ұсынатын darknet хабарландыру мысалы

Сонымен қатар, чат-боттарды пайдалану кезінде деректердің бұзылу қаупі қалай қарапайым пайдаланушыларға, солай компанияларға да әсер етуі мүмкін. Сондықтан жауапты әзірлеушілер құпиялылық саясатында модельді оқыту үшін деректерді қалай қолданатынын егжей-тегжейлі жазады.

ChatGPT, ChatGPT API, Anthropic Claude, Bing Chat, Bing Chat Enterprise, You.com, Google Bard және Alloy Studios –тан Genius App сияқты танымал чат-боттардың «Касперский зертханасын» талдау, қауіпсіздік пен құпиялылықтың жоғары стандарттары бар B2B секторында құпия ақпараттың ағып кету тәуекелі одан да маңызды екенін көрсетті. Сондықтан деректерді пайдалану, жинау, сақтау және өңдеудің жалпы ережелері мен шарттары B2C секторына қарағанда оны қорғауға көбірек бағдарланған. Осы зерттеуде сипатталған B2B шешімдері әдетте чат тарихын автоматты түрде сақтамайды және кейбір жағдайларда компанияның серверлеріне ешқандай деректер жіберілмейді, өйткені чат-бот клиенттің желісінде жергілікті жұмыс істейді.

«Жұмыс істеу үшін LMM негізіндегі чат-боттарды пайдаланудың ықтимал тәуекелдерін зерттей отырып, біз қызметкерлер жұмыс істеу үшін жеке есептік жазбаларын пайдаланған кезде құпия деректердің ағып кету ықтималдығы ең жоғары деген қорытындыға келдік. Сондықтан компаниялардың жұмысшыларға чат-боттарды қолданумен байланысты тәуекелдер туралы айтуы маңызды. Бір жағынан, қызметкерлердің өздері жеке және құпия деректердің не екенін, олардың қайсысында коммерциялық құпия бар екенін және оларды чат-ботқа неліктен беруге болмайтынын түсінуі керек. Екінші жағынан, компания мұндай қызметтерді, егер оларды жалпы пайдалануға рұқсат етілсе, пайдаланудың нақты ережелерін белгілеуі керек», — деп түсіндіреді Анна Ларкина, «Касперский Зертханасының» контенттік талдау жөніндегі сарапшысы.

Чат-боттармен байланысты тәуекелдер туралы көбірек білу үшін Securelist.com сайтын қараңыз.

Қызметкерлер мен компанияларды чат-боттарды пайдалану кезіндегі тәуекелдерден қорғау үшін «Касперский зертханасының» сарапшылары мыналарды ұсынады

• әр есептік жазба үшін күрделі және бірегей құпия сөздерді жасаңыз, туған күндер немесе есімдер сияқты оңай табуға болатын үйлесімді пайдаланбаңыз;
• фишингтен сақ болыңыз: жеке деректерді хабарлауды сұрайтын күдікті электрондық пошталарға, хабарламаларға немесе қоңырауларға сақ болыңыз. Біреуге құпия ақпаратты бермес бұрын жіберушінің түпнұсқалығын тексеріңіз;
• киберқауіпсіздік қызметкерлерін өзекті онлайн қауіптер мен қорғаныс әдістерінен хабардар ету үшін үйрету. Бұған Kaspersky Automated Security Awareness Platform білім беру платформасы көмектесе алады;
• бағдарламалық жасақтаманы үнемі жаңартып отырыңыз: операциялық жүйе, қолданбалар және антивирустық құрамдауыштар. Олар көбінесе қауіпсіздік саласындағы түзетулерді қамтиды;
• корпоративтік ақпараттың таралуын шектеу: оны аса қажет болған жағдайда ғана беру, әлеуметтік желілерде немесе жариялық форумдарда сақтана отырып деректермен алмасу;
• URL мекенжайларын, әсіресе есептік деректерін енгізбес бұрын немесе сатып алудан бұрын мұқият тексеріңіз;
• қызметкерлердің сенімсіз чат-боттарды жұмыс мақсатында, соның ішінде бұлттық қызметтерді талдау функционалдығымен пайдалануға жол бермеуге көмектесетін қорғаныс корпоративтік шешімін орнатыңыз; мысалы, Kaspersky Endpoint Security Cloud -та бұлттық қызметтерді басқаруға, сондай-ақ оларды пайдалану тәуекелдерін бағалауға арналған Cloud Discovery құралы бар.

* Яндекс Wordstat мәліметтері бойынша