«Касперский зертханасы»: 2024 жылы ЖИ киберқауіпсіздікке қалай әсер етеді

Қарқынды технологиялық прогресс пен қоғамдағы өзгерістер аясында «жасанды интеллект» термині жаһандық пікірталастардың алдыңғы қатарында берік орын алды. Бұл технология тараған сайын адамдар құпиялылық мәселелеріне көбірек тап болады, бұл ЖИ киберқауіпсіздік саласынан алшақ қарауды мүмкін емес етеді. «Касперский зертханасының» сарапшылары жасанды интеллекттің қарқынды дамуының салдарын болжауға тырысты.

Неғұрлым күрделі осалдықтар. Нұсқаулықтарды орындайтын үлкен тілдік моделдер (LLM) барған сайын көбірек өнімдер мен қызметтерге біріктірілгендіктен, ықтималдық генеративті ЖИ мен дәстүрлі детерминистік технологиялардың түйіскен жерінде жаңа, күрделі осалдықтар пайда болады. Нәтижесінде АҚ-мамандары қарастыруы керек шабуыл сценарийлерінің саны артады. Бұл сарапшылардан жаңа қауіпсіздік шараларын енгізуді талап етеді.

Киберқауіпсіздік мамандары үшін толыққанды ЖИ-көмекшісінің пайда болуы. Генеративті ЖИ инновациялық киберқауіпсіздік құралдарын жасау үшін қолданылады, бұл болашақта үлкен тілдік модельдерді (LLM) және басқа машиналық оқыту технологияларын (ML) қолданатын көмекшіні құруға алып келуі мүмкін. Бұл құрал пентесттерді орындау кезінде орындалған командаларға негізделген ұсыныстарды ұсына алады.

Алаяқтар суреттер мен бейнелер жасау үшін нейронды желілерді жиірек пайдаланады. 2024 жылы зиянкестер сенімді мазмұн жасау үшін нейронды желілерді жиі қолдана алады. Нәтижесінде алаяқтық әрекеттері күрделене түсуі мүмкін, бұл шабуылдар мен олардан жәбірленушілер көбеюіне алып келеді.

2024 жылы генеративті ЖИ қауіп ландшафтына айтарлықтай өзгерістер енгізбейді. Жоғарыда аталған үрдістерге қарамастан, «Касперский зертханасының» сарапшылары ЖИ жақын арада қауіп ландшафтын айтарлықтай өзгертетініне әлі де күмәнмен қарайды. Зиянкестер генеративті ЖИ-ті қолданғанымен, бағдарламалық жасақтама мен желілердің қауіпсіздігін тексеру үшін сол немесе одан да жетілдірілген құралдарды қолданатын киберқауіпсіздік мамандары да солай жасайды, сондықтан қауіп-қатер ландшафты түбегейлі өзгеруі екіталай.

ЖИ-мен байланысты нормалар мен тәжірибелерді әзірлеуде жеке компаниялар маңызды рөл атқарады. Мемлекеттік емес ұйымдар, әсіресе корпорациялар, ЖИ-мен байланысты нормалар мен тәжірибелерді қалыптастыруда шешуші рөл атқарады. Жасанды интеллектті әзірлеу мен пайдалануда мол тәжірибесі бар мемлекеттік емес құрылымдар қалай халықаралық солай ұлттық деңгейде де ЖИ реттеу мәселелерін талқылауға баға жетпес үлес қоса алады. Әлем бойынша заң шығарушылар бұл білімді бизнес пен ғалымдарды ЖИ саласындағы реттеу стратегияларын әзірлеу процесіне белсенді тарту арқылы қолданады.

Жасанды интеллект жасаған мазмұнды белгілеу. ЖИ арқылы жасалған мазмұнды нақты анықтауды талап ететін көбірек ережелер пайда болады. Сандық қызмет провайдерлері де бұл талапты өз саясатына қосады және осындай мазмұнды тану технологияларына инвестициялауды жалғастырады. Әзірлеушілер мен зерттеушілер, өз кезегінде, оны анықтауға және шығу көзін анықтауға көмектесу үшін жасалған ЖИ медиамазмұнын таңбалау әдістерін жасауға қатысады.

«Кез келген технологиялық жетістік сияқты, қызықты мүмкіндіктермен қатар генеративті ЖИ біздің өмірімізге және жаңа тәуекелдерге алып келеді. Зиянкестер жаңа технологияларды белсенді түрде игеріп жатқанымен, бұл 2024 жылы ландшафтты түбегейлі өзгертуі екіталай. Көптеген жағдайларда жаңа құралдар әлі де жеткілікті жақсы немесе қолдануға оңай болып тұрған жоқ», - деп «Касперский зертханасындағы» Машиналық оқыту технологияларын зерттеу және дамыту тобының жетекшісі Владислав Тушканов түсіндіреді.

Жасанды интеллекттің киберқауіпсіздікке әсері туралы болжамдардың толық нұсқасын Securelist блогынан оқыңыз: https://securelist.ru/story-of-the-year-2023-ai-impact-on-cybersecurity/108558/.