2025 жылы әлемдегі өнеркәсіптік компаниялардың 28% - ы ЖИ-мен кибершабуылдарға ұшырады

"Касперский зертханасы" ішкі зерттеу орталығының * мәліметтері бойынша, 2025 жылы әлемдегі өнеркәсіптік кәсіпорындардың 28% - ы шабуылдаушылар ЖИ (28%) қолданған шабуылдарға тап болды, соның ішінде терең фейктер жасады немесе әлеуметтік инженерияны автоматтандыруға жүгінді. Осы қауіппен кездескен ұйымдардың ең көп үлесі — өңдеу өнеркәсібінде (36%) және дискретті (дана) өндірісте (30%). Одан кейін Құрылыс (21%), Ауыл шаруашылығы және орман шаруашылығы (20%), энергетика және коммуналдық қызметтер (18%), Көлік және логистика (17%).

Өнеркәсіптік кәсіпорындардың үштен бірінен астамы (36%) жеткізу тізбегіндегі шабуылдармен және APT топтарының белсенділігімен бірге ең маңызды 5 қауіптің қатарына ЖИ шабуылдарын қамтиды. Шабуылдарда AI қолдануды негізгі тәуекелдердің бірі деп санайтын ұйымдардың ең жоғары үлесі өңдеу өнеркәсібінде байқалды (45%).

Қосымша тәуекелдер ұйымдардың өздеріне ЖИ құралдарын енгізумен байланысты. Бір жағынан, олар көптеген процестерді автоматтандыруға және тиімділікті едәуір арттыруға көмектеседі, бірақ сонымен бірге жаңа қауіптер де туындайды. 

ЖИ жеткізу тізбегіне шабуылдар. Егер бұрын бағдарламалық жасақтама тізбегіне шабуылдар БЖ пакеттері арқылы жасалса, енді шабуылдаушылар бұл үшін LLM модельдерін қолдана алады. Мысалы, жасырын зиянды кодты үлкен тілдік модель файлына енгізу. Агенттік дағдыларға зиянкестер зиянды жүктемені және зиянды орындалатын файлдар түрінде де, зиянды әрекеттерді қарапайым тілмен сипаттау түрінде де қоса алады.

Агенттердің шамадан тыс автономиясы мен өкілеттіктері. Агенттің мүмкіндіктері неғұрлым көп болса және әртүрлі деректерге қол жетімділігі неғұрлым кең болса, тәуекелдер соғұрлым жоғары болады. OpenClaw сияқты агенттік жүйелердің пайда болуымен әлеуметтік желідегі жазбадағы қарапайым зиянды Нұсқаулық агентке пайдаланушы жағында еркін кодты орындауға, криптовалюта аударымын жасауға немесе құпия деректерді желіде жариялауға жеткілікті болуы мүмкін.

Жасырын ЖИ. Ұйымдардың қызметкерлері жұмыс міндеттері үшін жасанды интеллектті белсенді пайдаланады. Егер компанияда нейрондық желілерге орталықтандырылған қол жетімділік болмаса, олар жұмыс істеуге ресми түрде рұқсат етілмеген және АҚ және АТ қызметтері бақыламайтын үшінші тарап қызметтеріне жүгіне бастайды. Бұл жоғарыда сипатталған тәуекелдерді күшейтеді-мысалы, қызметкер агентке тым кең өкілеттік бере алады немесе жұмыс құрылғысына кездейсоқ зиянды жүктемені жүктей алады.

"ЖИ, соның ішінде өнеркәсіптік кәсіпорынды пайдаланбайтын заманауи ұйымды елестету қиын. Машиналық оқыту мен үлкен тілдік модельдерге негізделген құралдар жұмыс тиімділігін едәуір арттыруға және күнделікті өмірді автоматтандыруға мүмкіндік береді. Алайда, оларды енгізу кезінде іске асыру бизнеске қымбатқа түсуі мүмкін тәуекелдерді азайту маңызды: құралдарды мұқият таңдап, оларды қауіпсіздік тұрғысынан тексеру, қызметкерлерге ЖИ қолдану бойынша оқыту тренингтерін өткізу, сондай — ақ озық қорғаныс шешімдерін енгізу", - деп түсіндірді "Касперский зертханасындағы" Машиналық оқыту технологияларын зерттеу тобының жетекшісі Владислав Тушканов.

* Сауалнама 2025 жылы жүргізілді, оған бүкіл әлем бойынша кем дегенде 500 адамнан тұратын әр түрлі салалардағы компаниялардың 1714 қызметкері, оның ішінде топ-менеджерлер, вице-президенттер, тимлидтер және аға мамандар қатысты.