Зловреден софтуер, маскиран като агенти с изкуствен интелект: ето как функционират новите кампании

Възходът на асистентите с изкуствен интелект не само промени начина, по който работим, програмираме и търсим информация, но и отвори път за киберпрестъпниците да разпространяват зловреден софтуер, маскиран като инструменти с изкуствен интелект . От фалшиви инсталатори за Claude Code или DeepSeek до злонамерени умения за OpenClaw, разширения за браузър и приложения за Android, пейзажът изобилства от сложни капани.

Тревожното е, че много от тези кампании разчитат на привидно надеждни канали като Google Search, социални медии и магазини за разширения , което означава, че дори опитни потребители могат да попаднат в капана. Освен това целта вече не са само отделни потребители: компаниите, техните разработчици и офис персоналът са се превърнали във високопечеливши мишени, както за кражба на информация, така и за деактивиране на цели системи.

Как нападателите се възползват от бума на AI агентите

Злонамерените групи бързо осъзнаха, че агентите и асистентите с изкуствен интелект са много популярни и че има бързане да бъдат изпробвани. Ето защо те използват добре познати марки и имена в областта на изкуствения интелект (Claude Code, OpenClaw, DeepSeek, ChatGPT, Sora, Midjourney и др.), за да прикрият злонамерен код като инсталатори, документация или умения.

Често срещан модел е използването на реклами в търсенето на Google и техники за SEO отравяне . Нападателите регистрират домейни, много подобни на официалните, създават уебсайтове с дизайн, почти идентичен с легитимните страници, и след това плащат за рекламни кампании или манипулират класирането в търсачките, за да се показват на върха на резултатите, когато някой търси „изтегляне на Claude Code“, „DeepSeek за компютър“ или „ChatGPT 4.0 premium“.

Междувременно други кампании разчитат на социални медийни платформи като X (преди Twitter), Facebook и Telegram . Те компрометират фирмени или потребителски акаунти, публикуват връзки към предполагаеми инсталатори на изкуствен интелект и разширяват обхвата си чрез бот мрежи, които публикуват и споделят съдържанието, натрупвайки стотици хиляди гледания. Този тип операции засилват необходимостта от защита на акаунтите в социалните медии и внимателна проверка на връзките преди изтегляне на каквото и да било.

Този коктейл се усложнява допълнително от трети фактор: липсата на ясни официални канали в много проекти с отворен код за изкуствен интелект . Постоянното ребрандиране, форкове и промени в имената улесняват появата на хранилища, магазини за умения и „паралелни“ уебсайтове, които изглеждат напълно легитимни, но всъщност са предназначени да разпространяват зловреден софтуер.

Зловреден софтуер, разпространяван чрез Google Ads и инструменти за търсене с изкуствен интелект

Една от най-поразителните кампании, разкрити наскоро, използва инсталирането на Claude Code, програмния агент на Anthropic , като стръв, заедно с други популярни AI асистенти, като китайския Doubao или инструмента за автоматизация на работни процеси OpenClaw. Целта е да се заразят както macOS, така и Windows системи с различни семейства зловреден софтуер, специализирани в кражба на данни.

Атаката започва, когато потребител търси нещо толкова безобидно като „изтегляне на Claude Code“ в Google . Сред първите резултати са спонсорирани връзки, които водят към привидно официална страница, създадена с помощта на легитимни услуги като Squarespace, за да заобиколи много антифишинг филтри. Сайтът много наподобява оригиналната документация, включително раздела за инсталиране от командния ред.

Във фалшивото ръководство потребителят е инструктиран да копира и изпълни команда в терминала, точно както би направил с истинската процедура на Claude Code. Разликата е, че тази команда не инсталира никакъв AI агент; вместо това тя изтегля и инсталира зловреден софтуер във фонов режим . Това е вариант на техниката, известна като ClickFix, която някои изследователи са нарекли „InstallFix“ поради фокуса ѝ върху инсталационните процеси; следователно е жизненоважно да се знае как да се откриват злонамерени команди, изпълнявани в терминала.

За macOS системи, командата използва инструмента за команден ред curl , точно както в оригиналните инструкции, но всъщност изтегля и внедрява шпионския софтуер AMOS, крадец на информация за macOS, използван в предишни кампании. В Windows, вместо curl, тя използва mshta.exe , системна помощна програма, предназначена за стартиране на HTML-базирани приложения, която в този контекст се използва за внедряване на крадеца на информация за Amatera.

Amatera се фокусира върху кражба на пароли, „бисквитки“, информация за браузъра, данни за портфейли с криптовалута и съдържание на потребителски папки . Целият този материал се изпраща до сървър за отдалечено командване и контрол (C2), контролиран от нападателите. За да се сведе до минимум въздействието на тези кражби, се препоръчва използването на мениджър на пароли с разширени функции и многофакторно удостоверяване.

Задълбочаване в кампанията: Клод Код, Дубао и OpenClaw като стръв

Интересът към асистентите по кодиране и агентите за автоматизация се е увеличил драстично, като използването им в корпоративни среди често се заобикаля, като се заобикалят официалните процеси на одобрение. Доста често срещано е разработчик или любопитен служител самостоятелно да търси Claude Code, Doubao или OpenClaw в Google, за да ги „бързо тества“ на работната си станция.

В много компании тези услуги все още не са официално въведени, лицензите не са закупени и правилата за сигурно ползване не са дефинирани, така че потребителите са оставени сами да се справят. Тази комбинация от спешност и липса на официални канали означава, че е много вероятно спонсорирана връзка с фалшиво ръководство за инсталиране да бъде повярвана и следвана дословно , особено ако копира оригиналната документация почти дословно. Ето защо много организации трябва да предлагат сигурни алтернативи и да не позволяват на служителите да тестват инструменти самостоятелно.

В анализираните кампании, нападателите не само възпроизвеждат визуалния вид на документацията, но и пренаписват цели раздели от текста, копират раздели с команди и плагиатстват структурата на уебсайта. Единственото нещо, което се променя, е крайният полезен товар. Потребителят вижда привидно съгласуван уебсайт с неговото лого, блокове с технически текст и ясно номерирани стъпки ; следователно, подозрението е минимално.

Този подход е наблюдаван и в кампании, насочени към macOS, където зловредният софтуер AMOS се разпространява чрез Google Ads, които водят към страници, контролирани от нападателите, но хоствани на професионално изглеждащи домейни. Често дори използва легитимни препратки към OpenAI или чатове с истински асистенти с изкуствен интелект, за да придаде достоверност на операцията.

Резултатът от всичко това е, че корпоративните устройства се оказват изложени на шпионски софтуер и крадци на информация , които могат да имат достъп до хранилища с код, вътрешни идентификационни данни за услуги, поверителна документация или дори портфейли с криптовалута, използвани във финансовите операции на компанията. Един-единствен пропуск от страна на служител може да отвори много сериозна входна точка в корпоративната мрежа; ето защо е изключително важно да има стратегии за възстановяване при сериозни повреди.

Фалшив изкуствен интелект DeepSeek: геозониране, компрометирани акаунти и ботове на X

Друга особено сложна кампания се върти около DeepSeek AI, много популярен генеративен чатбот . При него атакуващите избират да клонират официалния уебсайт, използвайки много подобни домейни, като например „deepseek-pc-aicom“ или „deepseek-ai-softcom“, и след това усъвършенстват атаката с геозониране и техники за усилване в социалните медии.

Основната идея е, че злонамереният уебсайт анализира IP адреса на посетителя, за да адаптира съдържанието към неговото местоположение . Това позволява вредоносният полезен товар да се показва само на потребители в определени държави, докато на други региони се предоставя безобидно съдържание или дори се пренасочва към легитимни сайтове, като по този начин се намалява вероятността от откриване от анализатори по сигурността или автоматизирани системи за наблюдение.

Основният канал за разпространение в този случай е платформата X. Престъпниците са получили контрол над акаунт на австралийска компания и са публикували оттам туит, съдържащ връзки към измамните уебсайтове. Публикацията е достигнала приблизително 1,2 милиона импресии и е била споделена стотици пъти, много от които от бот акаунти с подобни имена и почти празни профили, което предполага умишлено създадена автоматизирана мрежа.

Жертвата, която кликне върху връзката, е насочена към страница, предлагаща изтегляне на предполагаемо настолно приложение DeepSeek за Windows. Инсталаторът е включен в комплекта с Inno Setup , легитимна рамка, широко използвана от разработчиците на софтуер, която помага да се избегне повдигане на съмнения и задействане на основни засичания.

След като бъде изпълнен, злонамереният инсталатор се опитва да се свърже със сървъри за командни и контролни сървъри, за да изтегли PowerShell скриптове, кодирани в Base64 . Тези скриптове активират и преконфигурират вградената SSH услуга на Windows, въвеждайки ключове, контролирани от нападателя, за да получат тих отдалечен достъп до компрометираната система. Тази задна вратичка им позволява да се движат свободно, да инсталират допълнителни инструменти, да извличат информация или да се местят към други машини в мрежата. В тези случаи е препоръчително да премахвате зловредния софтуер, използвайки офлайн сканиране, когато е възможно.

В този тип кампания, доставчиците на защитни програми вече са класифицирали полезните товари като варианти на Trojan-Downloader.Win32.TookPS.* , които комбинират изтегляне на компоненти, интензивно използване на PowerShell и техники за запазване на вируса, за да останат на компютъра дори след рестартиране или повърхностни опити за почистване.

Фалшиви инсталатори на изкуствен интелект, разпространяващи ransomware и разрушителен зловреден софтуер

Фалшивите инсталатори на инструменти за изкуствен интелект не се използват само за кражба на информация; те се използват и като вектори за рансъмуер и зловреден софтуер, способни напълно да деактивират компютър . Последните проучвания на Cisco Talos идентифицираха няколко известни семейства: Numero, CyberLock и Lucky_Gh0$t.

Numero е особено разрушителен зловреден софтуер, който се маскира като легитимен инсталатор на услугата InVideo AI . Поведението му далеч надхвърля криптирането на файлове или кражбата на данни: той постоянно манипулира графичните компоненти на Windows (прозорци, заглавия, бутони и др.), докато системата стане практически неизползваема.

Този зловреден софтуер разполага с няколко вътрешни компонента, включително изпълним файл, който преминава през активните прозорци на работния плот и презаписва елементите на интерфейса им с повтарящи се числови низове . На практика компютърът се превръща в смесица от числа, което прави невъзможна нормалната му работа. Освен това, авторите са програмирали кода да открива и избягва често срещани инструменти за анализ и отстраняване на грешки, като IDA, x64dbg и WinDbg, което възпрепятства криминалистичната работа.

CyberLock, от друга страна, е рансъмуер, написан на PowerShell и разпространяван чрез измамен домейн novaleadsaicom , предназначен да имитира платформата за монетизация novaleads.app. Изпълнимият файл NovaLeadsAI.exe действа като зареждащ файл и при стартиране разполага рансъмуера в системата на жертвата.

След като бъде активиран, CyberLock криптира файловете на основните дялове и добавя към тях разширението .cyberlock , оставяйки бележка за откуп на работния плот. В нея нападателите изискват 50 000 долара в Monero и заплашват да публикуват поверителна информация, въпреки че анализът на кода не е открил ясни доказателства за изтичане на данни. За да се увеличи психологическият натиск, в съобщението се твърди, че парите ще отидат за хуманитарни каузи в Палестина, Украйна, Африка и Азия – емоционална тактика, целяща да се оправдае плащането.

И накрая, Lucky_Gh0$t е нов вариант в семейството Chaos , считан за шестата му итерация. Той се разпространява в компресирани файлове, маскирани като инсталатори за „ChatGPT 4.0 premium“ и включват легитимни инструменти на Microsoft като стръв. Рансъмуерът криптира файлове по-малки от 1,2 GB, използвайки AES-256 и RSA-2048, добавяйки произволни разширения, докато по-големите файлове се заменят с почти празни копия, съдържащи само един символ, включващ очевидно деструктивен компонент.

Бележката за откуп, свързана с Lucky_Gh0$t, включва личен идентификатор и изисква жертвите да се свържат с нападателите чрез платформата getsession.org . Въпреки че техническата му еволюция в сравнение с предишни версии е ограничена, фактът, че той продължава да се разпространява, показва, че известните семейства ransomware продължават да генерират приходи и представляват постоянна заплаха, особено когато са комбинирани с ефективни примамки като фалшиви инсталатори на инструменти за изкуствен интелект. За да се контекстуализира възходът на ransomware и неговото регионално въздействие, е полезно да се прегледат картите на активността на зловредния софтуер и ransomware.

OpenClaw и ClawHub: злонамерени умения и объркване в проекти с отворен код

Освен инсталаторите, нападателите експлоатират и екосистемата от умения и плъгини с отворен код за асистенти с изкуствен интелект . Отличен пример е ClawHub, магазин за умения за OpenClaw, който е придобил известност като хранилище, където общността споделя разширения за автоматизиране на задачи и свързване на услуги.

Внезапната популярност на ClawHub беше перфектният спусък: между 27 и 29 януари бяха засечени поне 14 злонамерени умения, качени от злонамерени лица , като някои дори се появиха на видно място на началната страница на платформата. Измамната техника беше проста, но ефективна: уменията бяха представени като инструменти за автоматизиране на търговията с криптовалути и помолиха потребителя да изпълни необичайни команди в терминала, за да завърши конфигурацията си.

Тези команди служеха като портал за изтегляне на останалата част от зловредния софтуер, предоставяйки достъп както до файловата система, така и до мрежата . Оттам злонамереният код можеше да чете информация за браузъра, да извлича данни от портфейли с криптовалута или да осъществява достъп до други чувствителни ресурси на компютъра, всичко това под прикритието на привидно полезен инструмент за автоматизирано инвестиране.

OpenClaw е самостоятелно хостван и изключително гъвкав помощник, характеристики, които го правят основна цел за корпоративни среди, където много администратори избират да го инсталират извън официалните ИТ канали, за да избегнат чакане на одобрения. Това означава, че инстанциите може да бъдат лошо одитирани, като външни плъгини се добавят без преглед на кода и без официален процес на валидиране на изходния код.

Към всичко това се добавя и объркването, породено от ребрендирането и промените в имената на проектите с отворен код , които улесняват представянето за друг потребител: алтернативни домейни, „неофициални“ хранилища, които изглеждат легитимни, форкове с много сходни имена... Всичко това улеснява разпространението на фалшиви пакети и манипулирани умения, без много потребители да осъзнават риска, докато не стане твърде късно.

Поуката от историята е ясна: макар че агентите с изкуствен интелект могат да бъдат изключително мощни, те все пак са софтуер, който може да съдържа злонамерен код . Ако потребителят има дори основни познания за изкуствения интелект, препоръчително е да прегледа кода на всички умения, да внимава за тези, които изискват необичайни ръчни команди, и да не се доверява сляпо на нищо, което е представено или подчертано.

Зловреден софтуер на Android и разширения на браузъра, маскирани като изкуствен интелект

Феноменът на зловредния софтуер, прикрит като инструменти на изкуствения интелект, не се ограничава само до настолните компютри: телефоните с Android и разширенията на браузъра също са се превърнали в силно активни вектори . Няколко разследвания са открили приложения, представяни като решения за сигурност или мобилни клиенти за услуги с изкуствен интелект, но които всъщност действат като сложни програми за изтегляне и шпиони. Скорошен и релевантен пример е PromptSpy, злонамерен софтуер за Android, задвижван от изкуствен интелект.

В средата на Android много от тези кампании следват подобен модел: първоначалното приложение действа като контейнер , разпространяван чрез магазини за приложения на трети страни, съмнителни уебсайтове или дори връзки към социални медии. След като бъде инсталирано, това приложение изтегля допълнителни компоненти, показва прозорци, които имитират официални системни актуализации, и се опитва да подмами потребителя да активира разрешенията за достъпност.

Чрез получаване на тези разрешения, зловредният софтуер може да чете какво се показва на екрана, да записва натискания на клавиши, да наслагва фалшиви интерфейси (например екрани за вход, идентични с тези на банкови приложения) и да осъществява достъп до изключително чувствителни данни без знанието на потребителя. Нападателите също така често генерират леко различни версии на зловредния софтуер, което усложнява откриването въз основа на сигнатури и им позволява да поддържат непрекъснато присъствие в екосистемата.

Успоредно с това се наблюдава увеличение на разширенията за браузър, рекламирани в социалните медии , особено във Facebook, обещаващи да отвеждат потребителите директно към официалния уебсайт на OpenAI, Gemini или други популярни услуги за изкуствен интелект. Някои дори се маскират като на пръв поглед безобидни помощни програми като Google Translate.

Зад тази фасада обаче се крият крадци на информация, чиято основна цел е да откраднат идентификационни данни от Facebook или други платформи . Те използват разрешенията, предоставени от разширението на браузъра, за да улавят сесии, бисквитки и формуляри, което позволява на атакуващите да отвлекат акаунти и по-късно да ги използват за разширяване на нови кампании или за стартиране на измами срещу контактите на жертвата.

Данните, събрани от компании за сигурност, показват, че само през втората половина на 2023 г. са блокирани стотици хиляди опити за достъп до злонамерени домейни, съдържащи низове като „chapgpt“ или подобни, което е ясен индикатор за мащаба на проблема и как нападателите си играят с печатни грешки или минимални вариации на имената, за да подведат средностатистическия потребител.

Рискове за потребителите и компаниите: от кражба на данни до пълно спиране на работата

Пряката последица от цялата тази екосистема от зловреден софтуер, прикрит като агенти на изкуствен интелект, е, че както отделните потребители, така и организациите са изправени пред много широк спектър от рискове . На индивидуално ниво кражбата на идентификационни данни, достъп до банкови сметки, изтичането на лични разговори и отвличането на профили в социалните медии вече са нещо обичайно.

За бизнеса въздействието далеч надхвърля това. Един обикновен инфостейлър, инсталиран на лаптопа на разработчик, може да предостави достъп до хранилища с изходен код, чувствителна документация или вътрешни идентификационни данни за услуги . Ransomware, внедрен от фалшив инсталатор на изкуствен интелект, може да парализира критични сървъри, да криптира файлове на производствени проекти и напълно да спре бизнес операциите.

Използването на разрушителен зловреден софтуер като Numero, който деактивира графичния интерфейс на Windows, е особено опасно в среди, които разчитат на непрекъснатата наличност на компютрите си , като например центрове за обслужване на клиенти, промишлени производствени предприятия или сервизни компании, които работят със специализирани терминали. Загубата на производителност и разходите за възстановяване могат да бъдат много високи.

Освен това, комбинацията от неоторизиран отдалечен достъп (като манипулирания SSH в кампанията DeepSeek), кражба на данни и ransomware криптиране позволява на атакуващите да свържат няколко бизнес модела: изнудване, продажба на данни и използване на компрометираната инфраструктура за по-нататъшни атаки, например като част от ботнет или за внедряване на повече зловреден софтуер.

Всичко това се изостря от тенденцията за използване на инструменти с изкуствен интелект в сянка в компаниите: служители, които поради липса на одобрени официални решения или от нетърпение, инсталират агенти за автоматизация и асистенти с изкуствен интелект сами на служебните си компютри , без предварителен контрол или преглед от службата по сигурността.

Най-добри практики и защити за спиране на зловреден софтуер, прикрит от изкуствен интелект

Добрата новина е, че много от тези заплахи могат да бъдат значително намалени чрез комбиниране на обучение, най-добри практики и подходящи технически решения. На потребителско ниво, важна първа стъпка е да се внимава с инсталаторите и разширенията от неофициални източници и внимателно да се проверяват URL адресите, преди да се изтеглят каквито и да било, свързани с изкуствен интелект.

Важно е да се уверите, че името на домейна съвпада точно с легитимния сайт, без добавени думи, излишни тирета или вариации на букви. Ако нещо ви се струва подозрително, най-разумният начин на действие е да потърсите официалния уебсайт чрез проверени канали (корпоративни сайтове, официални хранилища, реномирани магазини за приложения) и да избягвате преки пътища чрез реклами или съкратени връзки, споделяни в социалните медии.

В корпоративния свят е изключително важно да се предложат на служителите безопасни и одобрени алтернативи за използване на агенти с изкуствен интелект , вместо просто да се блокират. Платформите за повишаване на осведомеността за сигурността, като например автоматизирани програми за обучение, обясняват с примери от реалния свят как функционират тези кампании, какви червени флагове да търсят и защо служителите не трябва сами да инсталират модерни инструменти.

От техническа гледна точка е препоръчително всички корпоративни устройства да се защитят с надеждни решения за сигурност, които включват уеб защита, поведенчески анализ и откриване на подозрителни скриптове (PowerShell, mshta и др.). На мобилни устройства се препоръчва да се активират вградени механизми като Play Protect, да се поддържа системата и приложенията актуални и да се използва многофакторно удостоверяване, за да се намали въздействието на потенциална кражба на идентификационни данни.

За организации с големи паркове от устройства, внедряването на решения за управление на мобилни устройства (MDM), политики за минимални привилегии и инструменти за откриване и реагиране на крайни точки (EDR) става почти задължително. Редовните одити, тестовете за проникване и прегледите на приложенията преди внедряването помагат за разкриването на вектори на атака, преди да бъдат използвани.

И накрая, интегрирането на усъвършенствани възможности за разузнаване и анализ – като например облачни канали за данни (AWS, Azure), BI табла за управление и корелация на събития, подпомагана от изкуствен интелект – позволява по-бързо време за реакция при откриване на аномално поведение. Специализираните консултантски услуги и услуги за тестване за проникване могат да помогнат на вътрешните екипи при проектирането на по-сигурни архитектури от самото начало на жизнения цикъл на разработка на софтуер.

Пресечната точка на бума на изкуствения интелект и креативността на киберпрестъпниците създава сценарий, в който всеки нов популярен инструмент с изкуствен интелект почти веднага се превръща в примамка за разпространение на зловреден софтуер ; разбирането на това как функционират тези кампании, засилването на техническата защита и обучението на потребителите и служителите да бъдат подозрителни към непроверени инсталатори, умения и разширения станаха от съществено значение, ако искаме да използваме потенциала на изкуствения интелект, без да плащаме цената на инфекции, кражба на данни или напълно неизползваеми системи.

Свързана статия:

Microsoft Project IRE: Новият AI агент за анализ на зловреден софтуер

Isaac

Страстен писател за света на байтовете и технологиите като цяло. Обичам да споделям знанията си чрез писане и това е, което ще направя в този блог, ще ви покажа всички най-интересни неща за джаджи, софтуер, хардуер, технологични тенденции и много други. Моята цел е да ви помогна да се ориентирате в дигиталния свят по лесен и забавен начин.