Віруси освоїли штучний інтелект — тепер вони самі оновлюють свій код

Кіберзлочинці почали використовувати великі мовні моделі для створення та самостійного переписування шкідливого програмного забезпечення.

У своєму звіті компанія Google зазначає, що вперше зафіксовано зразок коду, який використовує можливості ШІ під час виконання , змінюючи власну поведінку, щоб уникнути виявлення. Це, за словами компанії, ознака початку “нової операційної фази зловживання AI” . Про це пише PC Gamer.

Одним із прикладів нового типу загроз став Promptflux — шкідливе ПЗ, яке під час роботи звертається до моделі Gemini , аби переписати власний вихідний код і зберегти нову, “заплутану” версію у системних папках.

Цей механізм дозволяє шкідливому коду еволюціонувати та ставати складнішим для виявлення . На щастя, наразі Promptflux перебуває на експериментальній стадії й не використовується у реальних атаках, проте його поява викликає серйозне занепокоєння серед експертів із безпеки.

Інші виявлені випадки “AI-зловживання”

Google також повідомила про чотири нові зразки шкідливих програм , що використовують великі мовні моделі у своїй роботі:

• Fruitshell — встановлює віддалене з’єднання, що дозволяє виконувати довільні команди на зараженому пристрої, обходячи LLM-захист.
• Promptlock — генерує шкідливі скрипти для викрадення даних або шифрування файлів, має експериментальний статус.
• Promptsteal — використовує API мовних моделей для створення команд, які збирають і викрадають конфіденційні дані.
• Quietvault — краде паролі та інші облікові дані, зберігаючи їх у відкритих сховищах, наприклад, GitHub.

Ці приклади демонструють, що штучний інтелект дедалі частіше стає інструментом не лише для розробників, а й для зловмисників .

У компанії запевняють, що завдяки роботі підрозділу DeepMind уже вжито заходів для посилення безпеки: моделі Google отримали оновлені класифікатори , які мають відмовляти у виконанні шкідливих запитів і блокувати подібні сценарії.