Отчетена е първата мащабна кибератака, оркестрирана от изкуствен интелект

[Р. Теодосиев]

️Anthropic, компанията зад Claude, съобщи че е осуетила безпрецедентна кибератака, при която изкуственият интелект е изпълнил 80 до 90% от оперативната работа без значително човешко участие. Инцидентът, открит през септември, представлява първият документиран случай на мащабна кибер-шпионска кампания, изпълнена автономно от AI.

Anthropic идентифицира, че зад кампанията стои китайска държавно-спонсорирана група. Атакуващите са манипулирали инструмента Claude Code, за да се опитат да проникнат в около 30 глобални цели, включително големи технологични компании, финансови институции, химически производители и правителствени агенции.

Атакуващите "отключват" (jailbreak) Claude, убеждавайки го че работи за легитимна компания за киберсигурност и участва в тестове за отбрана. Операцията e разбита на малки, привидно безобидни задачи, които Claude изпълнява без достъп до пълния злонамерен контекст.

AI системата автономно извършва разузнаване на целевите системи, идентифицира най-ценните бази данни, разработва т.нар. експлойт код (софтуерен код, или поредица от команди, които се възползват от грешка, бъг или уязвимост в компютърен софтуер или хардуер), прибира потребителски данни за достъп и организира откраднатата информация - всичко това с минимален човешки надзор. На върха на атаката AI прави хиляди заявки, често няколко в секунда - темп, който би бил невъзможен за хора.

Anthropic предупреждава, че бариерите пред извършването на сложни кибератаки са драстично намалели. По-слабо опитни и ресурсно ограничени групи вече могат потенциално да извършват мащабни атаки от този характер. Компанията отбелязва че агенти на AI системи могат да вършат работата на цели екипи опитни хакери при правилна настройка.

Anthropic незабавно блокира акаунтите на атакуващите, уведоми засегнатите организации и координира действията си с властите по време на десетдневно разследване. Компанията вече надгради системите си за откриване и се ангажира да споделя подобни казуси, за да помогне на индустрията, правителствата и изследователската общност да укрепят собствената си киберотбрана.

https://t.me/InfoLabyrinth/138