Anthropic, създателят на модела за изкуствен интелект Claude, е засекла опити за използване на технологията си за извършване на хакерски атаки. Бързо е установено, че зад атаките стои китайска група, действаща от името на разузнавателните агенции, пишеNewsweek.
Според доклад на Anthropic, хакерската група, идентифицирана като GTG-1002, е работила от името на китайските разузнавателни агенции и е използвала инструмента Claude Code, за да стартира автоматизирани атаки срещу приблизително тридесет организации в секторите на технологиите, финансите, химическата промишленост и публичната администрация.
Според експерти това е бил един от първите случаи, в които моделът с изкуствен интелект не само е подкрепял нападателите, но и е извършвал повечето операции вместо тях. Преднамерени атаки Цялата кампания е била предшествана от обширна подготовка. Нападателите са разработили оперативна рамка, базирана на протокола за контекст на модела, която позволи на модела да използва външни инструменти и да изпълнява последващите стъпки почти автономно.
Ключовият момент е било манипулирането на самия Claude Code, използвайки техники, напомнящи за класически джейлбрейк. Хакерите убедили модела, че действа в рамките на закона, тествайки сигурността на системите на клиенти или предоставяйки поддръжка на фирма за киберсигурност. След като бариерите били преодолени, моделът започнал активно да провежда разузнаване, идентифицирайки уязвимости и генерирайки експлойти.
Той също така получил идентификационни данни и ги използвал за по-нататъшно навигиране в мрежата, докато данните не били откраднати.
Ефективност на кампанията Anthropic подчертава, че през целия процес човешката намеса от страна на атакуващия екип е била ограничена до няколко отделни команди, докато до 80 до 90% от действията са били извършвани от изкуствен интелект.
Повече в trud.bg
16.11.2025