Сринагар, 11 сентября: Компания, занимающаяся искусственным интеллектом, Anthropic, заявила, что ее модели Claude были использованы в нескольких злонамеренных операциях, связанных с кибершпионажем, разработкой оружия, массовым наблюдением и тайными влиятельными кампаниями. В результате компания усилила меры безопасности и мониторинг.
В новом отчете о угрозах Anthropic сообщила, что пресекла операцию на севере Йемена, в ходе которой Claude якобы использовался для помощи в разработке программного обеспечения для управления ракетами, в том числе систем для управляемой ракеты и баллистической ракеты дальнего действия.
По данным отчета, операторы использовали Claude вместо человеческих программистов и назначали разным экземплярам модели конкретные задачи, связанные с управлением ракетами и программным обеспечением для управления полетом.
Anthropic заявила, что многие запросы были заблокированы ее мерами безопасности, но некоторые якобы прошли. Операторы якобы пытались избежать обнаружения, маскируя свои общие цели и разделяя задачи на отдельные сеансы, чтобы ни один отдельный запрос не раскрывал полное назначение деятельности.
Компания заявила, что не нашла доказательств того, что группе удалось развернуть функционирующее оружие. Однако она заявила, что операторы, по-видимому, провели неудачный испытательный запуск.
Anthropic заявила, что заблокировала участвующие аккаунты и поделилась информацией об этой деятельности с партнерами из государственного и частного секторов.
Отчет также содержал подробности якобы связанных с государством кибершпионских кампаний. Anthropic заявила, что российская операция, подобная группе Midnight Blizzard, или APT29, использовала автоматизированные workflows AI для проведения значительной части шпионской кампании, включая фишинг, настройку инфраструктуры и кражу данных.
Целями якобы были украинские и европейские организации, дипломатические учреждения и производители дронов.
В отдельном случае Anthropic заявила, что пресекла операцию, якобы проводимую студентами университета в провинции Хунань, Китай. Группа якобы использовала Claude в качестве инженерного и оркестровочного слоя для программы, нацеленной на правительственные и корпоративные сети по всему Ближнему Востоку, Европе и Юго-Восточной Азии.
Компания заявила, что заблокировала аккаунты, связанные с обеими операциями, и ввела дополнительный мониторинг для выявления подобной деятельности.
Anthropic также сообщила о выявлении трех аккаунтов, якобы связанных с Ираном, которые использовали Claude для тайного влияния и психологических операций. Компания заявила, что деятельность была связана с иранскими пропагандистскими учреждениями и включала генерацию контента, соответствующего нарративам, связанным с Корпусом стражей исламской революции.
Еще одним случаем было то, что Anthropic описала как промышленно масштабную операцию, нацеленную на генерацию структурированных профилей целей, включая информацию о местоположении, демографии, политических убеждениях и коэффициентах доверия.