AP: ИИ-модель Anthropic выявила уязвимости в секретных системах США

Разработанная американской компанией Anthropic модель искусственного интеллекта обнаружила уязвимости в компьютерных системах правительства США, содержащих секретную информацию. Об этом сообщает Associated Press (AP) со ссылкой на источник.

По словам собеседника агентства, проверка безопасности проводилась в рамках сотрудничества Anthropic с американскими разведывательными службами.

Источник утверждает, что тестирование проводилось в рамках испытаний, направленных на защиту «критически важного программного обеспечения мира» от «серьезных негативных последствий для общественной и национальной безопасности, также и экономики», которые могут быть вызваны моделью Mythos компании Anthropic.

Как отметил источник, в ходе испытаний модель Mythos за несколько часов смогла выявить ряд уязвимостей в компьютерных системах правительства США, содержащих особо чувствительную информацию. При этом он подчеркнул, что обнаружение слабых мест не означает возможность проникновения в эти системы за такое же время.

Сенатор-демократ Марк Уорнер, выступая 11 июня на заседании Сената, также упомянул результаты тестирования.

«Этот инструмент получил доступ практически ко всем нашим секретным системам. Не за недели, а за считанные часы», — сказал он.

13 июня администрация США запретила иностранным правительствам, компаниям и частным лицам использовать разработанные Anthropic модели искусственного интеллекта Fable 5 и Mythos 5, сославшись на угрозы национальной безопасности.

После этого Anthropic объявила о приостановке доступа к своим передовым моделям искусственного интеллекта для всех пользователей.