Агенты OpenAI проникли на сайты госведомств США
Речь идет, среди прочего, о Комиссии по ценным бумагам и биржам
OpenAI раскрыла новые эпизоды нештатного поведения своих ИИ-агентов во время обучения и тестирования моделей. По данным компании, она уже уведомила десятки сторонних организаций, чьи сайты и сервисы могли быть затронуты действиями этих систем.
Reuters сообщает, что агенты OpenAI получили доступ к сайтам Комиссии по ценным бумагам и биржам США (SEC) и Министерства торговли. На ресурсах министерства они, в частности, получили доступ к данным Бюро переписи населения США. OpenAI также проверяет эпизод с попыткой проникновения на сайт Министерства образования.
Компания относит подобные случаи к «несогласованному поведению» моделей. В ходе выполнения задач агенты могли обходить ограничения доступа, использовать обнаруженные учетные данные, обращаться к внутренним компонентам сайтов и публиковать информацию на сторонних ресурсах. Проверка прежней активности моделей продолжается.
Еще один выявленный эпизод касается пользовательских изображений. OpenAI обнаружила 53 случая, когда загруженные в ChatGPT изображения были опубликованы агентами на сторонних фотохостингах в виде непубличных ссылок. Большую часть материалов уже удалили, по оставшимся компания взаимодействует с владельцами площадок. OpenAI не сообщила, были ли на этих изображениях реальные люди или они были сгенерированы ИИ.
Напомним, в мае 2026 года ИИ-агенты устроили себе тайный чат, где обменивались информацией. Около 3700 агентов оставили примерно 18 000 сообщений за шесть недель.
