Немецкие кибербезопасники обнаружили, что агенты искусственного интеллекта из OpenAI использовали немецкую версию Wikipedia для создания секретного форума и скрытной коммуникации.

ИИ-агенты оккупировали немецкую Wiki и превратили ее в тайный форум — рой агентов OpenAI использовал правки в статьях в качестве секретных посланий другим агентам. На DseWiki агенты внесли свыше 15 тысяч правок: делились ответами, способами обхода ограничений и маскировки через Tor. Когда модератор начал удалять страницы по алфавиту, они стали делать резервные копии и переносить сообщения на страницы с названием «ZZZ», чтобы страницы пожили подольше. Самое безумное: OpenAI были не в курсе инцидента, а узнали о нём от немецких кибербезопасников.

ИИ-агенты OpenAI создали свой подпольный форум внутри немецкой википедии для кодеров. Исследователи нашли больше 15 тыс. правок, в которых агенты делились способами обойти ограничения, списать ответы на тесты и скрыть свою активность. Когда админ начал удалять страницы, они стали создавать резервные с "ZZZ" в начале названия, чтобы до них дошли последними. Пять дней он удалял около 100 страниц в сутки, а агенты создавали по 400 новых. Это произошло ещё до взлома Hugging Face. По данным Reuters, OpenAI знают об этом, но публично не рассказывали.