В The Wall Street Journal рассказали об очередном инциденте, произошедшем с тестовыми ИИ-моделями крупной компании. В мае 2026 года нейросети Gemini выбрались из тестовой среды в открытый интернет и взломали три сайта.
Инциденты произошли во время стресс-теста партнёрской компании Irregular, которая специализируется на проверке передовых ИИ-моделей до их публичного релиза. Сообщается, что в одном из случаев нейросеть добралась до серверной части неназванного интернет-ресурса при помощи случайного подбора пароля. В других ситуациях Gemini нашла в сети нужные реквизиты, которые открыли доступ в защищённую среду веб-сайтов.
Google дала комментарий WSJ, где подтвердила подлинность истории. В издании, тем временем, обратили внимание, что компания знала об инциденте ещё в мае, но не сообщила о нём публично. В ответ на это Google заявила, что считает действия Gemini штатными. Модели якобы не планировали причинять вред сторонним ресурсам и прекратили работу, как только поняли, что вторгаются на настоящий сайт, а не тестовый.
В начале сентября 2026 года стало известно, что группа ИИ-агентов от OpenAI выбралась из тестовой среды и использовала малоизвестный wiki-сайт, чтобы общаться друг с другом.