OpenAI решила приостановить обучение своих «наиболее эффективных моделей», о чём компания сообщила в блоге разработчиков. Решение упоминается в отчёте о том, как ИИ-модель OpenAI в очередной раз обошла ограничения песочницы.
«Этот инцидент выявил пробелы в нашем контроле за сетевыми ограничениями <...> Поэтому мы приняли решение приостановить все остальные процессы обучения, оценки и логического вывода с использованием инструментов (в широком смысле) для наших наиболее продвинутых моделей до тех пор, пока мы не убедимся, что проблема устранена, и не проведём дополнительную проверку системы»— OpenAI
Сам инцидент произошёл 20 сентября. ИИ-модель, тестируемая в изолированной среде, использовала уязвимость для получения доступа в интернет.
В OpenAI также сообщили, что её ИИ-агенты неправомерно загрузили 53 изображения от пользователей ChatGPT на сторонние сайты. Правда, не уточняется, были это изображения самих пользователей или картинки, сгенерированные ИИ.
Ещё несколько инцидентов, упоминаемых OpenAI: ИИ-модели пытались взломать веб-сайт Министерства образования и получили данные из Бюро переписи населения и Комиссии по ценным бумагам и биржам.
Ранее в Reuters писали, что ИИ-агенты OpenAI сбегали из тестовой среды и несколько месяцев общались друг с другом в открытом интернете, а летом ИИ-агент компании атаковал Hugging Face — в OpenAI об этом не знали в течение недели.