После релиза новой ИИ-модели Fable 5 девятого июня исследователи в области кибербезопасности начали делиться негативным опытом использования новой нейросети.
Экспертам не нравится, что Fable 5 наотрез отказывается решать даже простейшие задачи, если заподозрит, что они связаны с кибербезопасностью или биологией. Валентина Палмотти, один из ведущих «белых» хакеров в команде IBM X-Force, написала, что Fable 5 отказалась прочитать и проанализировать текстовый блог, так как заподозрила, что он связан с кибербезом.
Другие эксперты сообщают, что из-за строгих ограничений Fable 5 отказывается проводить даже простой аудит кода, чтобы проверить его на безопасность и наличие «дыр».
Anthropic выпустила новые ИИ-модели Fable 5 и Mythos 5 девятого июня. В пресс-релизе компания прямо отметила, что Fable имеет ряд ограничений для безопасного использования. В частности, если нейросеть заподозрит, что пользователь ввёл запрос, связанный с кибербезопасностью, то обработает его с помощью более старой модели Opus 4.8.