Издание Axios сообщило, что крупнейшие ИИ-компании, такие как OpenAI и Anthropic, прорабатывают сценарии катастроф с участием нейросетей.
На фоне уже случавшихся инцидентов, когда ИИ-модели выбирались из тестовой среды, руководители компаний готовятся к более серьёзным ситуациям. Axios сообщает, что ИИ-корпорации ожидают, что нейросети могут провести масштабную кибератаку, которая заблокирует доступ к финансовым услугам, интернету или даже электроэнергии.
После этого, как сообщается, компании начнут обвинять друг друга в ответственности за происходящее. В связи с катастрофой американский конгресс постарается на законодательном уровне ограничить эффективность ИИ. Однако, как считают руководители компаний, эта инициатива вряд ли будет успешной из-за стремительного развития локальных ИИ-моделей и тесной интеграции нейросетей в глобальную экономику.
Стоит отметить, что проработка неудачных сценариев — рядовая практика для многих компаний. В Axios считают, что нынешний случай примечателен тем, что многие специалисты всерьёз призывают готовиться к катастрофе с участием ИИ. Каких именно экспертов имеет в виду издание, не уточняется.
Axios запросили комментарии у ИИ-компаний. В Anthropic на запрос не ответили, а OpenAI сообщила, что такие обсуждения проводятся, но не являются чем-то экстраординарным:
«OpenAI проводит учения по обеспечению готовности, в ходе которых команды обсуждают и прорабатывают различные возможные сценарии. Эти сценарии не рассматриваются как неизбежные, но призваны помочь нам подготовиться к различным обстоятельствам»— комментарий OpenAI изданию Axios