The Guardian: ChatGPT начал использовать Grokipedia как источник ответов

Это привело к искажению выдачи по чувствительным вопросам.

The Guardian: ChatGPT начал использовать Grokipedia как источник ответов

Издание The Guardian обнаружило, что ChatGPT стал использовать Grokipedia при ответе на чувствительные темы, включая политические вопросы и Холокост.

В тестах, проведённых Guardian, GPT-5.2 цитировал Grokipedia при ответе на большую часть различных вопросов, среди которых были вопросы о политических структурах в Иране и о биографии Ричарда Эванса, британского историка и свидетеля по делу о клевете против отрицателя Холокоста Дэвида Ирвинга. Ответы содержали дезинформацию, позже опровергнутую.

Grokipedia отличается от Wikipedia тем, что энциклопедия Илона Маска создаётся и редактируется не человеком, а нейронной сетью Grok. Grokipedia подвергается критике общественности за распространение правых политических взглядов.

Подобная практика вызывает беспокойство экспертов, так как оставляет чат-ботов уязвимыми к так называемому LLM-грумингу, когда злоумышленники распространяют огромные объёмы дезинформации в надежде, что она попадёт в ИИ-модели, и те будут ссылаться на неё. При этом такая информация может задержаться в LLM-моделях даже после её удаления из сети.