Алгоритм от Microsoft, которым ранее заменили редакторов портала MSN, обвинили в расизме. Система в новости о расизме перепутала снимки девушек.

Робот Microsoft взял новость об участнице группы Little Mix Джейд Фёрволл, которая рассказала о своём опыте столкновения с расизмом, и выложил на главную страницу MSN, но с фотографией другой участницы группы Ли-Энн Пиннок. 

В адрес сервиса посыпалась критика, в частности, со стороны Фёрволл, которая, судя по всему, не знала, что редакторов заменили на ИИ.

MSN, если вы хотите копировать и вставлять к себе точные статьи из других источников, то вам стоит сначала убедиться, что вы берёте фото правильного участника группы смешанной расы. Это дерьмо происходит со мной и Ли-Энн Пиннок постоянно. Меня оскорбляет то, что вы не можете различить двух «цветных» женщин из группы из четырёх человек. Старайтесь лучше!

В Microsoft заявили, что они обеспокоены произошедшим — на данный момент изображение заменено на правильное. Кроме того, оставшимся сотрудникам MSN поручили ожидать негативной статьи об алгоритме и удалить её сразу после выхода на сайте. Об этом пишет The Guardian.

Microsoft не в первый раз сталкивается с подобной ситуацией. В 2016 году чатбот компании Tay через несколько часов после запуска начал писать расистские твиты и прославлять Гитлера. В 2017 году другой ИИ-бот от Microsoft Zo обошёл запрет на разговоры о религии и политике, начав дискуссии о Коране и убийстве Бен Ладена.