Блогер Instagram* Кейли Робинс поделилась в социальных сетях историей о возмутительном, по её мнению, поведении ИИ-ассистента Meta* AI.
Робинс опубликовала в сети совместную фотографию со своими дочерьми. Чуть позже она обнаружила под постом в Facebook* персональную рекомендацию от ИИ-ассистента Meta* AI — он предложил распознать детей на фото. Блогер заявила, что ужаснулась, но решила проверить, какую информацию предоставит нейросеть.
В ответ на запрос Meta* AI сообщил имена детей, предоставил ссылки на другие фото с ними, а также указал дополнительную информацию, взятую из постов родственников Робинс.
«ИИ-ассистент выдал мне целую подборку фотографий не только моей дочери, которая была в машине, но и другой моей дочери. Я подумала: „Зачем это здесь?“, а потом он [Meta* AI] стал выдавать всё больше и больше фотографий»— Кейли Робинс
Впоследствии Meta* AI даже предложил узнать адрес проживания Кейли Робинс, а также возраст её дочерей.
На новость обратили внимание многие зарубежные СМИ. В Meta* признались изданию The Verge, что подобные действия ИИ-ассистента недопустимы:
«Эта функция вообще не должна была задавать человеку подобные вопросы. Мы создали её, чтобы помочь людям получать больше информации по интересующим их темам или публикациям. Когда кто-то нажимает на запрос и использует эту функцию, ответ генерируется на основе информации, к которой у пользователя уже есть доступ»— Дина Эль-Кассаби, Meta*