Apple анонсировала новые функции для безопасности детей, которые появятся на её платформах с обновлением ПО в конце этого года. На запуске они будут доступны только в США, со временем распространятся на другие регионы.

Приложение «Сообщение» на iPhone, iPad и Mac получит новую функцию Communication Safety. Она предупредит детей и их родителей при получении или отправке фотографий откровенно сексуального характера. Apple заявляет, что для этого сервис использует локальные алгоритмы машинного обучения. При обнаружении откровенных снимков, их содержимое будет автоматически закрыто, а ребёнок получит уведомление, что фотография может содержать интимные части тела и может оказаться вредной. В зависимости от возраста ребёнка, похожее уведомление получат и его родители.

Apple сможет обнаруживать известные изображения материалов о сексуальном насилии над детьми, загружаемых в iCloud Photos. Компания будет сообщать о случаях обнаружения в некоммерческий Национальный центр пропавших и эксплуатируемых детей (NCMEC), который работает совместно с правоохранительными органами. Метод сканирования разработан с учётом конфиденциальности: сопоставление с базой данных в виде нечитаемых хешей происходит на устройстве. Фотографии пользователей также преобразуются в уникальный набор хешей, после чего происходит поиск совпадений.

Основная цель хеша — гарантировать, что идентичные и визуально похожие изображения приводят к одному и тому же хешу, в то время как изображения, которые отличаются друг от друга, приводят к разным хешам.

В компании утверждают, что их система обнаружения допускает менее чем одну ошибку на триллион сканирований. Каждый случай совпадения рассматривается вручную, чтобы избежать ложной отправки информации в NCMEC.

В Siri и Spotlight появятся дополнительные ресурсы, которые помогут детям и родителям оставаться в безопасности в сети и в реальной жизни. Пользователи, которые спрашивают голосового ассистента, как сообщить о неприемлемом контенте, будут снабжены ссылками на ресурсы с информацией.

Все перечисленные нововведения появятся с релизом iOS 15, iPadOS 15, macOS Monterey.