Apple представила новые инструменты для безопасности детей
Включая сканирование фотобиблиотек пользователей на наличие контента, связанного с сексуальным насилием.
Apple анонсировала новые функции для безопасности детей, которые появятся на её платформах с обновлением ПО в конце этого года. На запуске они будут доступны только в США, со временем распространятся на другие регионы.
Приложение «Сообщение» на iPhone, iPad и Mac получит новую функцию Communication Safety. Она предупредит детей и их родителей при получении или отправке фотографий откровенно сексуального характера. Apple заявляет, что для этого сервис использует локальные алгоритмы машинного обучения. При обнаружении откровенных снимков, их содержимое будет автоматически закрыто, а ребёнок получит уведомление, что фотография может содержать интимные части тела и может оказаться вредной. В зависимости от возраста ребёнка, похожее уведомление получат и его родители.
Apple сможет обнаруживать известные изображения материалов о сексуальном насилии над детьми, загружаемых в iCloud Photos. Компания будет сообщать о случаях обнаружения в некоммерческий Национальный центр пропавших и эксплуатируемых детей (NCMEC), который работает совместно с правоохранительными органами. Метод сканирования разработан с учётом конфиденциальности: сопоставление с базой данных в виде нечитаемых хешей происходит на устройстве. Фотографии пользователей также преобразуются в уникальный набор хешей, после чего происходит поиск совпадений.
Основная цель хеша — гарантировать, что идентичные и визуально похожие изображения приводят к одному и тому же хешу, в то время как изображения, которые отличаются друг от друга, приводят к разным хешам.
В компании утверждают, что их система обнаружения допускает менее чем одну ошибку на триллион сканирований. Каждый случай совпадения рассматривается вручную, чтобы избежать ложной отправки информации в NCMEC.
В Siri и Spotlight появятся дополнительные ресурсы, которые помогут детям и родителям оставаться в безопасности в сети и в реальной жизни. Пользователи, которые спрашивают голосового ассистента, как сообщить о неприемлемом контенте, будут снабжены ссылками на ресурсы с информацией.
Все перечисленные нововведения появятся с релизом iOS 15, iPadOS 15, macOS Monterey.