Apple: личные фото не будут проверяться на детское порно, если отключить выгрузку в iCloud

Apple выпустила документ, в котором отвечает на частозадаваемые вопросы о системе сканирования фотографий пользователей на наличие детского насилия. Инициатива компании столкнулась с критикой специалистов по кибербезопасности: они даже подписали открытое письмо к Apple.

Как объясняет Apple, фотографии пользователей будут проверяться на наличие запрещённого контента только при включенной синхронизации снимков с iCloud, частная библиотека на устройстве проверке не подлежит. Система сравнения хешей (нечитаемого набора символов, в который конвертируются снимки для сверки с базой) не позволяет восстановить исходное изображение — так Apple не узнает о содержимом фотографии до тех пор, пока алгоритмы не найдут совпадение с уже известным запрещённым контентом. Никакие другие данные с устройства, кроме выгружаемых в iCloud фотографий, системой проверки затронуты не будут.

Apple утверждает, что систему проверки можно задействовать только для поиска контента с насилием, так как она включает базу данных изображений, которую предоставили правозащитные организации. Властям данные о совпадении будут отправляться только в случае, если специалисты компании подтвердят наличие детского порно на устройстве. Корпорация пообещала отказываться от любых просьб правительств адаптировать систему для других целей.

Проверка контента в «Сообщениях» на отправку и получение сексуально откровенных фотографий будет активна только на семейных аккаунтах с детьми возрастом 12 лет и младше. Функцию необходимо активировать вручную, родителям не станут сообщать о каждом случае получения или отправки откровенного снимка — сначала ребёнку покажут предупреждение; для подростков в возрасте 13-17 лет будет показываться только предупреждение, родители не узнают о ситуации. Проверка происходит прямо на устройстве, что не нарушает систему оконечного шифрования сообщений.

Новые инструменты для защиты детей представлены Apple в начале августа. Операционные системы компании будут предупреждать детей, что они отправляют или получают сексуальный контент через «Сообщения», а также начнут подсказывать ссылки на ресурсы, которые помогут детям и родителям оставаться в безопасности в сети и в реальной жизни. Ещё одна функция — автоматическое сканирование фото пользователей на наличие контента с насилием — столкнулась с волной критики.