Отчёт: Apple запустит систему обнаружения насилия в фотографиях пользователей
Она будет работать локально на устройстве во имя конфиденциальности.
Специалист по криптографии и профессор в Университете Джона Хопкинса Мэтью Грин получил информацию от нескольких людей, что Apple готовит систему автоматического обнаружения жестокого обращения с детьми в локальной библиотеке фотографий на устройствах компании.
Инструмент будет сканировать фотографии, хранящиеся на iPhone пользователей, при помощи алгоритмов хеширования. На устройство загружается набор отпечатков, соответствующих известному незаконному контенту, затем он при помощи хэшей сравнивается с тем, что хранится на смартфоне. Снимки не будут отправляться в облако ради сохранения конфиденциальности пользователей.
Apple ранее заявляла, что похожая система работает при загрузке фотографий в iCloud. Теперь она будет развёрнута на стороне клиента.
Грин отмечает, что алгоритмы хеширования не являются полностью надёжными и могут давать ложные срабатывания. Если Apple позволит правительствам регулировать базу запрещённого контента, то те могут загружать в неё вещи, например, для подавления политической активности.
Официально Apple не анонсировала запуск функции.