Apple объявила, что в очередной версии iOS - с 15-й - будет автоматически проверять отправленные детьми сообщения, а также сканировать фото пользователей в iCloud с целью поиска детской порнографии и предотвращения распространения таких файлов. На Западе инициативу встретили массовыми протестами. СМИ упрекают корпорацию в желании влезть в телефоны и личные фотографии пользователей под благовидным предлогом.
Сергей Кузьменко, старший специалист Центра цифровой экспертизы Роскачества по тестированию цифровых продуктов, комментирует новшество IT-гиганта.
1) Apple будет на этапе отправки сообщений проверять, не посылает ли кому-то ребенок откровенный снимок, после чего выведет несколько предупреждений и уведомит родителей. Защита детей в iMessage будет работать только на семейных аккаунтах с детьми 12 или младше, и ее нужно будет активировать вручную. Властям информация передаваться не будет.
2) Поисковые сервисы Siri и Search снабдят списками кодовых слов и запросов, связанных с детской порнографией, после чего пользователи, которые выполняют такие запросы, получат плашку-предупреждение о вреде таких интересов и ссылки на сайты партнеров для получения помощи. Будет ли информация о таких запросах передаваться властям, пока неясно.
3) Самая скандальная часть: при загрузке фото в iCloud (если функция активирована, это происходит автоматически) нейросеть компании будет сканировать снимки перед загрузкой и сличать их с существующей базой детского порно. При этом фотографии будут хэшированы (то есть преобразованы в последовательность символов, которую не сможет расшифровать посторонний) и алгоритм сравнит их с базой, состоящей также из аналогичных цепочек символов. Процесс происходит автоматически, и только в случае совпадения с известными образцами подключится человеческий модератор.
4) В случае, если у пользователя обнаруживаются известные изображения во множественном числе или инцидент с загрузкой таких фото неоднократен, Apple оставляет за собой право передать его данные в компетентные органы. В компании особо подчеркивают, что если пользователь отключил выгрузку, то система не будет работать, и функция не проверяет частную библиотеку фотографий на устройстве.
Остается немало вопросов, насколько компания будет следовать заявленным правилам конфиденциальности, насколько технология распознавания реально защищена от сбоев, и не будет ли она в будущем использоваться для каких-то других целей. Но эксперт отмечает, что в текущем виде в системе потенциального распознавания педофильских аккаунтов видны одни плюсы.
Новая функция запускается только в США. В остальных странах новшество будет внедряться постепенно, с учетом местной законодательной базы.
|
|
