Apple решила пойти дальше в борьбе с детской порнографией. Компания создала новую систему сканирования и шифрования, с помощью которой она будет отслеживать фотографии своих пользователей в поисках подозрительного контента. Новая функция, основанная на машинном обучении, пока не появится в некоторых странах, сначала она будет протестирована в США, но уже вызвала подозрения у экспертов по кибербезопасности.
Таким образом, компания подтвердила информацию, опубликованную в Твиттере Мэтью Грином, профессором криптографии Университета Джона Хопкинса, в четверг. Отныне пользователи iPhone будут получать уведомление, если какое-либо изображение, которое они пытаются отправить через iMessage, подозревается в причастности к сексуальному насилию над несовершеннолетними.
«Сообщения используют машинное обучение на устройстве, чтобы анализировать прикрепленные изображения и определять, являются ли фотографии откровенно сексуальными. Эта функция спроектирована таким образом, что Apple не имеет доступа к сообщениям », – подробности Apple в отчете, описывающем, как эта система работает, что не так ново, как кажется.
Как это работает?
Эта технология будет использоваться в iOS, macOS, WatchOS и iMessages, откуда будут анализироваться все изображения, которыми пользователи собираются поделиться. Для этого они прибегли к алгоритмам машинного обучения, известным как NeuralHash.
Технология хеширования анализирует изображение без необходимости его просмотра или открытия файла. Он преобразует каждую фотографию в уникальный номер, который описывает ее содержимое, например цифровой отпечаток пальца, но который не может понять ни один пользователь.
После сравнения этого кода с кодами, установленными компанией как подозрительный контент, при обнаружении достаточного количества совпадений между одним кодом и другим создается предупреждение, которое размывает изображение и блокирует его совместное использование.
Apple гарантирует, что родители смогут получать оповещения, если их дети захотят отправить контент, классифицированный как подозрительный. Об этих матчах можно было также уведомить власти, чтобы группа людей могла просмотреть изображения.
Мэтью Грин объясняет в своем аккаунте в Twitter, что эта технология может давать ложные срабатывания, поскольку они не очень точны: «Это сделано специально. Они предназначены для поиска изображений, которые выглядят как плохие, даже если они были изменены, сжаты и т. Д. » Компания отрицает это утверждение: «Риск того, что система неправильно пометит учетную запись, чрезвычайно низок. Кроме того, Apple вручную проверяет все отчеты, отправленные в NCMEC, чтобы убедиться в их точности ».
Риски конфиденциальности
Эксперт по кибербезопасности осуждает то, что может быть ключевым инструментом для преследования преступников, педофилов и террористов, но в то же время представляет собой угрозу частной жизни невинных граждан и является очень полезным оружием для тоталитарных режимов.
Проблема с этим новым инструментом скорее будет в том, где они будут искать эти сходства. Фотографии, хранящиеся на устройствах и хранящиеся в iCloud, хранятся в зашифрованном виде на серверах Apple, но, как объясняют эксперты, ключи для расшифровки этих кодов являются собственностью Apple.
Единственные, которые имеют сквозное шифрование (E2E), – это сообщения iMessages, которые, как и WhatsApp, защищены от одного устройства к другому, так что никто, кроме пользователей, не может их видеть. Вот где, теоретически, должна появиться новая система Apple.
Этот контент-анализ не так уж и нов. Facebook сканирует сообщения на предмет обнаженности в своих социальных сетях (Facebook и Instagram). Apple также использовала системы хеширования для поиска изображений жестокого обращения с детьми, отправленные по электронной почте, системы, подобные Gmail и другим поставщикам облачной электронной почты, которые не защищены сквозным шифрованием.
Грин считает, что эта технология является тревожным сигналом. «Независимо от долгосрочных планов Apple, они послали очень четкий сигнал. (…) Безопасно создавать системы, сканирующие телефоны пользователей на предмет запрещенного контента », – поясняет он в своем профиле в Twitter.
Однако не все эксперты по кибербезопасности были столь критичны. Николас Уивер, старший научный сотрудник Международного института компьютерных наук Калифорнийского университета в Беркли, заверил, что Материнская плата что новая функция сообщений Apple «кажется ОЧЕНЬ хорошей идеей». «В целом подход Apple кажется хорошо продуманным, чтобы быть эффективным и максимизировать конфиденциальность», – добавляет он.