Рост генеративного искусственного интеллекта принес невероятные достижения, но он также принес более мрачные последствия в Интернете. Одной из таких проблем является копирование лиц и тел, часто называемое deepfakes. Он может легко создавать синтетические обнаженные изображения, которые могут нанести большой вред людям. Люди, чьи интимные фотографии были опубликованы без их согласия, обнаружили, что трудно удалить эти изображения из Интернета. Microsoft вмешалась с резолюцией, которая может оказать крайне необходимую поддержку.
Microsoft сделала важный шаг вперед, представив новый инструмент, который позволяет жертвам deepfakes удалять эти изображения из поисковой системы Bing. Эта недавняя инициатива направлена на борьбу с распространением в Интернете фейкового порнографического контента, в котором, как представляется, присутствуют реальные люди, — явление, усугубленное достижениями в области искусственного интеллекта.
Остановите распространение поддельного контента Microsoft для взрослых
Партнерство Microsoft с StopNCII (Остановите несогласованные интимные изображения) представляет собой жизненно важное сотрудничество в борьбе с «месть» и deepfake обнаженные изображения. StopNCII — это организация, которая позволяет жертвам создавать цифровой отпечаток или «хэш» откровенных изображений, как реальных, так и сгенерированных ИИ, на своих устройствах. Затем этот отпечаток используется для отслеживания и удаления оскорбительных изображений на различных платформах.
Bing от Microsoft теперь является частью этих усилий, присоединившись к другим крупным технологическим платформам, таким как Facebook, Instagram, TikTok и Reddit. Это важнейшее дополнение к уже комплексным мерам безопасности Microsoft, которые ранее полагались на инструмент прямой отчетности. Хотя опция прямой отчетности позволяла пользователям отмечать вредоносный контент, этого было недостаточно, чтобы справиться с объемом оскорбительного материала. Интегрируя технологию цифровых отпечатков пальцев StopNCII, Microsoft стремится более эффективно и проактивно предотвращать появление этих изображений в результатах поиска и помогать жертвам восстанавливать контроль над своими цифровыми активами.
Продолжающаяся борьба с дипфейком
Проблема изображений обнаженной натуры, созданных с помощью искусственного интеллекта, становится все более актуальной и имеет широкомасштабные последствия, особенно в таких странах, как Соединенные Штаты где нет федерального закона, специально направленного на ИИ deepfake порнографию. Это привело к только 23 штата принятие законов для решения несогласованные дипфейкиоставляя жертв во многих регионах без адекватной правовой защиты. Партнерство Microsoft с StopNCII и новый инструмент в Bing могут обеспечить некоторое облегчение в среде, где правовая защита непоследовательна.
Однако проблема в том, не только для взрослых. Учащиеся старших классов также подвергаются нападкам со стороны «раздевание» сайты, которые создают поддельные обнаженные изображения, демонстрируя необходимость более строгих законов и более комплексной защиты. Инструменты StopNCII в настоящее время охватывают только лиц старше 18 лет. Однако более широкое влияние этих вредоносных технологий очевидно, и необходимость более жестких мер по защите молодых пользователей неизбежна.
Приверженность Microsoft цифровой безопасности
Microsoft давно знает о пагубных последствиях распространения интимных изображений без разрешения и принимает меры для решения этой проблемы. В 2015 году Microsoft запустила централизованный инструмент отчетности, призванный помочь пользователям в сообщать и удалять несогласованные интимные изображения. Но по мере развития технологий, лежащих в основе синтетических изображений, развивался и подход Microsoft.
Компания также выступает за модернизированные законы для защиты жертв контента, созданного ИИ, и выпускает предложения по политике, направленные на защиту женщин и детей от онлайн-злоупотреблений. Кроме того, Microsoft продолжает совершенствовать свою внутреннюю политику, чтобы предотвратить создание и распространение такого контента на своих платформах, включая Bing, Xbox и другие потребительские сервисы.
Новый инструмент Microsoft — большой шаг вперед, но борьба с дипфейком еще не окончена. Новые технологии приносят новые вызовы, и мы должны быстро реагировать. Microsoft сотрудничает со StopNCII и другими группами для борьбы с дипфейком. Но нам нужна помощь каждого.
Microsoft призывает людей, обеспокоенных тем, что их интимные изображения могут быть опубликованы, использовать инструменты StopNCII и сообщать о нарушениях в Microsoft. Это поможет остановить распространение этих изображений и даст жертвам некоторый контроль. Хотя технологии и открыли новые формы насилия, они также предоставляют новые способы дать отпор. Последний шаг Microsoft демонстрирует эту продолжающуюся борьбу.
Источник изображения: Йоханнес Крупински / Unsplash
Source: Новый шаг Microsoft по борьбе с поддельными видео для взрослых