Meta разрабатывает веб-инструмент обнаружения, предназначенный для идентификации изображений и видео, созданных с помощью ее модели генерации изображений, известной как Muse Image. Этот инструмент проверяет наличие невидимых водяных знаков, называемых печатью контента, которые встроены в созданный контент.
По данным Meta, Content Seal остается неизменным независимо от манипуляций с изображениями, включая обрезку, сжатие, изменение размера или создание снимков экрана. Компания заявила, что этот инструмент предоставляет пользователям первоначальный механизм определения наличия на изображении водяного знака Content Seal.
Подход к созданию водяных знаков, используемый Muse Image, является запатентованным и отличается от более ранних версий с открытым исходным кодом, выпущенных Meta. Текущая версия моделей искусственного интеллекта Meta не использует видимых водяных знаков, что отличается от предыдущих моделей, которые включали логотипы в изображения.
В настоящее время возможности обнаружения ограничены изображениями, созданными или отредактированными с помощью Muse Image. В будущем Meta планирует распространить водяные знаки Content Seal на видео, созданные и отредактированные с помощью искусственного интеллекта. Компания также разрабатывает отдельную модель генерации видео под названием Muse Video, запуск которой ожидается в ближайшее время.
Тестирование инструмента обнаружения подтвердило его способность идентифицировать водяные знаки как на отредактированных изображениях, так и на изображениях, полностью созданных искусственным интеллектом. Положительный результат означает, что изображение было создано с помощью приложения Meta AI или Meta.ai, а отрицательный результат предполагает, что оно вряд ли было обработано с помощью Meta AI. Однако функция обнаружения не интегрирована в само приложение Meta AI; Помощник приложения подтвердил, что не может определить, было ли конкретное изображение создано Meta AI.
Meta столкнулась с критикой в связи с непоследовательным применением цифровых водяных знаков для контента, созданного искусственным интеллектом. В начале года Наблюдательный совет выразил обеспокоенность по поводу практики компании по маркировке материалов, произведенных с помощью искусственного интеллекта. Content Seal несовместим с общепринятыми методами нанесения водяных знаков, такими как SynthID и C2PA Content Credentials.
Во время недавних тестов инструмент обнаружения не смог идентифицировать изображения, созданные или отредактированные с помощью предыдущих версий моделей искусственного интеллекта Meta. Кроме того, пользователи инструмента сталкиваются с ограничениями по частоте и получают оповещения, как только они достигают дневного порога для идентификационных проверок.
<час />
