Google будет раскрывать изображения, созданные или отредактированные искусственным интеллектом, в результатах поиска. Технологический гигант планирует обеспечить большую прозрачность, добавляя метки к изображениям, созданным или измененным ИИ.
Изменение произошло после того, как Google заключил партнерство с крупными компаниями в Коалиции по происхождению и подлинности контента (C2PA), которая направлена на борьбу с распространением вводящей в заблуждение информации в Интернете. Давайте рассмотрим детали плана Google по пометке контента, созданного ИИ, и вопросы, связанные с этим.
Является ли охота Google за ИИ второстепенным занятием?
В ближайшие месяцы Google начнет помечать тегами созданные и отредактированные ИИ изображения в результатах поиска. Это будет сделано с использованием метаданных из Учетные данные контента стандарт, который включает в себя информацию о том, когда, где и как было создано изображение. Пользователи смогут увидеть этот тег через функцию Google «Об этом изображении», доступ к которой можно получить, нажав на три точки над изображением в результатах поиска.
Идея этого шага заключается в том, чтобы предоставить пользователям возможность отслеживать источник изображений и упростить процесс поиска. обнаружьте контент, созданный искусственным интеллектом. Этот шаг последовал за тем, как Google присоединилась к другим технологическим компаниям, таким как Amazon, Adobe и Microsoft, в разработке последних руководств по учетным данным контента. Вместе эти компании надеются повысить прозрачность и сократить распространение поддельных или вводящих в заблуждение изображений.
Но хотя инициатива Google является шагом в правильном направлении, стоит отметить, что метка не будет сразу очевидна. Пользователям придется активно искать информацию, нажимая на раздел «Об этом изображении», что может сделать функцию менее эффективной, чем некоторые могли бы ожидать.
Как пользователи будут получать доступ к информации ИИ?
Новую функцию можно найти в Google Lens и функции Android «Circle to Search», и теперь она будет указывать, было ли изображение создано или изменено с помощью искусственного интеллекта. Невыполнение отображения метки напрямую может привести к неосведомленности о существовании этого инструмента среди многих пользователей. Поскольку задействованы дополнительные шаги, некоторые люди никогда не смогут подтвердить, было ли изображение создано ИИ, если они еще не знакомы с этой функциональностью. Даже если люди знают, процесс все равно может быть сложным, особенно если они ожидают, что изображения, созданные ИИ, будут более четко помечены.
Несмотря на это ограничение, партнерство Google с C2PA может оказаться ценным, поскольку стандарт Content Credentials предлагает более широкую структуру для отслеживания происхождения цифрового контента. Тем не менее, этот стандарт не был принят всеми разработчиками ИИ. Некоторые организации, такие как Лаборатории Черного лесарешили не включать его, что потенциально усложняет попытки отследить источник изображений, созданных конкретными моделями.
Опасения по поводу эффективности: делает ли Google достаточно?
Есть и более серьезная проблема: изображения, созданные с помощью ИИ, становится все труднее обнаружить. Университет Ватерлоо Исследование показало, что 39% людей не могут отличить изображения, созданные ИИ, от настоящих. Если эта тенденция сохранится, система маркировки Google может оказаться недостаточной, чтобы помочь пользователям уверенно идентифицировать контент, созданный ИИ.
Более того, другие технологические компании не подают хороший пример. Например, Meta недавно переместила информацию о тегах на менее заметную позицию в постах. Это поднимает вопрос о том, действительно ли технологические гиганты стремятся сделать контент, генерируемый ИИ, более прозрачным, или они предпринимают лишь минимальные шаги.
Несколько камер, таких как Лейка М-11П и Никон Z9поставляются со встроенным Учетные данные контента. Это означает, что если фотографы и разработчики не захотят использовать эти инструменты, система не будет столь эффективной, как могла бы быть. Прозрачность в контенте, созданном ИИ, в значительной степени зависит от межотраслевого сотрудничества, и пока что не все, похоже, вкладывают в него одинаково много.
В то же время рост количества изображений, созданных с помощью ИИ, вызвал новые опасения по поводу дезинформации. От дипфейков до фотографий обнаженной натуры, созданных с помощью ИИ, потенциальный вред очевиден. Хотя новая система маркировки Google не решит все эти проблемы, она является небольшим шагом к сокращению распространения вводящего в заблуждение контента в Интернете.
Источники изображений: Фуркан Демиркая / Идеограмма ИИ
Source: Будет ли легко обнаружить тег изображения ИИ от Google?