Дипфейки используются для самых разных целей, в том числе в контексте кампаний по дезинформации, и обнаружить эти отредактированные изображения становится все труднее.
Как этот ИИ обнаруживает изображения Deepfake?
Но есть новый инструмент искусственного интеллекта, который обнаруживает эти фальшивые видео, он проверяет свет, отражающийся в глазах.
Проект был создан группой компьютерных ученых из Университета Буффало. Согласно исследованию, этот новый ИИ смог обнаруживать портретные изображения Deepfake с удивительной вероятностью успеха 94%.
Система обнаруживает поддельные изображения, анализируя «несовместимые зеркальные блики роговицы между двумя глазами».
Когда мы делаем снимок реального лица, отражение в двух глазах будет одинаковым. Потому что они видят то же самое. Но, как правило, изображения Deepfake не могут точно передать это сходство, поэтому не могут передать истинное подобие человека, которому они пытаются подражать.
Система анализирует изображение, а затем вычисляет оценку, которая используется для определения сходства одного человека с другим.
Самым очевидным недостатком инструмента является то, что он требует наличия источника света, отраженного обоими глазами. Эти шаблоны можно легко исправить с помощью ручной постобработки, и этот метод не сработает, если на изображении отсутствует один глаз.
Microsoft покупает Nuance, компанию по искусственному интеллекту, использующую Siri, за 19,7 млрд долларов США.
Кроме того, система может дать ложные результаты, если человек на снимке не смотрит в камеру.