Платформа запускает инструмент, который ищет видео с поддельными лицами журналистов и политиков. Это часть более широкой гонки соцсетей против AI-дезинформации
YouTube запускает новый инструмент, который помогает публичным фиграм находить дипфейки с их участием. В пилотную программу вошли журналисты, политики и государственные чиновники. Алгоритм ищет видео, где используется их лицо, и показывает результаты в специальной панели. После этого человек может запросить удаление ролика. При регистрации участники проходят проверку личности — отправляют селфи-видео и документ.
Технология работает по принципу Content ID — системы, которая много лет ищет на платформе защищённый авторским правом контент. Только теперь вместо музыки и видео анализируется внешность человека. Если алгоритм находит совпадение, участник программы решает, настоящий ли это ролик или подделка. Но автоматического удаления не будет: платформа оставляет исключения для пародии, сатиры и политической критики.
Появление такого инструмента связано не только с развитием технологий, но и с растущим давлением на платформы. В последние два года правительства разных стран обсуждают законы против AI-манипуляций, а выборы в США, Европе и Азии сделали тему дипфейков особенно чувствительной. Платформы всё чаще обвиняют в том, что они реагируют на дезинформацию слишком медленно. В такой ситуации компаниям выгоднее заранее показать, что они готовы контролировать новый тип контента, чем ждать жёсткого регулирования.
Появление инструмента — реакция и на быстрый рост самих дипфейков. Генеративные модели за последние годы сделали поддельные видео почти неотличимыми от настоящих. Особенно опасными считаются ролики с политиками во время выборов или кризисов: такие видео могут распространяться за часы и менять общественное восприятие событий. Поэтому платформы начали создавать системы проверки личности и маркировки AI-контента.
Но вопрос гораздо шире одного сервиса. TikTok уже маркирует синтетические видео и ограничивает дипфейки политиков, Meta тестирует водяные знаки для AI-контента, а законодатели в США обсуждают инициативы вроде NO FAKES Act, которые требуют быстрее удалять ролики с чужой внешностью. YouTube фактически пытается построить новый стандарт — систему, где лицо человека становится таким же защищённым активом, как музыка или фильм. И главный вопрос теперь звучит так: смогут ли платформы догнать скорость, с которой развивается генеративный AI.