Китайские власти объявили масштабную кампанию против дипфейков, которые используются в прямых эфирах и коротких видео для продвижения товаров от имени инфлюенсеров и звезд, пишет агентство Синьхуа.
Управление по вопросам киберпространства КНР сообщило, что уже удалено более 8,7 тыс. публикаций и заблокировано свыше 11 тыс. аккаунтов, выдававших себя за известных личностей.
Поводом для ужесточения контроля стала серия резонансных случаев, включая историю актрисы Вэнь Чжэнжун. Пользователи обнаружили десятки ее «клонов», созданных с помощью ИИ и рекламирующих товары в стримах. Когда сама актриса попыталась вмешаться, ее сообщения в чате были заблокированы, что лишь подчеркнуло масштаб проблемы.
Поддельные ролики стали инструментом мошенников, которые продвигают низкокачественную или контрафактную продукцию. Среди недавних примеров — реклама «рыбьего жира», который оказался обычными конфетами, с использованием дипфейка телеведущего Ли Цзымэна, а также ролики с поддельными образами олимпийских чемпионов, продающих яйца.
Юристы подчеркивают, что такие действия нарушают Гражданский кодекс КНР, посягая на права на изображение и вводя потребителей в заблуждение. Несмотря на действующие с сентября правила маркировки ИИ-контента, выявление подделок остается сложной технической задачей. Мошенники прячут водяные знаки, удаляют идентификаторы и распространяют синтезированные видео через сеть связанных аккаунтов.
Платформы — включая Доуинь — активно участвуют в зачистке, но признают, что борьба с дипфейками требует новых технологий и дополнительных инвестиций. Только дипфейков Вэнь Чжэнжун за сутки было обнаружено около 50, и многие из них снова появлялись в обновленных версиях.
Эксперты считают, что решить проблему можно лишь комплексно: ужесточением наказаний, развитием алгоритмов обнаружения и более строгой ответственностью платформ. Власти КНР заявили, что намерены поддерживать режим «высокого давления» и продолжать удалять мошеннические аккаунты, одновременно подчеркивая необходимость ответственного и этичного применения искусственного интеллекта.
