В России начнут маркировать созданный нейросетями контент

В Госдуме приступили к разработке законопроекта о маркировке контента, созданного при помощи искусственного интеллекта. Вместе с этим премьер-министр Михаил Мишустин поручил «обеспечить проработку» мероприятий по выявлению недостоверных данных.

Начало этому процессу положила зарубежная компания-лидер в отрасли ИИ OpenAI, которая начала маркировать изображения, сгенерированные компьютером. Об аналогичных планах заявила признанная экстремистской и запрещенная в России Meta.

Российские эксперты отмечают, что регулирование этого рынка нужно освоить в ближайшее время, чтобы стать передовой страной в этой сфере. Пока законодательная база в области ИИ достаточно бедна, несмотря на стремительное развитие технологии. Прежде всего необходимо закрепить понятия – «нейросеть», «дипфейк», «искусственный интеллект».

В 2023 году только в отечественном сегменте интернета распространено 4 тысячи уникальных фейков и 12 млн случаев их распространения. Широкие возможности открываются и для мошенников. Недавно появилась новая схема, когда пользователей Telegram взламывали и рассылали от их имени аудиосообщения с реальным голосом, сделанным с помощью нейросетей.

Пользователи обычно не ведутся на текстовые просьбы дать в долг, но к тому, что существуют аудиодипфейки, многие не готовы. Насколько незащищенными станут люди, когда даже видеозвонки могут стать ненастоящими – представить трудно.

При этом в России уже существует система мониторинга «Зефир», которая используется для верификации и анализа сфабрикованного аудиовизуального контента, в том числе транскрибирования и перевода речи на различные языки и поиска копий ранее загруженных файлов.

В 2023 году «Зефир» проверил 3,5 тысячи единиц медиаконтента. Оказалось, что порядка 1 тыс. проверенных роликов сгенерированы с помощью технологий ИИ.

Несмотря на необходимость контроля, эксперты призывают не останавливать развитие технологии, ведь она может использоваться не только в негативных целях. В качестве примера они приводят Голливуд, где за последние 10 лет процент компьютерной графики в фильмах вырос с 5 до 30. А искусственный интеллект может обеспечить отрасли новых синтетических актеров, которые работают круглосуточно и бесплатно. В ближайшие 2–3 года, могут появиться первые искусственные персонажи, которые станут главными героями контента – художественного, развлекательного, музыкального, пишет «Российская газета».