Российские разработчики работают над созданием технологии маркировки контента, сгенерированного нейросетями, для защиты пользователей от фейковой информации. Такие видео и фото можно будет помечать специальными цифровыми метками, сообщил ТАСС академик Арутюн Аветисян, директор Института системного программирования им. В. П. Иванникова (ИСП РАН).
Академик отметил, что в мире сегодня отсутствуют инструменты, “позволяющие автоматически однозначно идентифицировать сгенерированный ИИ контент”. Цифровые водяные знаки, которыми можно пометить такие изображения или видео, позволяют защитить пользователей от угроз, которые несет распространение ложных данных.
“[В ИСП РАН разработана] технология DocMarking, использующая машинное обучение для внедрения незаметных меток в изображения или видеопоток. Изначально мы применяли ее для борьбы с утечками конфиденциальных документов, а теперь адаптируем для пометки сгенерированного контента”, – сказал Аветисян корреспонденту ТАСС в кулуарах открытой конференции ИСП РАН, которая проходит в Москве 11-12 декабря.
Он напомнил о том, что необходимость маркирования контента, созданного нейросетями, отражена в Национальной стратегии развития ИИ на период до 2030 года, реализуемой в России, а также регуляторных документах Евросоюза и США.
Источник: ТАСС
