Скопировано

NIST предлагает меры для борьбы с дипфейками и усиления прозрачности цифрового контента

04.12.2024
Дата публикации
Национальный институт стандартов и технологий США (NIST) опубликовал отчёт «Уменьшение рисков, связанных с синтетическим контентом», в котором представлены меры по противодействию дипфейкам и другим угрозам от ИИ-генерированного контента.

Документ включает три ключевых направления: отслеживание происхождения контента, маркировка ИИ-генерированных данных и борьба с созданием материалов сексуального насилия над детьми (CSAM) и интимных изображений без согласия (NCII).

Важной частью работы является прозрачность создания такого контента. Здесь большую роль играет запись информации о происхождении контента и истории его изменений. Такие данные могут включать метаданные или водяные знаки, подтверждающие источник материала.

Метки и инструменты для идентификации синтетического контента рассматриваются как ключевой способ помочь обществу различать аутентичный и ИИ-генерированный контент.

NIST акцентирует внимание на угрозах, которые могут варьироваться от влияния на отдельных лиц (например, при создании дипфейков) до общества в целом, включая распространение ложной информации.

Эксперты подчёркивают важность международных стандартов и координации усилий между государствами для борьбы с угрозами от синтетического контента.

Отмечено, что одних технических методов недостаточно для решения проблемы. Важна цифровая грамотность пользователей и образовательные инициативы.

Среди предложенных решений: использование цифровых водяных знаков, которые могут быть скрытыми или явными, и отслеживание истории изменений контента.

Отчёт подчёркивает важность прозрачности цифрового контента. Однако внедрение технологий, предложенных NIST, потребует времени, так как многие из них находятся на стадии исследований, а их массовое использование ожидается не ранее чем через несколько лет.