
04.12.2024
Дата публикации
Национальный институт стандартов и технологий США (NIST) опубликовал
отчёт «Уменьшение рисков, связанных с синтетическим контентом», в котором представлены меры по противодействию дипфейкам и другим угрозам от ИИ-генерированного контента.
Документ включает три ключевых направления: отслеживание происхождения контента, маркировка ИИ-генерированных данных и борьба с созданием материалов сексуального насилия над детьми (CSAM) и интимных изображений без согласия (NCII).
Важной частью работы является прозрачность создания такого контента. Здесь большую роль играет запись информации о происхождении контента и истории его изменений. Такие данные могут включать метаданные или водяные знаки, подтверждающие источник материала.
Метки и инструменты для идентификации синтетического контента рассматриваются как ключевой способ помочь обществу различать аутентичный и ИИ-генерированный контент.
NIST акцентирует внимание на угрозах, которые могут варьироваться от влияния на отдельных лиц (например, при создании дипфейков) до общества в целом, включая распространение ложной информации.
Эксперты подчёркивают важность международных стандартов и координации усилий между государствами для борьбы с угрозами от синтетического контента.
Отмечено, что одних технических методов недостаточно для решения проблемы. Важна цифровая грамотность пользователей и образовательные инициативы.
Среди предложенных решений: использование цифровых водяных знаков, которые могут быть скрытыми или явными, и отслеживание истории изменений контента.
Отчёт подчёркивает важность прозрачности цифрового контента. Однако внедрение технологий, предложенных NIST, потребует времени, так как многие из них находятся на стадии исследований, а их массовое использование ожидается не ранее чем через несколько лет.
Документ включает три ключевых направления: отслеживание происхождения контента, маркировка ИИ-генерированных данных и борьба с созданием материалов сексуального насилия над детьми (CSAM) и интимных изображений без согласия (NCII).
Важной частью работы является прозрачность создания такого контента. Здесь большую роль играет запись информации о происхождении контента и истории его изменений. Такие данные могут включать метаданные или водяные знаки, подтверждающие источник материала.
Метки и инструменты для идентификации синтетического контента рассматриваются как ключевой способ помочь обществу различать аутентичный и ИИ-генерированный контент.
NIST акцентирует внимание на угрозах, которые могут варьироваться от влияния на отдельных лиц (например, при создании дипфейков) до общества в целом, включая распространение ложной информации.
Эксперты подчёркивают важность международных стандартов и координации усилий между государствами для борьбы с угрозами от синтетического контента.
Отмечено, что одних технических методов недостаточно для решения проблемы. Важна цифровая грамотность пользователей и образовательные инициативы.
Среди предложенных решений: использование цифровых водяных знаков, которые могут быть скрытыми или явными, и отслеживание истории изменений контента.
Отчёт подчёркивает важность прозрачности цифрового контента. Однако внедрение технологий, предложенных NIST, потребует времени, так как многие из них находятся на стадии исследований, а их массовое использование ожидается не ранее чем через несколько лет.