04.12.2024 14:32:00
Дата публикации
АҚШ Ұлттық Стандарттар және Технологиялар Институты (NIST) AI жасаған мазмұнның терең фейктері мен басқа қауіп-қатерлеріне қарсы тұру шараларын сипаттайтын «Синтетикалық мазмұнның тәуекелдерін азайту» есебін жариялады.
Құжат үш негізгі бағытты қамтиды: мазмұнның шығу тегін қадағалау, AI арқылы жасалған деректерді таңбалау және балаларға жыныстық зорлық-зомбылық көрсету материалдарын (CSAM) және келісімсіз интимдік суреттерді (NCII) жасаумен күресу.
Жұмыстың маңызды бөлігі - мұндай мазмұнды құрудағы ашықтық. Мұнда мазмұнның шығу тегі мен оның өзгеру тарихы туралы ақпаратты жазу маңызды рөл атқарады. Мұндай деректерге материалдың көзін растайтын метадеректер немесе су белгілері кіруі мүмкін.
Синтетикалық мазмұнды анықтауға арналған тегтер мен құралдар қоғамға шынайы және AI-генерацияланған мазмұнды ажыратуға көмектесетін негізгі әдіс ретінде қарастырылады.
NIST жеке адамдарға әсер етуден (мысалы, терең фейк) жалпы қоғамға, соның ішінде жалған ақпараттың таралуына әсер етуі мүмкін қауіптерге назар аударады.
Сарапшылар синтетикалық мазмұндағы қауіптермен күресу үшін халықаралық стандарттар мен мемлекеттер арасындағы үйлестірудің маңыздылығын атап көрсетеді.
Мәселені шешу үшін тек техникалық әдістер жеткіліксіз екені атап өтіледі. Пайдаланушылардың цифрлық сауаттылығы мен білім беру бастамалары маңызды.
Ұсынылған шешімдер жасырын немесе айқын болуы мүмкін сандық су белгілерін пайдалануды және мазмұн өзгерістерінің тарихын қадағалауды қамтиды.
Есеп цифрлық мазмұнның ашықтығының маңыздылығын көрсетеді. Дегенмен, NIST ұсынған технологияларды енгізу уақытты қажет етеді, өйткені олардың көпшілігі зерттеу сатысында және олардың кеңінен қолданылуы бірнеше жылдар бойы күтілмейді.
(мәтінді аудару автоматты түрде жүзеге асырылады)
Құжат үш негізгі бағытты қамтиды: мазмұнның шығу тегін қадағалау, AI арқылы жасалған деректерді таңбалау және балаларға жыныстық зорлық-зомбылық көрсету материалдарын (CSAM) және келісімсіз интимдік суреттерді (NCII) жасаумен күресу.
Жұмыстың маңызды бөлігі - мұндай мазмұнды құрудағы ашықтық. Мұнда мазмұнның шығу тегі мен оның өзгеру тарихы туралы ақпаратты жазу маңызды рөл атқарады. Мұндай деректерге материалдың көзін растайтын метадеректер немесе су белгілері кіруі мүмкін.
Синтетикалық мазмұнды анықтауға арналған тегтер мен құралдар қоғамға шынайы және AI-генерацияланған мазмұнды ажыратуға көмектесетін негізгі әдіс ретінде қарастырылады.
NIST жеке адамдарға әсер етуден (мысалы, терең фейк) жалпы қоғамға, соның ішінде жалған ақпараттың таралуына әсер етуі мүмкін қауіптерге назар аударады.
Сарапшылар синтетикалық мазмұндағы қауіптермен күресу үшін халықаралық стандарттар мен мемлекеттер арасындағы үйлестірудің маңыздылығын атап көрсетеді.
Мәселені шешу үшін тек техникалық әдістер жеткіліксіз екені атап өтіледі. Пайдаланушылардың цифрлық сауаттылығы мен білім беру бастамалары маңызды.
Ұсынылған шешімдер жасырын немесе айқын болуы мүмкін сандық су белгілерін пайдалануды және мазмұн өзгерістерінің тарихын қадағалауды қамтиды.
Есеп цифрлық мазмұнның ашықтығының маңыздылығын көрсетеді. Дегенмен, NIST ұсынған технологияларды енгізу уақытты қажет етеді, өйткені олардың көпшілігі зерттеу сатысында және олардың кеңінен қолданылуы бірнеше жылдар бойы күтілмейді.
(мәтінді аудару автоматты түрде жүзеге асырылады)
