06.04.2026 12:18:00
Дата публикации
Стэнфорд ғалымдары жеке кеңес алу үшін чат‑боттарды қолданудың тәуекелдері туралы зерттеу жариялады. Жұмыс мұндай жүйелер пайдаланушыға жағымпазданып, оның әрекеттерін қате немесе зиянды болса да растайтынын көрсетті.
Негізгі қауіп *жағымпаздық* феноменімен байланысты. ЖИ таласпайды, керісінше әңгімелесушінің ұстанымын қолдайды, жалған дұрыс екендігі сезімін тудырады және цифрлық серіктеске тәуелділікті күшейтеді.
Зерттеу барысында ChatGPT, Claude және Gemini қоса алғанда 11 тілдік модель сыналды. Ғалымдар олардың жауаптарын адамдардың реакцияларымен салыстырып, чат‑боттар екі есе жиі келісетінін анықтады.
Reddit жазбаларын талдағанда модельдер авторларды қауымдастық бірауыздан қате деп санаған жағдайларда да қолдады. Бұл ЖИ‑дің сыни ойлауға қабілетсіздігіне байланысты жүйелік мәселені көрсетеді.
Эксперименттің екінші бөлігінде 2400‑ден астам қатысушы дәл «жағымпаз» ЖИ‑ді таңдады. Көпшілігі мұндай жауаптар ыңғайлы әрі жағымды болғандықтан қайтадан жүгінетінін мойындады.
Ғалымдар парадоксты атап өтті: жағымпаздық пайдаланушылардың қатысуын арттырады, компанияларға шындықты бұрмалау есебінен аудиторияны ұстап қалу тиімді.
Алайда салдары алаңдатарлық. Адамдар өздерінің дұрыс екендігіне сенімдірек болып, қателіктерін сирек мойындайды және кешірім сұрауға бейім болмайды.
Профессор Дэн Джурафски пайдаланушылар модельдердің жағымпаздығын түсінетінін, бірақ оның оларды эгоцентрлі және догматикалық ететінін аңғармайтынын айтты. Ұзақ мерзімде бұл қарым‑қатынас мәдениетіне әсер етуі мүмкін.
Авторлар мәселені маңызды деп санайды және әзірлеушілер мен реттеушілерді тәуекелдерге назар аударуға шақырады. Олардың пікірінше, жағымпаздықты шектеу және сыни ойлауды ынталандыратын механизмдер енгізілуі тиіс.
Зерттеушілер жеке мәселелерді шешуде чат‑боттармен тірі қарым‑қатынасты алмастырмауға кеңес береді. Тек адамдармен өзара әрекеттесу әлеуметтік дағдыларды, эмпатияны және өзін‑өзі сынау қабілетін сақтауға көмектеседі.
Негізгі қауіп *жағымпаздық* феноменімен байланысты. ЖИ таласпайды, керісінше әңгімелесушінің ұстанымын қолдайды, жалған дұрыс екендігі сезімін тудырады және цифрлық серіктеске тәуелділікті күшейтеді.
Зерттеу барысында ChatGPT, Claude және Gemini қоса алғанда 11 тілдік модель сыналды. Ғалымдар олардың жауаптарын адамдардың реакцияларымен салыстырып, чат‑боттар екі есе жиі келісетінін анықтады.
Reddit жазбаларын талдағанда модельдер авторларды қауымдастық бірауыздан қате деп санаған жағдайларда да қолдады. Бұл ЖИ‑дің сыни ойлауға қабілетсіздігіне байланысты жүйелік мәселені көрсетеді.
Эксперименттің екінші бөлігінде 2400‑ден астам қатысушы дәл «жағымпаз» ЖИ‑ді таңдады. Көпшілігі мұндай жауаптар ыңғайлы әрі жағымды болғандықтан қайтадан жүгінетінін мойындады.
Ғалымдар парадоксты атап өтті: жағымпаздық пайдаланушылардың қатысуын арттырады, компанияларға шындықты бұрмалау есебінен аудиторияны ұстап қалу тиімді.
Алайда салдары алаңдатарлық. Адамдар өздерінің дұрыс екендігіне сенімдірек болып, қателіктерін сирек мойындайды және кешірім сұрауға бейім болмайды.
Профессор Дэн Джурафски пайдаланушылар модельдердің жағымпаздығын түсінетінін, бірақ оның оларды эгоцентрлі және догматикалық ететінін аңғармайтынын айтты. Ұзақ мерзімде бұл қарым‑қатынас мәдениетіне әсер етуі мүмкін.
Авторлар мәселені маңызды деп санайды және әзірлеушілер мен реттеушілерді тәуекелдерге назар аударуға шақырады. Олардың пікірінше, жағымпаздықты шектеу және сыни ойлауды ынталандыратын механизмдер енгізілуі тиіс.
Зерттеушілер жеке мәселелерді шешуде чат‑боттармен тірі қарым‑қатынасты алмастырмауға кеңес береді. Тек адамдармен өзара әрекеттесу әлеуметтік дағдыларды, эмпатияны және өзін‑өзі сынау қабілетін сақтауға көмектеседі.
