Common Sense Media признала режим чат-бота ChatGPT для подростков «неприемлемым риском» из-за проблем с родительским контролем, кризисными ответами и защитой от списывания.
Некоммерческая организация протестировала ChatGPT for Teens и обнаружила недостатки в ключевых механизмах безопасности. Эксперты призвали OpenAI ограничить доступ к сервису пользователям старше 18 лет до устранения проблем.
Youth AI Safety Institute, подразделение Common Sense Media, проверило более 4000 запросов на аккаунтах пользователей 13–17 лет. Тестирование проводилось до и после запуска ChatGPT for Teens 18 августа 2026 года с привлечением детских психиатров и педиатра.
Родители не всегда узнают о рисках
В ходе экспериментов новые аккаунты позволяли подросткам в течение часа обсуждать с ChatGPT суицидальные мысли, самоповреждение и расстройства пищевого поведения без уведомления родителей. На старых аккаунтах, где уже существовала история подобных разговоров, уведомления срабатывали чаще.
Проблемы обнаружили и в кризисных ответах: более чем в четверти соответствующих тестов ChatGPT не рекомендовал обратиться за профессиональной помощью или на горячую линию. В трех из пяти категорий риска результат оказался ниже установленного институтом порога в 95%.
Защиту от списывания удалось обойти
Исследователи также протестировали «Режим учебы» (Study Mode). В частности, ChatGPT предлагал кнопку «Покажи мне ответ» (Show me the answer), после чего мог предоставить готовое решение задания. Родительские ограничения на время учебы удавалось обойти удалением из запроса префикса @study.
Кроме того, эксперты поставили под сомнение надежность определения возраста. В отдельных тестах ChatGPT не переключался в подростковый режим, даже когда пользователь неоднократно сообщал, что ему 13 лет.
ChatGPT продолжает имитировать эмоции
Несмотря на подростковый режим, чат-бот продолжал демонстрировать «собственные» чувства, предпочтения и настроение. В Common Sense Media считают, что такая антропоморфизация может повышать риск эмоциональной зависимости от ИИ.
Организация отдельно указала на необходимость ограничить поведение ChatGPT, которое создает впечатление наличия у него чувств или личной заинтересованности в пользователе.
OpenAI оспорила результаты
OpenAI не согласилась с выводами исследования. Компания заявила, что тестирование могло проходить до полной активации родительских настроек, и подчеркнула, что продолжает совершенствовать защиту несовершеннолетних.
Common Sense Media призвала OpenAI провести независимую проверку системы безопасности. Организация рекомендует доработать пять механизмов: определение возраста, родительские уведомления, кризисные ответы, защиту от выполнения домашних заданий и ограничения на антропоморфное поведение чат-бота.
Напомним, в июне штат Флорида, США, подал иск против OpenAI и CEO Сэма Альтмана с обвинениями в агрессивном продвижении ChatGPT среди подростков.
Будь в курсе! Подписывайся на Телеграм.
Подписывайтесь на страницы новостей криптовалют -
