иллюстративное фото

OpenAI опубликовала исследование о том, как пользователи ChatGPT взаимодействуют с ИИ в моменты психологического кризиса.

По данным компании, около 0,15% активных пользователей еженедельно ведут разговоры с признаками суицидальных намерений — это более миллиона человек при аудитории свыше 800 миллионов. Ещё примерно столько же демонстрируют эмоциональную привязанность к чат-боту, а 0,07% проявляют признаки психоза или мании.

Над последними обновлениями ChatGPT работали более 170 экспертов в области психического здоровья. По данным OpenAI, обновлённая модель GPT-5 теперь на 65–80% реже даёт «нежелательные ответы» в подобных разговорах. В тестах на реакцию в ситуациях, связанных с суицидом, GPT-5 соответствует стандартам компании в 91% случаев против 77% у предыдущей версии.

Также OpenAI внедряет новые метрики, оценивающие признаки эмоциональной зависимости и несуицидальных психических кризисов. Компания заявила, что улучшенные модели теперь стабильнее ведут себя даже в долгих разговорах, сохраняя корректность ответов более чем в 95% случаев.

• искусственный интеллект
• пользователи
• проблемы
• психическое здоровье
• это интересно