На основании переписок чат-бота ChatGPT с пользователями у многих из них были выявлены психические отклонения, говорится в докладе американской компании OpenAI, которая разработала модель, опубликованном 27 октября на сайте организации. Согласно внутреннему исследованию, нейросеть научилась выявлять у людей симптомы психических нарушений.
Среди них были острые психотические расстройства и маниакальные состояния, включая бред преследования и ощущение внешнего контроля над мыслями, суицидальные намерения и склонность к самоповреждению, а также патологическая эмоциональная зависимость от общения с ботом. Еженедельно у 0,07% активных пользователей фиксируются признаки психотических эпизодов. Поскольку гендиректор OpenAI Сэм Альтман ранее говорил, что у ChatGPT 800 млн пользователей, то 0,07% — это 560 тыс. человек. Признаки суицидального поведения демонстрируют 0,15% пользователей (1,2 млн человек). Симптомы нездоровой привязанности к виртуальному собеседнику также проявляют 0,15% пользователей. Для решения проблемы привлекли более 170 психиатров и клинических психологов из 60 стран. Они обучали нейросеть реагировать на кризисные ситуации. Результатом работы стало сокращение некорректных ответов на 65-80% в зависимости от категории расстройства. Несмотря на достигнутый прогресс, в компании признают, что работа далека от завершения. Точность диагностики продолжает вызывать вопросы, а редкая встречаемость случаев затрудняет сбор репрезентативной статистики. В OpenAI подчеркивают, что чат-бот не может заменить профессиональную медицинскую помощь, а способен лишь перенаправить пользователя к специалистам. glavno.smi.today
Свежие комментарии