Нейросети могут оказывать вредное влияние на людей, обращающихся к чат-ботам за психологической помощью, 29 июня пишет New York Post. Издание сообщает, что чат-боты сейчас стали популярны в качестве средств по психологической консультации, но их ответы могут стать неэффективными и даже опасными для людей.
«Исследователи обнаружили, что большие языковые модели (LLM), такие как ChatGPT, по крайней мере в 20% случаев делали неуместные и опасные заявления людям, испытывающим бред, суицидальные мысли, галлюцинации и обсессивно-компульсивное расстройство», — говорится в материале. Сообщается, что ИИ обычно соглашается со взглядами, которые транслируют пользователи и потому могут быть вредны для людей с расстройствами. «Инструменты ИИ, какими бы сложными они ни были, полагаются на запрограммированные ответы и большие наборы данных… Они не понимают, что скрыто за чьими-то мыслями или поведением», — говорится в статье. glavno.smi.today
Свежие комментарии