Эксперты разработали для бота ответы, побуждающие обращаться за помощью в реальном мире.
OpenAI опубликовала новые оценки количества пользователей ChatGPT, у которых проявляются возможные признаки психических расстройств, включая манию, психоз или суицидальные мысли, передает inbusiness.kz со ссылкой на BBC.
Компания заявила, что около 0,07% пользователей ChatGPT, активных в течение недели, проявили такие признаки, добавив, что ее чат-бот на основе искусственного интеллекта (ИИ) распознает эти деликатные разговоры и реагирует на них.
Хотя OpenAI утверждает, что подобные случаи «крайне редки», критики отмечают, что даже небольшой процент может составлять сотни тысяч человек, поскольку, по словам руководителя Сэма Альтмана, число еженедельно активных пользователей ChatGPT недавно достигло 800 миллионов.
В связи с растущим вниманием компания заявила о создании сети экспертов по всему миру, которые будут консультировать её.
В число этих экспертов входят более 170 психиатров, психологов и врачей общей практики, работающих в 60 странах, сообщила компания.
По данным OpenAI, они разработали серию ответов в ChatGPT, чтобы побудить пользователей обращаться за помощью в реальном мире.
Однако беглый взгляд на данные компании вызвал недоумение у некоторых специалистов в области психического здоровья.
«Хотя 0,07% кажется небольшим процентом, на уровне населения с сотнями миллионов пользователей это на самом деле может быть довольно много людей», — сказал доктор Джейсон Нагата, профессор, изучающий использование технологий среди молодёжи в Калифорнийском университете в Сан-Франциско.
«ИИ может расширить доступ к поддержке в области психического здоровья и в некотором смысле способствовать его укреплению, но мы должны помнить об ограничениях», — добавил доктор Нагата.
Компания также оценивает, что 0,15% пользователей ChatGPT ведут разговоры, содержащие «явные признаки потенциального суицидального планирования или намерения».
OpenAI заявила, что последние обновления её чат-бота разработаны для того, чтобы «безопасно и чутко реагировать на потенциальные признаки бреда или мании» и замечать «косвенные сигналы потенциального риска самоповреждения или суицида».
ChatGPT также обучен перенаправлять деликатные разговоры, «исходящие из других моделей, в более безопасные», открывая их в новом окне.
В ответ на вопросы BBC о критике количества потенциально затронутых пользователей, OpenAI заявила, что этот небольшой процент пользователей составляет значительную долю, и отметила, что серьёзно относится к изменениям.
Изменения происходят на фоне растущего юридического контроля над взаимодействием ChatGPT с пользователями.
В одном из самых громких исков, недавно поданных против OpenAI, пара из Калифорнии подала в суд на компанию в связи со смертью их сына-подростка, утверждая, что ChatGPT спровоцировал его на самоубийство в апреле.
Иск был подан родителями 16-летнего Адама Рейна и стал первым судебным иском, обвиняющим OpenAI в противоправном причинении смерти.
В другом деле подозреваемый в убийстве и самоубийстве, произошедшем в августе в Гринвиче, штат Коннектикут, опубликовал несколько часов своих разговоров с ChatGPT, которые, по-видимому, подпитывали бред предполагаемого преступника.
Пользователи всё чаще сталкиваются с психозом, вызванным искусственным интеллектом, поскольку «чат-боты создают иллюзию реальности», — сказал профессор Робин Фельдман, директор Института права и инноваций в области искусственного интеллекта Калифорнийского университета. «Это мощная иллюзия».
Она сказала, что OpenAI заслуживает похвалы за «обмен статистикой и усилия по решению проблемы», но добавила:
«Компания может выводить на экран всевозможные предупреждения, но человек, находящийся в группе риска, может не прислушаться к этим предупреждениям».
Ранее сообщалось, что ChatGPT сможет вести эротические беседы с пользователями, после того как в чат-боте будет полностью реализована проверка возраста.
Если у вас возникают суицидальные мысли, вы можете получить помощь по следующим номерам телефона: 111, 112, 150, в Астане – 8 (7172) 54-76-03.
Источник: inbusiness.kz
