Компания OpenAI пообещала внедрит в ChatGPT систему родительского контроля и распознавание признаков психического стресса.
Это произошло после судебного иска от родителей 16-летнего подростка из Калифорнии, который покончил с собой этой весной.
Согласно иску, подросток использовал чат-бот для планирования суицида, а система якобы «систематически изолировала его от семьи», пишет Bloomberg.
В рамках обновления ChatGPT научится лучше распознавать признаки психического стресса у пользователей, рассказали в OpenAI.
Например, при высказываниях о длительном недосыпе бот будет объяснять опасность такого состояния и рекомендовать отдых. Также усилятся меры безопасности в диалогах о суициде — после продолжительных разговоров на эту тему система будет прерывать общение.
Новые инструменты позволят родителям контролировать использование ChatGPT детьми и просматривать историю их запросов.
Это решение появилось на фоне растущего давления на компании ИИ: более 40 генеральных прокуроров США потребовали от технологических компаний усилить защиту несовершеннолетних от вредоносного контента.
