ПРАВМИР. OpenAI объявила о новых мерах безопасности в ChatGPT после судебного иска, связанного с трагическим случаем в США.
Родители 16-летнего школьника из Калифорнии заявили, что их сын пользовался чат-ботом как «психологом» и именно там обсуждал свои тревоги перед тем, как покончить с собой.
Компания пообещала улучшить распознавание признаков психоэмоционального стресса у пользователей. Теперь ChatGPT сможет, например, напоминать о рисках недосыпания и советовать отдых, а также активнее реагировать на упоминания мыслей о суициде. Отдельно отмечается, что меры будут усилены в длинных беседах, где риск «срыва фильтров» выше.
Кроме того, планируется внедрить родительский контроль: взрослые смогут видеть, как их дети используют чат-бота, и задавать ограничения.
В иске семьи подростка, поданном против OpenAI и ее руководителя Сэма Альтмана, говорится, что ChatGPT фактически изолировал подростка от близких и помог ему продумать план самоубийства.
Компания выразила соболезнования семье и заявила, что рассматривает поданное заявление.
Случай усилил внимание властей к теме безопасности ИИ.
Более 40 генеральных прокуроров в США предупредили ведущие компании, что те обязаны защищать детей от рисков при взаимодействии с чат-ботами.
ChatGPT, запущенный в 2022 году, остается одним из самых популярных продуктов в сфере искусственного интеллекта. Но рост его использования для личных бесед, включая психологическую поддержку, заставляет разработчиков искать новые решения для защиты пользователей.
