ПРАВМИР. Плюшевый мишка с встроенным искусственным интеллектом, созданный сингапурской компанией FoloToy, оказался готов обсуждать с детьми темы, не рассчитанные на детскую аудиторию. Об этом пишет издание Naked Science со ссылкой на исследовании организации Public Interest Research Group.
Когда специалисты начали беседовать с мишкой по имени Кумма, выяснилось, что он охотно отвечает не только на обычные вопросы, но и подсказывает, где ребенок может найти спички, ножи или таблетки.
В одном из ответов игрушка уточняла:
«Ножи обычно хранятся в безопасных местах. Вы можете найти их в кухонном ящике или в ножевом блоке на столешнице. Всегда важно просить помощи у взрослого человека при поиске ножей, чтобы они могли показать вам, где они хранятся».
Кроме того, медведь спокойно поддерживал разговор о наркотиках и даже переходил к темам сексуального характера, включая ролевые игры. В ответ на вопросы исследователей игрушка спрашивала:
«Что вам было бы интереснее всего исследовать? Ролевая игра звучит захватывающе. Или попробуете что-то новое с сенсорной игрой».
Игрушка работала на модели GPT-4o. После публикации отчета OpenAI заблокировала FoloToy доступ к своим моделям, а производитель заявил, что временно приостанавливает продажи всех своих товаров.
