Западные разработчики создали специальные чат-боты, которые могут имитировать поведение умерших родственников. В новом исследовании Кембриджского университета ученые предупреждают о рисках и предлагают рекомендации для защиты пользователей и тех, кого симулируют. Пользователю следует помнить, что с ними общается искусственный интеллект, не обладающий сознанием и чувствами.
Freepik
Например, газета San Francisco Chronicle рассказала историю молодого человека, который после смерти невесты создал чат-бота, имитирующего ее речь и поведение, что помогло ему справиться с утратой. HereAfter AI создала приложение, где пользователь отвечает на вопросы, а потом скорбящие могут общаться с симулированным голосом умершего. StoryFile использует видеоролики для создания манеры поведения умершего, пишет MK.
Freepik
Правда у такого функционала, есть и свои негативные стороны. Например, мама восьмилетнего мальчика погибает, но родственники создают чат-бота с ее голосом и видео для общения с ребенком. Это сбивает малыша с толку, так как чат-бот создает видимость, будто мама еще жива. Или пожилой мужчина создает чат-бота себя, чтобы общаться с детьми и внуками после его смерти. После похорон дети получают запросы от компании на общение с чат-ботом, что вызывает у них дискомфорт и чувство вины.
Freepik
Исследователи рекомендуют получать согласие как от человека, чьи данные используются, так и от тех, кто собирается использовать сервис. Они также предлагают ввести протоколы для предотвращения неуважительного использования ботов и установить возрастные ограничения для пользователей.
Ученые подчеркивают, что компании должны сообщать о возможных рисках для психического здоровья при использовании таких приложений.
Ранее мы сообщали, что татуировки повышают риск злокачественной лимфомы.
30 мая 2024
