ChatGPT внедряет функцию «Доверенное лицо» для предотвращения экстренных ситуаций

Компания OpenAI представила новый инструмент безопасности Trusted Contact (Доверенное лицо) для пользователей своего чат-бота. Данная функция позволяет назначить близкого человека, который получит уведомление, если искусственный интеллект определит, что диалог указывает на серьезную угрозу жизни или здоровью пользователя.

Механика работы и социальная поддержка

В обзоре отмечается, что некоторые пользователи ведут с искусственным интеллектом весьма эмоциональные беседы. Ранее ChatGPT уже умел распознавать намерения, связанные с нанесением себе вреда: в таких случаях система предлагает контакты горячих линий или экстренных служб. Новая функция расширяет этот протокол безопасности, добавляя уровень личных социальных связей.

По словам представителей OpenAI, экспертные рекомендации указывают на то, что социальное взаимодействие является одним из важнейших факторов защиты для снижения рисков. Доверенное лицо получит оповещение через SMS, электронную почту или уведомление в приложении ChatGPT. В сообщении будет указано, что пользователю может потребоваться помощь и с ним стоит связаться.

Проверка и конфиденциальность

Алгоритм работы функции включает этап обязательной модерации человеком. Перед тем как отправить сигнал доверенному лицу, диалог проверяется небольшой группой специально обученных специалистов. Проверка занимает не более 60 минут. Только если эксперты подтвердят наличие серьезной угрозы, контакт будет оповещен.

В тексте подчеркивается, что содержание уведомления намеренно ограничено: доверенное лицо не получит подробностей или цитат из переписки с чат-ботом. Это сделано для сохранения приватности. Сам пользователь также получит рекомендации связаться с выбранным человеком и варианты готовых фраз, сформированных нейросетью для начала разговора.

Порядок настройки

Функция ориентирована на совершеннолетних пользователей (от 18 лет) и работает по принципу, схожему с родительским контролем. Основные особенности настройки:

• Указать доверенное лицо можно в панели настроек ChatGPT.
• Выбранный контакт должен подтвердить запрос в течение семи дней.
• Если приглашение не будет принято в указанный срок, пользователь может выбрать другого кандидата.
• Инструмент не заменяет профессиональную медицинскую помощь, а служит дополнительным уровнем защиты.

Развертывание функции происходит постепенно. По данным разработчиков, в ближайшее время она станет доступна всем пользователям в соответствующих разделах меню.