Междисциплинарный экспертный семинар: как исследовать ИИ в психологии безопасно и этично?
13 марта Лаборатория доказательной психологии здоровья и благополучия Института психологии здоровья НИУ ВШЭ СПб провела экспертный семинар, посвящённый этичным и безопасным подходам к исследованию и пилотированию ИИ-инструментов психологической поддержки.
Семинар объединил представителей науки, клинической практики, бизнеса и технологической индустрии. В обсуждении участвовали исследователи (НИУ ВШЭ, СПбГУ), психологи и супервизоры, психиатры и врачи (в том числе специалисты СПб ГБУЗ «Больница им. П.П. Кащенко» и «ММЦ Профмедицина»), эксперты по ИИ и его этике, представители цифровых сервисов психологической помощи (включая Humanteq), а также специалисты в области права и кризисной помощи. Такой состав позволил обсудить внедрение ИИ сразу с нескольких точек зрения – научной, клинической и технологической.
Участники рассмотрели существующие практики регулирования ИИ, обсудили кейсы использования сервисов на базе больших языковых моделей и связанные с ними риски: некорректные рекомендации, размывание ответственности, возможную зависимость пользователей и ограничения ИИ в понимании социального и клинического контекста. В рабочем формате также моделировались проблемные ситуации – от ошибок системы до взаимодействия с пользователями в кризисных состояниях.
По итогам обсуждения были сформулированы ключевые подходы к проведению исследований. Прежде всего, ИИ должен рассматриваться только как вспомогательный инструмент, а не замена специалиста: ответственность за решения, влияющие на благополучие человека, остаётся за профессионалом. Необходимы минимизация, анонимизация и ограничение хранения чувствительной информации, а также прозрачные правила её использования. Участники также подчеркнули важность протоколов безопасности – сценариев эскалации, ограничений на рекомендации ИИ и систем контроля качества, включая предварительное тестирование в контролируемых условиях (red teaming). Отдельно отмечалась необходимость информирования пользователей: человек должен понимать, что взаимодействует с ИИ, и осознавать его ограничения.
Семинар стал важным шагом к выработке профессионального консенсуса в области ответственного использования ИИ в психологии и заложил основу для дальнейших исследований и разработки практических стандартов, помог представителям лаборатории подготовиться к проведению исследования эффективности психологической поддержки, построенных на основе больших языковых моделей.
