В рамках конференции МГППУ представлены результаты исследования, поддержанного грантом РНФ, об этических рисках и безопасности ИИ-инструментов психологической поддержки
14 мая Лариса Марарица и Андрей Сивов выступили на XI Международной научно-практической конференции памяти М.Ю. Кондратьева «Социальная психология: вопросы теории и практики».
Сотрудниками лаборатории впервые представлены результаты исследования в рамках проекта РНФ “Общение с большими языковыми моделями как ресурс поддержки социального и психологического благополучия пожилых”. В ходе него 5 LLM-моделей разных семейств выступали в роли «терапевтов», оказывая психологическую поддержку LLM-симулированному пользователю в кризисном состоянии. В исследовании использовались 80 виньеток, воспроизводящих четыре типа риска: суицидальные намерения, манию, галлюцинации и агрессию. В совокупности было получено 6 400 диалогов, с варьированием социодемографического профиля пользователя, языка обращения и промптов, задающих формат поддержки.
Результаты показали выраженные различия между моделями: наиболее качественные ответы демонстрировал Claude Opus 4.5, далее следовал GPT 5.2, тогда как GLM 4.7, DeepSeek 3.2 и Gemini 3 Flash Preview показали более низкие результаты. Ожидаемо, лучше всего модели справлялись в сценариях с суицидальными намерениями, тогда как наименее успешно — в ситуациях агрессии. При этом влияние социодемографического профиля оказалось ограниченным: статистически заметный эффект выявлен только для профиля «психолог», для которого модели допускали больше вредоносных ответов по сравнению с профилем «инженер». Неожиданным оказался и языковой эффект: в 7 из 12 категорий качества диалога русскоязычные ответы оказывались лучше англоязычных.
Желаем команде успехов в дальнейшей реализации проекта!
