Как использовать нейросети в психологии: 10 правил работы с ИИ (Психология)
Кадр их фильма «Прометей»
IMDb
Особенно остро проблема использования ИИ в этой области встала в связи с распространением и растущей популярностью различных приложений для психического здоровья на основе нейролингвистических моделей. И руководство «10 главных принципов взаимодействия с искусственным интеллектом в психологии» призвано помочь специалистам ответственно и эффективно использовать нейросети в своей повседневной практике.
Рекомендации были выработаны на основе результатов опроса, проведенного среди психологов из разных регионов мира. Всем им предлагалось ответить на 20 вопросов по теме.
В итоге все принципы были разделены на три категории.
Категория I: «Этика, прозрачность и ИИ»
Принцип 1. Этическая ответственность
Используя ИИ, психологи должны руководствоваться профессионально признанными этическими нормами. Они должны четко осознавать те последствия, которые может нести с собой применение в их работе ИИ, и следить за тем, чтобы не нанести этим вреда своим клиентам.
Принцип 2. Прозрачность при выборе инструментов ИИ
Психологи должны использовать в своей практике только те системы ИИ, которые открыто демонстрируют, как именно они работают, а также четко и постоянно уведомляют пользователей, что те имеют дело с «нечеловеческим» разумом.
Психологу важно понимать, как именно ИИ генерирует контент, из каких источников берет данные и как их обрабатывает. Это позволяет оценить достоверность и надежность информации, а также объяснить результаты работы ИИ клиентам.
Принцип 3. Информированное согласие
Психологи должны четко информировать клиентов о том, что включают в свою практику инструменты ИИ, и получать от них согласие на сбор, сохранение, анализ и использование их данных. Клиенты должны быть заранее проинформированы обо всех потенциальных рисках, ограничениях и преимуществах, связанных с применением ИИ при работе с ними. Это позволяет клиентам принимать обоснованное решение о том, подходить ли им такой метод, хотят ли они в этом участвовать.
Принцип 4. Подотчетность и профессиональная ответственность
На психологах лежит профессиональная ответственность за решения, принятые на основе или при поддержке инструментов ИИ. Причем эта ответственность не меньше, чем та, что лежит на разработчиках, поставщиках или каких-то организациях. Когда ответственность размыта, растет риск этических нарушений, непризнанных ошибок или причинения психологического вреда.
Поэтому психологи должны стремиться к ясности в отношении того, как функционируют системы ИИ, почему они производят тот или иной контент, кто их контролирует, как выдаются и проверяются результаты. Психологи должны быть готовы объяснять решения, принятые на основе ИИ, клиентам и отменять эти решения, если профессиональный опыт говорит об их ошибочности.
Категория II: «Профессиональная компетентность и ИИ»
Принцип 5. Доказательная база
Психологи должны обладать достаточными базовыми знаниями для того, чтобы критически подходить к выбору ИИ. Это совсем не обязательно означает обладание техническими познаниями в области разработки систем ИИ. Скорее, речь идет о способности принимать обоснованные, обдуманные решения о том, подходят ли те или иные инструменты ИИ для тех или иных конкретных профессиональных целей.
Для этого психологам необходимо постоянно следить за исследованиями, касающимися эффективности, рисков и ограничений, связанные с использованием ИИ.
Принцип 6. Человеческий контроль и профессиональное суждение
Психологам ни в коем случае не стоит оставлять все решения на откуп ИИ. Необходимо непрерывно контролировать генерируемый им контент, следить за его правдоподобностью, релевантностью, оценивать риски непредвиденных последствий и вмешиваться, если выданные ИИ рекомендации противоречат профессиональному суждению, этическим стандартам или выбиваются из контекста.
Именно психолог отвечает за конечные результаты. Человеческий контроль необходим для того, чтобы процессы, поддерживаемые ИИ, применялись надлежащим образом, этично и с учетом сложности человеческого поведения и жизненного опыта.
Принцип 7. Психологическая безопасность и предотвращение ущерба
Интеграция ИИ в психологическую практику несет с собой новые формы рисков для клиентов. Рекомендации ИИ потенциально способны нанести им психологический ущерб — вызвать эмоциональный стресс, растерянность, замешательство, заставить почувствовать себя изгоем, оказать вредное влияние на мысли, поведение или решения.
Психологи несут ответственность за то, чтобы предвидеть, выявить, смягчить или предотвратить эти нежелательные последствия использования ИИ. Поэтому психологам необходимо заранее тщательно обдумывать, как результаты работы ИИ могут повлиять на клиентов, особенно если они особенно уязвимы, или ИИ генерирует контент, который может восприниматься человеком как очень авторитетный или персонализированный.
Все это требует постоянного мониторинга процессов, поддерживаемых ИИ, реагирования на непредвиденные последствия и готовности изменить или прекратить использование ИИ, когда риски перевешивают преимущества.
- «Конечно, вот решение вашей проблемы»: 5 признаков, что консультации с ИИ вредят вашему психическому здоровью
