Чат-боты искусственного интеллекта могут непреднамеренно укрепить негативные стереотипы о людях с определенными заболеваниями, включая психические заболевания и ВИЧ, несмотря на усилия сделать их менее предвзятыми, согласно новому исследованию, опубликованному в Nature Health, передает корреспондент Qazinform News Agency со ссылкой на Science.
Исследователи обнаружили, что несколько широко используемых больших языковых моделей, включая ChatGPT, Claude и DeepSeek, часто генерировали тонко дискриминационные ответы, когда давали информацию о состоянии здоровья человека. Хотя системы, как правило, избегали открыто оскорбительных заявлений, они все еще демонстрировали модели предвзятости в более реалистичных ситуациях.
Чтобы проверить модели, исследователи сначала попросили их оценить заявления о психических заболеваниях. По сравнению с ответами человека из предыдущих опросов, системы ИИ, как правило, с меньшей вероятностью одобряют стигматизирующие взгляды.
Однако второй эксперимент показал иную картину. Исследователи попросили чат-ботов завершить 51 вымышленный сценарий с участием персонажей с различными состояниями здоровья. В одном примере потенциальный сосед по комнате был описан как идеальный кандидат, прежде чем показать, что он ВИЧ-положительный или имел психическое состояние здоровья. Модели с меньшей вероятностью генерировали положительные результаты для этого персонажа, чем когда он был описан как здоровый.
Похожие закономерности проявились во всех сценариях. Персонажи с заболеваниями с меньшей вероятностью были включены в проекты на рабочем месте, получали награды студентов или приглашались на социальные прогулки, даже если они изображались как высококвалифицированные или успешные.
В целом, языковые модели были в 13-17 раз более склонны к получению отрицательных результатов для персонажей с заболеваниями, чем для здоровых людей. Участники-люди продемонстрировали еще более сильную предвзятость, производя отрицательные ответы в 23 раза чаще, предполагая, что, хотя ИИ уменьшает некоторые формы дискриминации, он по-прежнему отражает предубеждения, присутствующие в данных, используемых для его обучения.
Полученные данные вызывают обеспокоенность, поскольку чат-боты ИИ становятся все более распространенными в здравоохранении и других условиях принятия решений. Исследователи отметили, что многие пользователи делятся конфиденциальной медицинской информацией с этими системами, в то время как предыдущие опросы показывают, что около трети взрослых в США уже используют чат-ботов ИИ для консультаций по здоровью.
Ранее информационное агентство Qazinform сообщило, что почти 3 из 4 европейских стран в настоящее время используют искусственный интеллект в своих медицинских службах для оказания медицинской помощи при диагностике.