Ученые показали, что модели искусственного интеллекта (ИИ) могут рекомендовать разные методы лечения одного и того же заболевания в зависимости от социально-экономического и демографического статуса пациента. Исследователи протестировали девять моделей на 1000 случаев из отделений неотложной помощи, каждый из которых был применен к 32 различным пациентам. Ученые выявили, что рекомендации ИИ иногда меняются без медицинской необходимости. Например, пациентам с высоким доходом чаще предлагались передовые диагностические тесты (КТ или МРТ), а пациентам с низким доходом ИИ рекомендовал не проводить дальнейших исследований. Это подчеркивает важность контроля использования технологий искусственного интеллекта. Работа опубликована в журнале Nature Medicine.
Искусственный интеллект (ИИ) широко используется в медицине для улучшения диагностики и лечения. Например, ИИ помогает анализировать рентгеновские снимки и МРТ, что позволяет быстро и точно выявлять заболевания, включая рак и переломы. ИИ также может предсказывать реакции пациентов на лекарства и подбирать индивидуальные планы лечения. Кроме того, модели искусственного интеллекта помогают врачам анализировать данные о пациентах и назначать эффективное лечение. ИИ повышает точность диагнозов и скорость их постановки, а также экономит время и ресурсы врачей. Однако ИИ может давать неверные рекомендации при неправильном обучении и требует тщательного контроля и надзора.
Ученые оценили влияние социально-демографических факторов на рекомендации, генерируемые моделями искусственного интеллекта (ИИ) в медицинской сфере. Для этого они протестировали девять крупных языковых моделей (LLMs) на 1000 случаев из отделений неотложной помощи. Каждый случай был применен к 32 различным социальным и демографическим статусам пациентов. В результате было получено более 1,7 миллиона медицинских рекомендаций.
Команда использовала стресс-тестирование моделей, чтобы выявить случаи, когда рекомендации ИИ менялись не по медицинским причинам, а из-за таких факторов, как уровень дохода, раса или пол пациента. Ученые анализировали ключевые аспекты медицинских решений, включая приоритетность обследования пациентов, выбор диагностических тестов, подходы к лечению и оценку психического здоровья.
Результаты показали, что некоторые модели склонны изменять рекомендации на основе социального статуса пациента. Например, пациентам с высоким доходом чаще предлагались передовые диагностические тесты (КТ или МРТ), тогда как пациентам с низким доходом рекомендовали не проводить дальнейших исследований.
Особенно заметным оказалось влияние демографических факторов на рекомендации по психическому здоровью. Некоторые модели могут рекомендовать лечение для определенных групп пациентов без объективных медицинских причин.
Для обеспечения справедливости и надежности ИИ-инструментов исследователи разработали рамки для оценки их качества. Этот подход включает тестирование рекомендаций моделей на соответствие клиническим стандартам и сбор обратной связи от врачей для улучшения алгоритмов. В будущем команда планирует расширить свои исследования и внедрить ИИ в больничных условиях в пилотном режиме.
«ИИ способен произвести революцию в здравоохранении, но только в том случае, если он разрабатывается и используется ответственно. Благодаря тщательной проверке, мы совершенствуем инструменты ИИ для соблюдения высоких этических стандартов и обеспечения надлежащего ухода. При надлежащем тестировании, мы можем гарантировать, что эти технологии улучшат уход для всех, а не только для определенных групп», — рассказали авторы исследования.
Автор: Оксана Гриценко.
Подписывайтесь на InScience.News в социальных сетях: ВКонтакте, Telegram, Одноклассники.
