Опасный эксперимент: как ИИ калечит пациентов
С момента массового внедрения искусственного интеллекта в медицинские устройства количество жалоб о чрезвычайных случаях в США резко возросло. Пробиты черепа, инсульты, повреждены артерии: расследование показывает тревожные результаты, в то время как FDA пытается регулировать перегретый рынок.
Искусственный интеллект обещал медицинскую революцию, заключавшуюся в сверхточных диагнозах и оптимизированных хирургических вмешательствах. Реальность, которая вырисовывается в американских операционных, гораздо мрачнее. Исследование агентства Reuters, опубликованное 9 февраля, освещает тревожную закономерность: с момента распространения программного обеспечения для машинного обучения в больницах количество хирургических ошибок и несчастных случаев резко возросло. Американское агентство по контролю за лекарственными средствами (FDA) сейчас завалено соответствующими сообщениями.
Дело TruDi: система, теряющая ориентиры
Случай с навигационной системой TruDi, первоначально изготовленной компанией Acclarent (дочерней компанией Johnson & Johnson), олицетворяет все опасения, сообщает бельгийское СМИ 7sur7. Этот инструмент, предназначенный для помощи хирургам во время сложных операций на носовых пазухах или черепе, после “допинга” искусственным интеллектом в 2021 году начал давать значительные сбои. До этого обновления инструмент был предметом всего семи незначительных жалоб за три года. С момента интеграции алгоритма машинного обучения FDA получила около сотни жалоб об инцидентах между 2021 и 2025 годами.
Последствия для пациентов иногда бывают драматичными. По меньшей мере, десять человек получили травмы, поскольку программное обеспечение предоставило ложную информацию о положении хирургических инструментов внутри их головы. Одному пациенту пробили основание черепа. У другого из носа вытекала спинномозговая жидкость. Два пациента даже перенесли инсульт после случайного повреждения большой артерии.
Жертвы подают в суд
Столкнувшись с этими трагедиями, жертвы решили дать отпор, сообщает 7sur7. Двое пациентов, перенесших инсульт, подали иск в Техасе, непосредственно обвиняя технологию. В одном из исков отмечено: «Устройства, несомненно, были более безопасными для внесения изменений в программное обеспечение с целью интеграции искусственного интеллекта, чем после внедрения этих изменений».
К тому же один из хирургов сообщил, что система не указывала точное положение инструментов во время синупластики, что едва не привело к летальному исходу из-за повреждения сонной артерии.
Маркетинговая разработка, а не медицинская?
По данным Clubic, помимо технических ошибок, под прицелом оказалась стратегия изготовителей. Согласно текущему судебному процессу, бывший президент Acclarent якобы настаивал на интеграции ИИ «как маркетингового инструмента», чтобы иметь возможность рекламировать «новую технологию». Гонка по инновациям, которая кажется преобладает над безопасностью, хотя специалисты хорошо знают о рисках «галлюцинаций» моделей ИИ, способных генерировать полностью ошибочные данные.
Проблема выходит далеко за пределы случая TruDi. В прошлом году FDA сертифицировала 1357 медицинских устройств с встроенным ИИ, что вдвое больше, чем в 2022 году. Среди них кардиомониторы Medtronic не выявляли аномальных ритмов, а программное обеспечение для ультразвукового исследования Sonio Detect от Samsung иногда путает части тела плода. Университетское исследование показывает, что 43% откликов Ши-продуктов проходят менее чем через год после их сертификации, что вдвое превышает средний показатель других медицинских устройств.