Медичні помилки через штучний інтелект: «пробиті черепи» та пошкоджені артерії – чорний список ШІ в операційній

З моменту масового впровадження штучного інтелекту в медичні пристрої кількість скарг про надзвичайні випадки в США різко зросла. Пробиті черепи, інсульти, пошкоджені артерії: розслідування показує тривожні результати, тоді як FDA намагається регулювати перегрітий ринок.

Штучний інтелект обіцяв медичну революцію, що полягала в надточних діагнозах та оптимізованих хірургічних втручаннях. Реальність, яка вимальовується в американських операційних, є набагато похмурішою. Дослідження агентства Reuters, опубліковане 9 лютого, висвітлює тривожну закономірність: з моменту поширення програмного забезпечення для машинного навчання в лікарнях кількість хірургічних помилок і нещасних випадків різко зросла. Американське агентство з контролю за лікарськими засобами (FDA) зараз завалене відповідними повідомленнями.

Справа TruDi: система, яка втрачає орієнтири

Випадок з навігаційною системою TruDi, спочатку виготовленою компанією Acclarent (дочірньою компанією Johnson & Johnson), уособлює всі побоювання, повідомляє бельгійське ЗМІ 7sur7. Цей інструмент, призначений для допомоги хірургам під час складних операцій на носових пазухах або черепі, після «допінгу» штучним інтелектом у 2021 році почав давати значні збої. До цього оновлення інструмент був предметом лише семи незначних скарг за три роки. З моменту інтеграції алгоритму машинного навчання FDA отримала близько сотні скарг про інциденти між 2021 і 2025 роками.

Наслідки для пацієнтів іноді бувають драматичними. Щонайменше десять осіб отримали травми, оскільки програмне забезпечення надало помилкову інформацію про положення хірургічних інструментів всередині їхньої голови. Одному пацієнту пробили основу черепа. В іншого з носа витікала спинномозкова рідина. Двоє пацієнтів навіть перенесли інсульт після випадкового пошкодження великої артерії.

Жертви подають до суду

Зіткнувшись із цими трагедіями, жертви вирішили дати відсіч, повідомляє 7sur7. Двоє пацієнтів, які перенесли інсульт, подали позов у Техасі, безпосередньо звинувачуючи технологію. У одному з позовів зазначено: «Пристрої, безсумнівно, були безпечнішими до внесення змін у програмне забезпечення з метою інтеграції штучного інтелекту, ніж після впровадження цих змін».

До того ж один з хірургів повідомив, що система не вказувала точне положення інструментів під час синупластики, що мало не призвело до летального результату через пошкодження сонної артерії.

Маркетингова технологія, а не медична?

За даними Clubic, крім технічних помилок, під прицілом опинилася стратегія виробників. Згідно з поточним судовим процесом, колишній президент Acclarent нібито наполягав на інтеграції ШІ «як маркетингового інструменту», щоб мати змогу рекламувати «нову технологію». Гонка за інноваціями, яка, здається, переважає над безпекою, хоча фахівці добре знають про ризики «галюцинацій» моделей ШІ, здатних генерувати повністю помилкові дані.

Проблема виходить далеко за межі випадку TruDi. Минулого року FDA сертифікувала 1357 медичних пристроїв з інтегрованим ШІ, що вдвічі більше, ніж у 2022 році. Серед них кардіомонітори Medtronic не виявляли аномальних ритмів, а програмне забезпечення для ультразвукового дослідження Sonio Detect від Samsung іноді плутає частини тіла плода. Університетське дослідження показує, що 43% відкликань Ші-продуктів відбуваються менш ніж через рік після їхньої сертифікації, що вдвічі перевищує середній показник для інших медичних пристроїв.