Виробники медичних пристроїв активно інтегрують штучний інтелект у свої продукти. Проте поки щонайменше десять пацієнтів зазнали серйозних травм під час операцій із використанням медичного пристрою TruDi Navigation System з інтегрованим штучним інтелектом. Серед інцидентів – пошкодження сонної артерії та інсульти.
Про це йдеться в матеріалі Reuters.
У 2021 році компанія Acclarent, частина Johnson & Johnson, додала штучний інтелект до пристрою TruDi Navigation System для лікування хронічного синуситу. Програмне забезпечення мало допомагати хірургам точніше орієнтуватися під час операцій.
До того, як у пристрій додали AI, FDA отримала кілька непідтверджених повідомлень про збої і один випадок травми. Після інтеграції AI кількість таких повідомлень зросла до понад 100.
За звітами, TruDi неправильно показував хірургам, де знаходяться інструменти всередині пацієнтів. Внаслідок цього пацієнти отримували серйозні ушкодження. Двоє постраждалих уже подали позови проти виробника.
FDA відзначає, що її звіти не визначають причину інцидентів. Integra LifeSciences, яка тепер володіє TruDi, запевняє, що немає доказів прямого зв'язку між AI та травмами.
Наразі FDA схвалила понад 1 350 медичних пристроїв із AI. Проблеми виникають і з іншими пристроями: серцеві монітори пропускали аномальні ритми, а ультразвукові апарати неправильно визначали частини тіла плода.
Дослідження показують, що 60 таких пристроїв були причетні до 182 відкликань, майже половина з яких відбулася менш ніж за рік після схвалення. Регулятори визнають, що через скорочення кадрів у FDA важко перевіряти всі нові пристрої.
Майже всі AI-пристрої виходять на ринок без клінічних випробувань на пацієнтах. Експерти кажуть, що це створює додаткові ризики для безпеки.
Нагадаємо, австралійська туристична компанія у своєму блозі радила мандрівникам відвідати гарячі джерела в Тасманії. Проте насправді замість термальних купалень на туристів чекала холодна річка, а блог писали за допомогою ШІ, який все вигадував.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.