Планирането е областта, в която клиничната изкуствена интелигентност се изправя пред най-голямото си изпитание. Даден модел може да открие закономерности в данните от образни изследвания за секунди. Въпреки това начинът, по който изкуствената интелигентност подпомага планирането на емболизацията, зависи от четири фактора: клинична значимост, проследимост, валидиране за предвидената употреба и ясно представяне, което подкрепя професионалната преценка, вместо да я замества.
За производителите на медицински устройства (OEM) това не е само въпрос на софтуер. Търговски ят софтуер за планиране на емболизация с изкуствен интелект е част от по-широка система, включваща изображения, аксесоари и готови устройства. Планирането с помощта на изкуствен интелект може да повлияе на работните процеси при образна диагностика, потребителските интерфейси, избора на устройства, управлението на риска, указанията върху етикетите и данните след пускането на пазара. Следователно основната задача може да се формулира просто: да се определи какво прави системата, какво не прави и кои решения остават в ръцете на лекуващия лекар.
В какви случаи изкуственият интелект допринася за планирането на емболизацията
Планирането на емболизацията изисква внимателно проучване на сложната, специфична за всеки пациент анатомия и образни изследвания. Изкуственият интелект може да помогне чрез сортиране и анализ на данни, които иначе биха изисквали трудоемко ръчно преглеждане. В зависимост от предвиденото приложение и данните, използвани за обучение, системата може да подпомага визуализацията на съдовете, анатомичната сегментация, прегледа на целевата област или изготвянето на ясно обобщение на по-ранни резултати от образни изследвания.
Предимството се състои в последователната и бърза обработка на информацията. То не се състои в автоматичния избор на лечение. Инструментът за планиране може да помогне на потребителя да сравни образите от образната диагностика, да открие ключови анатомични характеристики или да състави по-ясна документация за планирането. Потребителят все пак преценява получените резултати в контекста. Качеството на образите, целите на процедурата и факторите, които остават извън обхвата на алгоритъма, са от значение.
Този аспект трябва да бъде изрично посочен в определението на продукта. Твърдение като „подпомага визуализацията“ носи съвсем различен рисков профил в сравнение с твърдение, което намеква за автономни съвети или решения за лечение. Изискванията, дейностите по проверка и рекламните материали трябва да използват една и съща терминология.
Качеството на данните определя границите на производителността
Ефективността на изкуствения интелект не може да бъде разгледана отделно от данните, с които работи. Протоколите за образна диагностика, типовете скенери, времето за прилагане на контрастното вещество, методите за реконструкция, групите пациенти и навиците при анотиране – всичко това определя качеството на резултатите. Даден модел може да покаже отлични резултати при работа с един добре структуриран набор от данни, но след това да се провали, когато се сблъска с разнообразието от реални обекти и конфигурации за образна диагностика.
За екипите на производителите на оригинално оборудване (OEM) управлението на данните е основен елемент от процеса на проектиране. Документацията по разработката трябва да посочва източника и качеството на данните, логиката за включване и изключване, метода за установяване на реалните стойности, известните ограничения, както и доколко добре кохортите за валидиране отразяват реалните потребители. Екипите също така се нуждаят от ясен план за действие при данни, които пристигат повредени, с влошено качество или значително извън обхвата на обучението.
Така че основният въпрос не е дали даден модел може да генерира резултат. Въпросът е дали този резултат остава надежден за посочената цел на употреба. Въпросът е също така дали потребителят може да разпознае моментите, в които не трябва да се доверява на резултата.
Как изкуственият интелект подпомага планирането на емболизацията, без да замества преценката на лекаря
Един добре организиран работен процес по планиране прави ролята на системата ясна. Потребителите трябва винаги да могат да разграничават изходните изображения от наслагванията, създадени от изкуствен интелект, измерванията, сегментациите или индикациите за приоритет. Когато това е от полза, интерфейсът трябва да сигнализира за границите на достоверност, липсващи данни и случаи, които изискват ръчна проверка.
Обяснимостта не означава разкриване на всяка техническа подробност на модела. По-скоро тя означава да се предостави на потребителя достатъчно информация, за да разбере какво показва резултатът, как системата го е изчислила и кога може да се получи грешка. Ясното представяне също е мярка за безопасност. Ако потребителят може да сбърка резултата от изкуствения интелект с потвърдено клинично заключение, самият интерфейс е създал риск.
Човешките фактори при работата придобиват още по-голямо значение, когато планираните резултати се интегрират с други инструменти за работния процес. Умората от известия, визуалният хаос, прекомерното разчитане и неравномерното използване в зависимост от нивото на опит – всичко това може да подкопае стойността на подкрепата при вземането на решения. Екипите трябва да проучват тези фактори със същата строгост по отношение на използваемостта и управлението на риска, каквато прилагат към всяка друга функция на устройството.
Доказателствата, изисквани от нормативната уредба, трябва да съответстват на твърдението
Планирането с помощта на изкуствен интелект изисква цялостен набор от доказателства, а не само един основен показател. Изискванията към софтуера трябва да определят входните данни, обхвата на обработката, изходните данни, ролята на потребителя и операционната среда. Верификацията след това показва, че системата работи според спецификацията. Валидирането показва, че определената функция отговаря на предназначението си.
Управлението на риска трябва да обхваща предвидимите начини на отказ. Типичните примери включват неправилна сегментация, погрешно визуално подчертаване, бавна обработка, несъответствие на входните данни и отклонение в производителността на модела след актуализация. Киберсигурността, защитата на данните, управлението на конфигурацията и контролът на промените са също толкова важни, когато софтуерът обработва чувствителни данни от образни изследвания. През целия жизнен цикъл на софтуера се прилагат изискванията на стандарта IEC 62304.
За производителите на оригинално оборудване (OEM), които работят с доставчици на компоненти, това добавя задължение за управление на интерфейсите. Доставената част може изобщо да не притежава функции, свързани с изкуствен интелект. Въпреки това нейните материали, геометрия, видимост, интерфейси за опаковане или декларации за съвместимост могат да повлияят на стратегията за доказване на готовото изделие. Затова документацията трябва да разпределя отговорностите на подходящото ниво. Доставчикът на компоненти предоставя ясно дефинирана и проследима документация за своята част, както прави Pharmtex Medical при производството на компоненти от нитинол съгласно ISO 13485:2016. Правният производител носи отговорност за готовото изделие, неговото предназначение и регулаторното досие.
Какво трябва да планират навреме екипите на производителите на оригинално оборудване
Най-добрите програми определят стратегията си за събиране на доказателства, преди софтуерът да стане труден за промяна. Екипите по продукта, клиничните изпитвания, регулаторните въпроси, качеството и инженерството трябва да се споразумеят на ранен етап относно целевия потребител, подкрепяното решение, ограниченията на данните и критериите за приемане. Този подход позволява да се избегне една често срещана капан: умна функционалност без обосновано твърдение и без практически път към валидиране.
В крайна сметка начинът, по който изкуственият интелект подпомага планирането на емболизацията, зависи от обхвата на приложението. Технологията прави планирането по-структурирано и по-богато на данни, когато ролята ѝ остава тясно определена, отворена и добре валидирана. За производителите трайното предимство произтича от строгите контролни механизми при проектирането, ясните интерфейси с доставчиците и документацията, която издържа проверките, прехвърлянето на производството и промените след пускането на пазара.
Bulgarian centres can access the embolization products behind this planning workflow through Pharmtex Medical’s medical device distribution portfolio.