Klasifikácia rizika
Určenie triedy rizika podľa nariadenia MDR (Medical Device Regulation). Väčšina diagnostických AI nástrojov spadá do triedy IIa alebo IIb, čo vyžaduje audit notifikovanou osobou.
Regulácia AI a EU Act
Implementácia neurónových sietí do klinickej praxe podlieha prísnemu legislatívnemu rámcu. Akt o umelej inteligencii (EU AI Act) definuje medicínske algoritmy ako vysokorizikové systémy, ktoré musia spĺňať striktné požiadavky na bezpečnosť a transparentnosť.
Certifikácia podľa MDR
Technická dokumentácia
Povinná príprava podrobnej dokumentácie o architektúre algoritmu, trénovacích dátach a validácii. Bez riadnej technickej správy nie je možné získať označenie CE.
Klinické hodnotenie
Preukázanie klinického prínosu softvéru prostredníctvom štúdií. Algoritmus musí preukázať presnosť v reálnych podmienkach na reprezentatívnej vzorke pacientov.
Zodpovednosť a právny rámec
Právna zodpovednosť pri používaní AI v medicíne je rozdelená medzi výrobcu softvéru a koncového používateľa, teda lekára. Výrobca ručí za technickú bezchybnosť a súlad s deklarovanými parametrami, zatiaľ čo lekár nesie zodpovednosť za finálne klinické rozhodnutie. Tento princíp "human-in-the-loop" je kľúčový pre zachovanie bezpečnosti pacienta a etickú integritu liečebného procesu.
V kontexte dátových štandardov je nevyhnutné, aby systémy AI pracovali s validovanými a štruktúrovanými dátami. Akákoľvek odchýlka v kvalite vstupných dát môže viesť k nesprávnej interpretácii, čo zvyšuje právne riziká pre zdravotnícke zariadenie. Implementácia robustného hardvérového riešenia zase zabezpečuje stabilitu systému a minimalizuje výpadky, ktoré by mohli ohroziť diagnostiku.
Nové smernice o zodpovednosti za AI (AI Liability Directive) zavádzajú domnienku príčinnej súvislosti v prípade chyby systému. To znamená, že poškodený pacient má uľahčenú pozíciu pri vymáhaní náhrady škody, ak systém AI nefungoval v súlade s dokumentáciou. Pre poskytovateľov to znamená nutnosť detailného logovania všetkých operácií algoritmu.
Proces klinickej validácie
01.
Definovanie klinického účelu a špecifikácia cieľovej populácie pre tréning neurónovej siete.
02.
Retrospektívna validácia na historických dátach s cieľom overiť citlivosť a špecificitu algoritmu.
03.
Prospektívna klinická štúdia v reálnom čase pod dohľadom odborných garantov a etickej komisie.
04.
Post-market surveillance, teda kontinuálne sledovanie výkonnosti systému po nasadení do praxe.