Hilbi IQ · jedna otázka, jedna odpoveď
Kto nesie zodpovednosť, keď sa AI dotkne prípadu pacienta?
Podľa AI Act nesie povinnosti ten, kto nasadí systém AI do odborného procesu. Ak vložíte prípad do všeobecného asistenta, zodpovednosť má ambulancia. IQ prichádza opačne, ako sprostredkovateľ na základe písomnej zmluvy.
- Povinnosti nasadzujúceho subjektu vysvetlené
- Podpis pred uložením do dokumentácie
- Architektúra nie je zverejnená
Povinnosti nasadzujúceho
nesie sprostredkovateľ, nie vy
Čl. 50 ods. 4
transparentnosť zaznamenaná pri každom výstupe
Dva spôsoby práce vedľa seba
Porovnávame dve situácie, nikdy nie konkrétne produkty.
| Všeobecný asistent používaný mimo klinického systému | Hilbi IQ | |
|---|---|---|
| Kto je nasadzujúcim subjektom podľa aktu o umelej inteligencii | ||
| Zmluvný vzťah k údajom | ||
| Kde sa údaje spracúvajú | ||
| Použitie na trénovanie modelov | ||
| Transparentnosť voči pacientovi | ||
| Ľudský dohľad | ||
| Záznam o tom, čo sa stalo | ||
| Čo sa dostane do zdravotnej dokumentácie |
Platí: platí dnes a vieme to doložiť. Prebieha: je to rozpracované a má termín. Pripravenosť: pozícia je pripravená a trh sa otvára ako ďalší.
Čo zverejňujeme a čo nie
Dosť na posúdenie zodpovednosti. Málo na to, aby sa systém dal postaviť znova.
- Miesto spracovania údajov
- Uvedené pre každý trh a zakotvené v zmluve.
- Právne roly
- Poskytovateľ zdravotnej starostlivosti ako prevádzkovateľ, Hilbi ako sprostredkovateľ podľa čl. 28 GDPR, pričom povinnosti nasadzujúceho subjektu podľa aktu o umelej inteligencii sú rozdelené písomne.
- Mechanizmus transparentnosti
- Strojovo generovaný klinický text sa oznamuje podľa čl. 50 ods. 4 aktu o umelej inteligencii a nesie meno lekára, ktorý ho podpísal.
- Mechanizmus dohľadu
- Podpisová brána pred zápisom do dokumentácie, nie odporúčanie na kontrolu.
- Určený účel
- Generuje štruktúrovaný koncept správy na kontrolu lekárom a navrhuje kódy výkonov. Nediagnostikuje a nerozhoduje.
- Klasifikácia
- Posúdené podľa MDCG 2019-11 a čl. 6 ods. 1 aktu o umelej inteligencii na základe uvedeného určeného účelu, aby si posudzovateľ mohol posúdenie zopakovať.
- Audítorské dôkazy
- Čo bolo vygenerované, čo bolo upravené, kto podpísal a kedy. Nemenné a exportovateľné.
- Čo sa nezverejňuje
- Smerovanie modelov, konštrukcia promptov, návrh vyhľadávania a skladba dodávateľov sa nezverejňujú. Zodpovednosť sa dá posúdiť aj bez nich a ich zverejnenie by odpoveď neurobilo overiteľnejšou.
- Nezávislé overenie
- Na základe dohody dostane posudzovateľ audítorskú správu, zhrnutie penetračného testu a zoznam subdodávateľov spracúvania.
Doplňujúce otázky
Je vlastne zakázané použiť všeobecného asistenta na prípad pacienta?
Čo sa zmení, ak sa asistent použije s údajmi, ktoré nie sú identifikovateľné?
Kto zodpovedá, ak koncept obsahuje chybu?
Robí akt o umelej inteligencii z IQ vysokorizikový systém?
Prečo nezverejníte architektúru?
Mesačný prehľad
Raz za mesiac to podstatné.
Čo sa zmenilo v európskych zdravotných údajoch, čo sme dodali a čo to znamená pre poskytovateľa. Nič iné.