HILBI IQ · JEDNA OTÁZKA, JEDNA ODPOVEĎ
Kto nesie zodpovednosť, keď sa AI dotkne prípadu pacienta?
- Povinnosti nasadzujúceho
- Podpisová brána
- Architektúra neverejná
Podľa AI Act nesie povinnosti ten, kto nasadí systém AI do odborného procesu. Ak vložíte prípad do všeobecného asistenta, zodpovednosť má ambulancia. IQ prichádza opačne, ako sprostredkovateľ na základe písomnej zmluvy.

Povinnosti nasadzujúceho
nesie sprostredkovateľ, nie vy
Čl. 50 ods. 4
transparentnosť zaznamenaná pri každom výstupe
Dva spôsoby práce vedľa seba
Porovnávame dve situácie, nikdy nie konkrétne produkty.
Kto je nasadzujúcim subjektom podľa aktu o umelej inteligencii
Všeobecný asistent používaný mimo klinického systému
Na potvrdenieAmbulancia, tým, že systém uvedie do používania
Hilbi IQ
PlatíRozdelené písomne, s Hilbi ako sprostredkovateľom
Zmluvný vzťah k údajom
Všeobecný asistent používaný mimo klinického systému
Na potvrdenieSpotrebiteľské podmienky; spravidla bez zmluvy podľa čl. 28
Hilbi IQ
PlatíZmluva o spracúvaní podľa čl. 28 pre každý trh
Kde sa údaje spracúvajú
Všeobecný asistent používaný mimo klinického systému
Na potvrdenieUrčené podmienkami dodávateľa; často mimo EÚ
Hilbi IQ
PlatíEÚ pre SK a CZ; India pre IN (zmluvne)
Použitie na trénovanie modelov
Všeobecný asistent používaný mimo klinického systému
Na potvrdenieRiadi sa podmienkami dodávateľa, ktoré sa môžu meniť
Hilbi IQ
PlatíZmluvne vylúčené
Transparentnosť voči pacientovi
Všeobecný asistent používaný mimo klinického systému
Na potvrdenieNič nezaznamenáva, že text vygeneroval stroj
Hilbi IQ
PlatíOznámenie podľa čl. 50 ods. 4 pripojené ku konceptu
Ľudský dohľad
Všeobecný asistent používaný mimo klinického systému
Na potvrdenieZvyk, nie brána
Hilbi IQ
PlatíPodpisová brána: § 21 SK, § 12 CZ
Záznam o tom, čo sa stalo
Všeobecný asistent používaný mimo klinického systému
Na potvrdenieMimo zdravotnej dokumentácie; ambulancia ho nevie auditovať
Hilbi IQ
PlatíNemenný audit log, ktorý si viete exportovať
Čo sa dostane do zdravotnej dokumentácie
Všeobecný asistent používaný mimo klinického systému
Na potvrdenieKopírovanie a vloženie, bez uvedenia pôvodu
Hilbi IQ
PlatíŠtruktúrované zdroje FHIR R4, podpísané
Platí: platí dnes a vieme to doložiť. Prebieha: je to rozpracované a má termín. Pripravenosť: pozícia je pripravená. Na potvrdenie: nie je to preukázané — uvádzame to tak a nikdy to nevydávame za uzavreté.
Čo zverejňujeme a čo nie
Dosť na posúdenie zodpovednosti. Málo na to, aby sa systém dal postaviť znova.
- Miesto spracovania údajovPlatí
- Uvedené pre každý trh a zakotvené v zmluve.
- Právne rolyPlatí
- Poskytovateľ zdravotnej starostlivosti ako prevádzkovateľ, Hilbi ako sprostredkovateľ podľa čl. 28 GDPR, pričom povinnosti nasadzujúceho subjektu podľa aktu o umelej inteligencii sú rozdelené písomne.
- Mechanizmus transparentnostiPlatí
- Strojovo generovaný klinický text sa oznamuje podľa čl. 50 ods. 4 aktu o umelej inteligencii a nesie meno lekára, ktorý ho podpísal.
- Mechanizmus dohľaduPlatí
- Podpisová brána pred zápisom do dokumentácie, nie odporúčanie na kontrolu.
- Určený účelPlatí
- Generuje štruktúrovaný koncept správy na kontrolu lekárom a navrhuje kódy výkonov. Nediagnostikuje a nerozhoduje.
- KlasifikáciaPlatí
- Posúdené podľa MDCG 2019-11 a čl. 6 ods. 1 aktu o umelej inteligencii na základe uvedeného určeného účelu, aby si posudzovateľ mohol posúdenie zopakovať.
- Audítorské dôkazyPlatí
- Čo bolo vygenerované, čo bolo upravené, kto podpísal a kedy. Nemenné a exportovateľné.
- Čo sa nezverejňujePlatí
- Smerovanie modelov, konštrukcia promptov, návrh vyhľadávania a skladba dodávateľov sa nezverejňujú. Zodpovednosť sa dá posúdiť aj bez nich a ich zverejnenie by odpoveď neurobilo overiteľnejšou.
- Nezávislé overeniePlatí
- Na základe dohody dostane posudzovateľ audítorskú správu, zhrnutie penetračného testu a zoznam subdodávateľov spracúvania.
Doplňujúce otázky
Nie je to automaticky nezákonné, ale presúva to povinnosti na ambulanciu: právny základ pre poskytnutie údajov, zmluvu o spracúvaní s tým, kto údaje prijíma, právny základ prenosu, ak údaje opustia EÚ, povinnosť transparentnosti voči pacientovi podľa aktu o umelej inteligencii a audit log, ktorý ambulancia nemá. Väčšina ambulancií túto medzeru objaví vtedy, keď ju majú preukázať.
Účinná anonymizácia vyníma spracúvanie spod GDPR, ale klinický opis prípadu je v praxi zriedkakedy anonymný: kombinácia zdravotného stavu, dátumov a lokality umožňuje opätovnú identifikáciu. Pseudonymizované údaje zostávajú osobnými údajmi a uvedené povinnosti naďalej platia.
Za zápis do zdravotnej dokumentácie zodpovedá lekár, ktorý ho podpíše, a práve preto je podpis brána, a nie odporúčanie. Úlohou IQ je vytvoriť koncept, ktorý sa dá skontrolovať, a zaznamenať, čo bolo vygenerované a čo sa zmenilo.
Posúdenie závisí od uvedeného určeného účelu. IQ generuje štruktúrovaný koncept správy na kontrolu lekárom a navrhuje kódy výkonov; nediagnostikuje a nerozhoduje. Toto vyhlásenie je zverejnené preto, aby si posudzovateľ mohol posúdenie podľa čl. 6 ods. 1 a MDCG 2019-11 zopakovať, a nemusel prijať záver iba na dôveru.
Pretože zodpovednosť sa dá posúdiť aj bez nej. Miesto spracovania údajov, právne roly, záznam o transparentnosti, brána dohľadu aj audit log sú zverejnené a všetky sa dajú overiť; návrh smerovania a vyhľadávania zverejnený nie je a žiadny posudzovateľ ho na rozhodnutie nepotrebuje.