HILBI IQ · JEDNA OTÁZKA, JEDNA ODPOVEĎ

Kto nesie zodpovednosť, keď sa AI dotkne prípadu pacienta?

  • Povinnosti nasadzujúceho
  • Podpisová brána
  • Architektúra neverejná

Podľa AI Act nesie povinnosti ten, kto nasadí systém AI do odborného procesu. Ak vložíte prípad do všeobecného asistenta, zodpovednosť má ambulancia. IQ prichádza opačne, ako sprostredkovateľ na základe písomnej zmluvy.

Kto nesie zodpovednosť, keď sa AI dotkne prípadu pacienta?

Povinnosti nasadzujúceho

nesie sprostredkovateľ, nie vy

Čl. 50 ods. 4

transparentnosť zaznamenaná pri každom výstupe

Dva spôsoby práce vedľa seba

Porovnávame dve situácie, nikdy nie konkrétne produkty.

  1. Kto je nasadzujúcim subjektom podľa aktu o umelej inteligencii

    Všeobecný asistent používaný mimo klinického systému

    Na potvrdenieAmbulancia, tým, že systém uvedie do používania

    Hilbi IQ

    PlatíRozdelené písomne, s Hilbi ako sprostredkovateľom

  2. Zmluvný vzťah k údajom

    Všeobecný asistent používaný mimo klinického systému

    Na potvrdenieSpotrebiteľské podmienky; spravidla bez zmluvy podľa čl. 28

    Hilbi IQ

    PlatíZmluva o spracúvaní podľa čl. 28 pre každý trh

  3. Kde sa údaje spracúvajú

    Všeobecný asistent používaný mimo klinického systému

    Na potvrdenieUrčené podmienkami dodávateľa; často mimo EÚ

    Hilbi IQ

    PlatíEÚ pre SK a CZ; India pre IN (zmluvne)

  4. Použitie na trénovanie modelov

    Všeobecný asistent používaný mimo klinického systému

    Na potvrdenieRiadi sa podmienkami dodávateľa, ktoré sa môžu meniť

    Hilbi IQ

    PlatíZmluvne vylúčené

  5. Transparentnosť voči pacientovi

    Všeobecný asistent používaný mimo klinického systému

    Na potvrdenieNič nezaznamenáva, že text vygeneroval stroj

    Hilbi IQ

    PlatíOznámenie podľa čl. 50 ods. 4 pripojené ku konceptu

  6. Ľudský dohľad

    Všeobecný asistent používaný mimo klinického systému

    Na potvrdenieZvyk, nie brána

    Hilbi IQ

    PlatíPodpisová brána: § 21 SK, § 12 CZ

  7. Záznam o tom, čo sa stalo

    Všeobecný asistent používaný mimo klinického systému

    Na potvrdenieMimo zdravotnej dokumentácie; ambulancia ho nevie auditovať

    Hilbi IQ

    PlatíNemenný audit log, ktorý si viete exportovať

  8. Čo sa dostane do zdravotnej dokumentácie

    Všeobecný asistent používaný mimo klinického systému

    Na potvrdenieKopírovanie a vloženie, bez uvedenia pôvodu

    Hilbi IQ

    PlatíŠtruktúrované zdroje FHIR R4, podpísané

Legenda stavovPlatíPrebiehaPripravenosťNa potvrdenie

Platí: platí dnes a vieme to doložiť. Prebieha: je to rozpracované a má termín. Pripravenosť: pozícia je pripravená. Na potvrdenie: nie je to preukázané — uvádzame to tak a nikdy to nevydávame za uzavreté.

Čo zverejňujeme a čo nie

Dosť na posúdenie zodpovednosti. Málo na to, aby sa systém dal postaviť znova.

Miesto spracovania údajovPlatí
Uvedené pre každý trh a zakotvené v zmluve.
Právne rolyPlatí
Poskytovateľ zdravotnej starostlivosti ako prevádzkovateľ, Hilbi ako sprostredkovateľ podľa čl. 28 GDPR, pričom povinnosti nasadzujúceho subjektu podľa aktu o umelej inteligencii sú rozdelené písomne.
Mechanizmus transparentnostiPlatí
Strojovo generovaný klinický text sa oznamuje podľa čl. 50 ods. 4 aktu o umelej inteligencii a nesie meno lekára, ktorý ho podpísal.
Mechanizmus dohľaduPlatí
Podpisová brána pred zápisom do dokumentácie, nie odporúčanie na kontrolu.
Určený účelPlatí
Generuje štruktúrovaný koncept správy na kontrolu lekárom a navrhuje kódy výkonov. Nediagnostikuje a nerozhoduje.
KlasifikáciaPlatí
Posúdené podľa MDCG 2019-11 a čl. 6 ods. 1 aktu o umelej inteligencii na základe uvedeného určeného účelu, aby si posudzovateľ mohol posúdenie zopakovať.
Audítorské dôkazyPlatí
Čo bolo vygenerované, čo bolo upravené, kto podpísal a kedy. Nemenné a exportovateľné.
Čo sa nezverejňujePlatí
Smerovanie modelov, konštrukcia promptov, návrh vyhľadávania a skladba dodávateľov sa nezverejňujú. Zodpovednosť sa dá posúdiť aj bez nich a ich zverejnenie by odpoveď neurobilo overiteľnejšou.
Nezávislé overeniePlatí
Na základe dohody dostane posudzovateľ audítorskú správu, zhrnutie penetračného testu a zoznam subdodávateľov spracúvania.

Doplňujúce otázky

  • Nie je to automaticky nezákonné, ale presúva to povinnosti na ambulanciu: právny základ pre poskytnutie údajov, zmluvu o spracúvaní s tým, kto údaje prijíma, právny základ prenosu, ak údaje opustia EÚ, povinnosť transparentnosti voči pacientovi podľa aktu o umelej inteligencii a audit log, ktorý ambulancia nemá. Väčšina ambulancií túto medzeru objaví vtedy, keď ju majú preukázať.

Čítate to ako súčasť užšieho výberu?

Detail spracovania, právny základ a pravidlá uchovávania nájdete na stránke o údajoch IQ. Postoj platformy je na stránke o bezpečnosti.

Kde sa spracúvajú vaše údaje