Opis
Prispevek obravnava izzive umetne inteligence (UI) v pravosodju, zlasti kazenskem, in izhaja iz predpostavke, da je prva naloga pravilna klasifikacija sistema. Akt o UI (Uredba (EU) 2024/1689) je predpis o varnosti proizvodov z dodanim vidikom temeljnih pravic in temelji na pristopu glede na tveganje, pri čemer obveznosti razdeli med ponudnike, uvoznike, distributerje in uvajalce. Sistemi za ocenjevanje dokazov, profiliranje in podporo sodni presoji spadajo med visokotvegane, vendar ostajajo meje med prepovedanimi praksami, izjemami in dopustnimi sistemi nejasne, pripravljalne naloge pa so izvzete; to vrzel deloma zapolnjujejo Okvirna konvencija Sveta Evrope ter metodologija in model HUDERIA, ki obveznosti vežeta na poseg v temeljne pravice. Ključna komponenta je varstvo osebnih podatkov, saj anonimnost modela ni samoumevna, prvotna nezakonitost zbiranja pa se lahko prenese na uvajalca, ob dodatnih tveganjih prenosov v tretje države, kar terja anonimizacijo gradiva pred vnosom in uporabo sistemov s hrambo v EU. Pravna odgovornost ostaja urejena v okviru nacionalnih institutov, saj Akt o UI o njej molči in je bila predlagana direktiva umaknjena; vrzel deloma pokriva Direktiva (EU) 2024/2853, v kazenskem pravu pa se kot najustreznejša kažeta malomarnost in dolžna skrbnost ter nova ogrozitvena kazniva dejanja. Na dokaznem področju daje 86. člen Akta o UI le delni odgovor z zahtevo po obrazložitvi, zato se v prispevku podaja minimalni standard kontradiktornosti, izpeljan iz 6. člena EKČP, in sicer skozi zabeležbo uporabe, smiselno pojasnilo, dostop obrambe do dnevnikov, ozko razlago izjem in preverljivost odločilnega dokaza. Tveganja so tako institucionalna in ne tehnološka, UI pa mora ostati dodana inteligenca in ne nadinteligenca.