163 farm vestn 2024; 75 S TR O K O V N I Č LA N K I UMETNA INTELIGENCA V FARMACIJI – ODKRIVANJE NOVIH ZDRAVIL IN VELIKI JEZIKOVNI MODELI ARTIFICIAL INTELLIGENCE IN PHARMACY – DRUG DISCOVERY AND LARGE LANGUAGE MODELS AVTORJA / AUTHORS: Ana Kukenberger, dipl. bioteh. dr. Tilen Kranjc, mag. farm. TK Analitika d. o. o., Tehnološki park 19, 1000 Ljubljana NASLOV ZA DOPISOVANJE / CORRESPONDENCE: E-mail: tilen@tkanalytics.bio POVZETEK Umetna inteligenca (UI) in strojno učenje prinašata preboje na področju farmacije in medicine. UI upo- rabljamo za napovedovanje bolezni, interpretacijo slik, razvoj novih zdravil in optimizacijo terapij. V medicini UI uporabljamo za zgodnje odkrivanje bo- lezni, kot so pljučni rak ali srčne bolezni. V farmaciji UI pomaga pri odkrivanju novih učinkovin, optimi- zaciji proizvodnih procesov in izbiri kandidatov za klinična testiranja. Veliki jezikovni modeli, kot je ChatGPT, omogočajo napredno komunikacijo v le- karnah, izobraževanje o zdravilih ter analizo in uprav - ljanje podatkov. Kljub številnim prednostim pa je pomembno upoštevati izzive, kot so etična raba podatkov in varnost, ter se osredotočiti na zagotav - ljanje ustreznega izobraževanja in sledenje vplivu UI na pacientovo dobrobit. KLJUČNE BESEDE: fenotipsko rešetanje, odkrivanje novih zdravil, umetna inteligenca, veliki jezikovni modeli ABSTRACT Artificial intelligence (AI) and machine learning are bringing breakthroughs in pharmacy and medicine. AI is used for disease prediction, image interpreta- tion, drug development, and therapy optimization. In medicine, AI is employed for early disease de- tection, such as lung cancer or heart diseases. In pharmacy, AI aids in discovering new drug com- pounds, optimizing manufacturing processes, and selecting candidates for clinical trials. Large lan- guage models, such as ChatGPT, enable advanced communication in pharmacies, medication educa- tion, and data analysis and management. Despite numerous advantages, it is crucial to address chal- lenges such as ethical data usage and security, and focus on providing adequate education on and monitoring the impact of AI on patient well-being. KEY WORDS: artificial intelligence, drug discovery, large language models, phenotypic screening 1Uvod Umetno inteligenco (UI) opredeljujemo kot sistem računal- niških procesov, ki so sposobni izvajati naloge, za katere bi sicer potrebovali človeško inteligenco. Sposobnost UI, da premaga nekatere računsko zahtevne, intelektualne in morda celo ustvarjalne omejitve ljudi, odpira nova področja uporabe v izobraževanju, oglaševanju, medicini, financah 1.1 STROJNO UČENJE UI, kot jo poznamo danes, temelji na strojnem učenju. Strojno učenje lahko opredelimo kot področje, ki računal- nikom omogoča, da izvaja naloge, brez da bi celoten pro- ces eksplicitno zapisali v kodi. To je mogoče zaradi velike količine podatkov, ki jih analizira, prepozna vzorce med podatki in je sposoben na podlagi teh podatkov sprejemati odločitve. Strojno učenje lahko v grobem razdelimo v tri in proizvodnji, kar vpliva na produktivnost in uspešnost. Zaradi širokega spektra uporabnosti se lahko z njo srečamo praktično na vsakem koraku – v pametnih domovih, med pametnim plačevanjem, v virtualnih asistentih, kot so Siri, Alexa in Googlov asistent, in še na številnih drugih po- dročjih. Koncept UI se je pojavil že v antičnih časih, razrast pa je UI doživela v zadnjih 10 letih, predvsem zaradi hitrega razvoja visokozmogljive strojne opreme, ki poganja algo- ritme UI (slika 1). 164 farm vestn 2024; 75 U M E TN A IN TE LI G E N C A V F A R M A C IJ I – O D K R IV A N JE N O V IH Z D R AV IL IN V E LI K I J E ZI K O V N I M O D E LI Slika 1: Prikaz tehnoloških nivojev v umetni inteligenci. Najnižji nivo »tehnologije« nam omogoča zajemanje podatkov in infrastrukturo za uporabo umetne inteligence (UI). »Metode« so matematični postopki, ki jih izvajamo na »tehnologiji«. S pomočjo metod »strojnega učenja« pa na različne načine optimiziramo postopke v »metodah«, da dosežemo ustrezne cilje oz. da se algoritem nauči prepoznavati ustrezne vzorce v podatkih. Z uporabo različnih »metod« in postopkov »strojnega učenja« pa lahko omogočimo »umetno inteligenco«, kjer algoritem pridobi znanje za reševanje konkretnega (in ponavadi zelo ozko določenega) problema. Figure 1: Technological layers in artificial intelligence. The lowest level, ‘Technologies’, enables the capture of data and provides infrastructure for the use of artificial intelligence (AI). ‘Methods’ are mathematical operations implemented on ‘Technologies’. With the help of ‘Machine Learning’ methods, the processes in ‘Methods’ are optimized to achieve appropriate goals, i.e., to enable the algorithm to learn to recognize relevant patterns in the data. By using various ‘Methods’ and ‘Machine Learning’ procedures, ‘Artificial Intelligence’ is enabled, where the algorithm acquires knowledge to solve a specific (and usually a very narrowly defined) problem. 165 farm vestn 2024; 75 S TR O K O V N I Č LA N K I skupine: nadzorovano učenje, nenadzorovano učenje in vzpodbujano učenje. Cilj nadzorovanega učenja je na podlagi označenih vhod- nih in izhodnih podatkov pridobiti funkcijo, ki nam omo- goča, da lahko na podlagi novih vhodnih podatkov do- bimo napovedane izhodne podatke. Kot primer lahko navedemo identifikacijo patoloških sprememb v vzorcih tkiv. Vhodni podatki so v tem primeru mikroskopske slike vzorcev tkiv, izhodni podatki pa oznake za vsak vzorec, ki jih določi patolog. Algoritem se tako nauči prepoznati iz slike, ali je v vzorcu prisotna patološka sprememba ali ne. Nenadzorovano strojno učenje za razliko od nadzorova- nega uporablja podatke, ki nimajo oznak. Model poskuša podatke raziskati in v njih najti neko strukturo. Te pristope večinoma uporabljamo v raziskovalne namene, saj so rezultati manj predvidljivi in zahtevnejši za interpretacijo. Woodruff in sod. (1) so s takim pristopom odkrili nov podtip astme na podlagi genomskih podatkov pacien- tov. Vzpodbujano učenje pogosto uporabljamo v robotiki, igrah in navigaciji. Model pri učenju z okrepitvijo s poskusi in na- pakami ugotovi, katera dejanja prinašajo največje nagrade. Zelo znan primer je šah ali igra go, kjer se je algoritem naučil strategije z igranjem s samim seboj, ter tako pre- magal najboljše igralce na svetu. Poleg tega je tudi izumil nove učinkovitejše poteze (2). Strojno učenje dandanes temelji na umetnih nevronskih mrežah, ki so serija algoritmov, ki se zgledujejo po strukturi in delovanju nevronskih mrež v človeških možganih. Se- stavljene so iz medsebojno povezanih vozlišč, nevronov, ki so organizirani v več različnih nivojev. Informacije se pre- takajo skozi omrežje. Nevronske mreže so se sposobne učiti oziroma naučiti vhodne podatke povezovati z izhod- nimi podatki. Naučeno znanje nevronska mreža shranjuje v povezavah (sinapsah), kar lahko razumemo tudi kot uteži med nevroni. V procesu učenja se uteži v celotni nevronski mreži spreminjajo s težnjo, da bi se doseglo optimalno stanje uteži v celotni nevronski mreži. Nevronska mreža je v takšnem stanju sposobna oziroma ima primerno znanje za posploševanje (t. i. generalizacijo), kar pomeni, da je sposobna povezati neznani vhodni vzorec s pravilnim ali želenim izhodnim vzorcem. 1.2 GLOBOKO UČENJE Hiter razvoj strojne opreme v zadnjih 20 letih je pospešil tudi razvoj strojnega učenja. Nevronske mreže so tako po- stajale večje, kompleksnejše in večplastne. Za take mreže se je uveljavil izraz globoko učenje. Globoko učenje je pri- vedlo do velikega napredka pri reševanju problemov, ki jih pred tem dolga leta ni bilo mogoče rešiti. Izkazalo se je kot zelo dobro pri odkrivanju zapletenih struktur v visokodi- menzionalnih podatkih. To omogoča uporabo na številnih področjih, tudi v medicini in farmaciji. Poleg izboljšanja pre- poznavanja slik in govora je globoko učenje nakazalo dobre obete tudi na področjih, kot so napovedovanje aktivnosti zdravilnih učinkovin na podlagi strukture (3), analiziranje podatkov pospeševalnikov delcev (4), rekonstrukcija struk- tur nevronov v možganih za raziskovanje delovanja mo- žganov (5), napovedovanje učinkov mutacij v nekodirajo- čem delu genoma na izražanje genov (6) in potek bolezni (7). 1.3 PRIMERI UPORABE UMETNE INTELIGENCE V ZDRAVSTVU UI v zdravstvu največ uporabljamo v radiologiji in pri in- terpretaciji slikovne diagnostike (8). Tukaj opisujemo samo nekaj pomembnejših primerov uporabe v praksi. Upora- bimo jo lahko med drugim pri zaznavanju znotrajmo- žganskih krvavitev na podlagi slik CT glave (9), kot pomoč pri interpretaciji mamografij (10), za oceno stanja srca na podlagi ultrazvočne preiskave (11), pri odkrivanju pljuč nega raka na podlagi nizkoodmernega slikanja CT (low-dose computed tomography, LDCT) (12), za oceno triletnega tveganja za pojav pljučnega raka na podlagi odčitkov slik CT in drugih kliničnih podatkov (13), pri dia- gnosticiranju različnih tipov raka, pogosto na osnovi slik celotnih preparatov (14) ter za ugotavljanje malignih spre- memb na debelem črevesu na podlagi kolonoskopije (15). UI pa v zdravstvu ne uporabljamo zgolj za interpretacijo slik, temveč jo lahko uporabimo na številnih področjih, kjer generiramo večje količine podatkov. Uporabljamo jo lahko med drugim za določanje primernega odmerka inzulina (na podlagi nivoja glukoze v krvi) pri bolnikih s sladkorno boleznijo tipa I, ki imajo sicer težave z doseganjem glike- mičnih ciljev (16). Uporabljamo jo tudi kot sistem zgodnjega opozarjanja za napovedovanje arterijske hipotenzije med operacijo (malo pred njenim pojavom) na podlagi podatkov pulznega vala (arterial waveform) (17). UI lahko uporabimo tudi za napovedovanje 3D strukture proteinov na podlagi aminokislinskega zaporedja (18), za zaznavanje malignih sprememb in odkrivanje primarne lokacije tumorja na pod- lagi analize DNA (19) ter za odkrivanje odpornosti patoge- nov proti antibiotikom na podlagi mikrobnih transkriptomov (20). 2 Uporaba UMetne inteliGence v farMaciji UI je močno posegla tudi na področje farmacije (pregled- nica 1). Obeta namreč velik potencial in mnogo prebojev pri odkrivanju novih zdravil, pa tudi tekom celotnega po- stopka razvoja zdravila. Priča smo številnim inovacijam in zagonskim podjetjem, ki se ukvarjajo z odkrivanjem novih zdravil s pomočjo UI. Mnogi imajo že kandidatne spojine in nekatere pričenjajo vrednotiti klinično. Ravno pri razvoju novih zdravil nam bo UI lahko pomagala pri odkrivanju prej nepoznanih spojin, tarč in mehanizmov, kar bo vodilo v mnoge inovativne pristope k zdravljenju. UI je prisotna tudi pri kasnejših fazah razvoja, kjer ne opravlja tako ključne funkcije kot pri odkrivanju, omogoča pa hitrejši razvoj in manjšo obremenitev za paciente. 2.1 ODKRIVANJE IN RAZVOJ NOVIH ZDRAVIL Posebej dobro razvita in popularna metoda v akademskih raziskavah je virtualno rešetanje (virtual screening), kjer lahko na podlagi 3D strukture tarče in knjižnice spojin s pomočjo računalniškega modeliranja ugotavljamo, kako se spojine vežejo na tarčo (21). Kljub velikim obetom te metode v praksi preko 50 % novih inovativnih zdravil (first- in-class) odkrijemo s pomočjo fenotipskega rešetanja velikih knjižnic, preostale pa na podlagi znane tarče ali druge me- tode (22). Pri fenotipskem rešetanju celice tretiramo s spo- jinami iz knjižnice, potem pa več celičnih organelov obar- vamo s specifičnimi fluorescenčnimi barvili ter posnamemo slike z uporabo avtomatiziranih mikroskopov. Z uporabo naprednih metod analize slik in UI lahko opišemo fenotipe celic s številkami ter tako izmerimo razlike med fenotipi, npr. netretirane celice ali celice, tretirane z neko spojino - velika razlika pomeni močnejši učinek. Prav tako lahko pri- merjamo fenotipe novih spojin z že znanimi spojinami ter tako ugotovimo njihove lastnosti, kot so mehanizem delo- vanja in toksičnost (23). V zadnjem času UI uporabljamo tudi za napovedovanje novih učinkovin na podlagi želenih lastnosti učinkovine. Ta način uporabe imenujemo generativna UI, saj algoritem sam ustvari spojino glede na parametre, ki jih določi upo- rabnik. Vhodni podatki so običajno lastnosti, pogosto upo- rabljamo fenotipske značilke, kot je npr. protimikrobna aktivnost ali pa kar neposredne značilke fenotipskega re- šetanja (24). Izhodni podatki so običajno strukture molekul, za učenje pa uporabljamo ogromne zbirke spojin in njihovih lastnosti, pridobljenih na podlagi eksperimentov. Primer podjetja, ki uporablja UI, je Exscientia, kjer s pomočjo UI iščejo primerne tarče, načrtujejo spojine, eksperimente in tudi klinične raziskave. Podjetje trenutno dve spojini vrednoti klinično. UI lahko uporabimo tudi kot podporo pri načrtovanju sin- teznih poti (25), določanju 3D strukture tarč (18), optimizaciji spojin vodnic (26). 166 U M E TN A IN TE LI G E N C A V F A R M A C IJ I – O D K R IV A N JE N O V IH Z D R AV IL IN V E LI K I J E ZI K O V N I M O D E LI farm vestn 2024; 75 Preglednica 1: Primeri uporabe različnih tehnik UI v farmaciji. Table 1: Examples of AI and underlying technologies in pharmacy. Tehnologija Uporaba v farmaciji Virtualno rešetanje odkrivanje novih spojin in tarč, proučevanje vezavnih mest Fenotipsko rešetanje in analiza slik odkrivanje novih spojin in tarč, napovedovanje mehanizma delovanja, toksičnosti, bioaktivnost Generativna UI za napovedovanje novih spojin odkrivanje novih spojin in širitev nabora spojin izven znanih okvirjev Analiza medicinskih slik odkrivanje novih tarč, spremljanje farmakokinetike in farmakodinamike spojine Druge uporabe nevronskih mrež načrtovanje sintez, 3D struktur proteinov, optimizacija spojin vodnic, razvoj proizvodnih postopkov, izbira kandidatov za klinične študije, diagnostika Veliki jezikovni modeli izluščenje informacij iz znanstvenih in strokovnih člankov, analiza interakcij med zdravili, dajanje strokovnih nasvetov v lekarni, analiza receptov, pomoč pri učenju 167 farm vestn 2024; 75 S TR O K O V N I Č LA N K I V pomoč je tudi v kasnejših fazah razvoja, saj jo lahko uporabljamo, kjerkoli je potreba optimizacija parametrov, kot je npr. razvoj proizvodnega procesa, kjer optimiziramo parametre s ciljem doseganja ustreznega produkta (npr. glikozilacija bioloških učinkovin) ali pa višjih izkoristkov (npr. optimizacija sinteznega procesa) (27). Velik potencial kaže tudi pri izvajanju kliničnih raziskav. Konkretno, s pomočjo UI lahko lažje in bolje izberemo kandidate za klinično razis - kavo (28). Na ta način želimo vključiti tiste kandidate, ki jim bo zdravilo lahko najbolj pomagalo. Z nišnim pristopom k zdravljenju bomo lahko v prihodnosti realizirali potencial personalizirane medicine. Z natančno in nišno stratifikacijo pacientov razvijamo optimalne terapije za zelo natančno opredeljene podskupine bolezni. Za doseganje boljše stra- tifikacije potrebujemo tudi napredne diagnostične po- stopke. Tudi tu je UI ključnega pomena, tako v slikovni diagnostiki kot tudi pri interpretaciji ostalih rezultatov, kot so genomske raziskave in določanje mnogih drugih biološ - kih označevalcev iz krvi. UI v kliničnem vrednotenju lahko tudi optimizira načrte preizkušanj, napoveduje rezultate kli- nične študije pred zaključkom ter pomaga pri interpretaciji rezultatov. 2.2 UPORABA UMETNE INTELIGENCE V LEKARNIŠTVU – VELIKI JEZIKOVNI MODELI Pri delu v lekarni primarno sodelujemo s pacienti, zato je ključna kakovostna, zanesljiva in učinkovita komunikacija. V zadnjem času si lahko obetamo veliko orodij UI tudi za uporabo v lekarni, bodisi za delo s pacienti ali pri vodenju lekarne. Zasluga za to gre preboju velikih jezikovnih mo- delov, ki so v letu 2023 približali UI vsakomur in obetajo korenite spremembe na praktično vseh področjih. Najbolj znan primer velikega jezikovnega modela je ChatGPT. Veliki jezikovni modeli predstavljajo revoluciona- ren napredek na področju UI, ki temelji na obdelavi jezika. Ti modeli, ki temeljijo na globokem učenju, so sposobni avtomatično ustvarjati besedilo, kot bi ga ustvaril človek, prevajati med jeziki, odgovarjati na vprašanja in opravljati druge naloge, ki zahtevajo razumevanje in generiranje člo- veškega jezika. Med najbolj znanimi velikimi jezikovnimi modeli sta GPT (Generative Pre-trained Transformer) in BERT (Bidirectional Encoder Representations from Trans- formers), ki sta ju razvili organizaciji OpenAI in Google. Te modele so uspešno uporabili v številnih aplikacijah, kot so samodejno pisanje besedil, avtomatsko prevajanje, iskanje informacij in izboljšanje interakcij z uporabniki. Veliki jezikovni modeli so naučeni na ogromnih korpusih besedil z uporabo tehnike globokega strojnega učenja in so nato prilagojeni specifičnim nalogam s postopkom pri- lagajanja nevronske mreže. Značilne so ogromne nevronske mreže, ki jih je praktično nemogoče izvajati na domačih računalnikih, zato jih praviloma izvajajo v oblaku. Značilna je ogromna poraba električne energije, kar 17.000-krat višja kot tipično gospodinjstvo (29). Veliko je tudi pomisle- kov o etični rabi, varovanju podatkov in morebitnih posle- dicah, ki jih lahko imajo na družbo in gospodarstvo (30). Veliki jezikovni modeli lahko ponujajo več koristnih aplikacij v lekarništvu, kjer izkoriščamo njegove sposobnosti razu- mevanja naravnega jezika in generiranja besedil. Razvijajo tudi orodja, ki nam bodo v prihodnosti lahko posredovala informacije o uporabi, farmakologiji, neželenih učinkih, in- terakcijah, odmerjanju, idr. na podlagi recepta ali prepro- stega vprašanja algoritmu. Tako orodje bo postalo nepo- grešljiv partner farmacevta, saj bo prepoznal govor pacienta, razumel opis simptomov ali zahtevo ter predlagal ustrezen nasvet ali proizvod. Taka rešitev bo uporabna tudi za širšo ponudbo v lekarni, kot so prehranska dopolnila in medicinski pripomočki. Ta orodja ne bodo nujno namenjena le farmacevtom, tem- več jih bodo lahko uporabljali tudi pacienti. Algoritem bo lahko namreč zaznal določena vprašanja, ki bi zahtevala posredovanje farmacevta in jih posredoval farmacevtu v obravnavo. Tak algoritem bo sam bral in razumel strokovne in znanstvene članke ter si sproti posodabljal svoje znanje, zato bo lahko služil tudi kot sredstvo za izobraževanje le- karniških delavcev. Več raziskav je preučevalo sposobnost in možnosti upo- rabe jezikovnih modelov v farmacevtski praksi. Na področju klinične farmacije je model ChatGPT dobro svetoval glede uporabe zdravil, slabo pa je analiziral več receptov hkrati, podajal informacije o neželenih učinkih ali določal njihove vzroke ter izobraževal paciente (31). Avtorji ne navajajo, kateri model so uporabljali, glede na informacije v članku pa so verjetno uporabljali starejšo različico modela GPT-3. V drugi raziskavi, kjer so uporabljali novejši model GPT-4, pa je model pravilno rešil vseh 39 primerov iz prakse klini- čne farmacije (32). Zanimiva je tudi raziskava, kjer so modeli GPT-4, GPT-3 in Bard reševali izpit North American Phar- macist Licensure Examination (NAPLEX), ki je namenjen pridobivanju licence za opravljanje dela farmacevta v Se- verni Ameriki (33). GPT-4 je edini model, ki je uspešno rešil izpit z 78,8 % točk in bi lahko dobil licenco (okvir 1), med- tem ko je Googlov Bard prejel 67,8 % in GPT-3 51,1 %. Še slabše so se modeli obnesli pri odgovarjanju na vpra- šanja z več možnimi odgovori. Tam je GPT-4 pravilno od- 168 farm vestn 2024; 75 U M E TN A IN TE LI G E N C A V F A R M A C IJ I – O D K R IV A N JE N O V IH Z D R AV IL IN V E LI K I J E ZI K O V N I M O D E LI govoril na 53,6 % vprašanj, ostala modela pa sta odgovorila pravilno na zgolj petino takih vprašanj. Zanesljivost modelov je zato zelo odvisna od virov informacij in splošne sposob- nosti modela. Glede na bliskovit napredek je verjetno le vprašanje časa, kdaj bo nasvet jezikovnega modela bolj zanesljiv od izkušenega farmacevta. Poleg tega lahko s pomočjo UI na podlagi podatkov izdanih zdravil in farmakovigilance odkrivamo nove interakcije med zdravili (34) ali pa najdemo vzorce izdajanja, ki bi lahko vodili v zlorabo ali predoziranje zdravil (35). Zelo nam lahko po- maga tudi pri vodenju lekarne, kot je npr. upravljanje zalog (36) in napovedovanje potrebe po zdravilih glede na različne okoljske podatke, ter načrtovanje kadrovskih potreb (37). 3 Sklep UI hitro pridobiva status tehnološke revolucije in s svet lobno hitrostjo prihaja v naša vsakdanja življenja. Pričakujemo lahko, da bo spremenila praktično vsa področja, rav no me- dicina in farmacija pa si lahko največ obetata od nje. Po- manjkanje zdravnikov in farmacevtov je svetovni problem – do leta 2030 bo na svetu skoraj 10 milijonov premalo zdrav- stvenih delavcev (38). Ravno zato nujno potrebujemo orodja, ki bodo razbremenila strokovnjake in jim omogočile bolj Okvir 1: Primer vprašanja iz izpita za pridobitev farmacevtske licence v Severni Ameriki Modelu GPT-4 smo postavili vprašanje v slovenskem jeziku. Vprašanje za GPT-4: MH je 63-letna ženska s hipertenzijo, kronično ledvično boleznijo in degenerativno boleznijo sklepov. Visoka je 160 cm, tehta 60 kg in ima 2,5 mg/dL serumskega kreatinina pri sprejemu na operacijo zamenjave kolka. Zdravnik predpiše enoksaparin 30 mg subkutano na 12 ur za preprečevanje venske tromboze, ki naj se začne po operaciji. Katero od naslednjih dejanj je najbolj primerno za farmacevta? A. Izda enoksaparin, kot je napisano. B. Obrne se na zdravnika in priporoči enoksaparin 30 mg subkutano vsakih 24 ur. C. Obrne se na zdravnika in priporoči enoksaparin 30 mg intravensko vsakih 12 ur. D. Obrne se na zdravnika in priporoči enoksaparin 40 mg subkutano vsakih 12 ur. E. Obrne se na zdravnika in priporoči enoksaparin 60 mg subkutano vsakih 24 ur. Odgovor modela GPT-4: Za MH, ki ima kronično ledvično bolezen, kot je razvidno iz njene visoke vrednosti serumskega kreatinina (2,5 mg/dL), je potrebna prilagoditev odmerka enoksaparina. Enoksaparin se izloča predvsem preko ledvic, zato je pri bolnikih z okvaro ledvic tveganje za kopičenje zdravila in posledično povečano tveganje za krvavitve večje. Priporočena praksa za bolnike z zmerno do hudo ledvično okvaro, ki prejemajo enoksaparin za profilakso venske tromboze, je zmanjšanje odmerka ali sprememba frekvence dajanja. Standardni odmerek za preprečevanje venske tromboze pri bolnikih brez ledvične okvare je običajno 40 mg enkrat dnevno subkutano ali 30 mg dvakrat dnevno subkutano. Vendar je pri bolnikih z znatno zmanjšano ledvično funkcijo bolj varno zmanjšati pogostost odmerjanja. Pravilni odgovor bi torej bil: B. Obrne se na zdravnika in priporoči enoksaparin 30 mg subkutano vsakih 24 ur. Ta pristop zmanjša tveganje za krvavitve, hkrati pa še vedno nudi zaščito pred vensko trombozo. Možnost C ni pri- merna, ker se enoksaparin običajno ne daje intravensko za profilakso tromboze. Možnosti D in E povečujejo odmerek, kar ni varno za bolnika z okvaro ledvic. Možnost A ne upošteva MH-jeve ledvične okvare in bi lahko povečala tveganje za neželene učinke. 169 farm vestn 2024; 75 S TR O K O V N I Č LA N K I učinkovito delo. Te spremembe se že dogajajo – večina zdravstvenih ustanov v razvitem svetu že uporablja UI v svojih procesih in skoraj polovica uporabnikov že uporablja UI v slikovni diagnostiki (39). Seveda pa spremembe prina- šajo tudi izzive, zato je WHO izdala smernice za vpeljavo UI v zdravstvo (40). Najbrž nas bo večina tekom kariere tako ali drugače uporabljala UI pri poklicnem delu. Lahko rečemo, da je duh ušel iz stekleničke, zato je najbolj prava pot iz- obraževanje o novih tehnologijah in pa neprestano sprem- ljanje (seveda z ustrezno metodologijo), kakšen je učinek UI in ostalih novih tehnologij na dobrobit pacientov. 4literatUra 1. Woodruff PG, Modrek B, Choy DF, Jia G, Abbas AR, Ellwanger A, et al. T-helper Type 2–driven Inflammation Defines Major Subphenotypes of Asthma. Am J Respir Crit Care Med. 2009 Sep 1;180(5):388–95. 2. Silver D, Schrittwieser J, Simonyan K, Antonoglou I, Huang A, Guez A, et al. Mastering the game of Go without human knowledge. Nature. 2017 Oct;550(7676):354–9. 3. Ma J, Sheridan RP, Liaw A, Dahl GE, Svetnik V. Deep Neural Nets as a Method for Quantitative Structure–Activity Relationships. J Chem Inf Model. 2015 Feb 23;55(2):263–74. 4. Ciodaro T, Deva D, Seixas JM de, Damazio D. Online particle detection with Neural Networks based on topological calorimetry information. J Phys Conf Ser. 2012 Jun;368(1):012030. 5. Helmstaedter M, Briggman KL, Turaga SC, Jain V, Seung HS, Denk W. Connectomic reconstruction of the inner plexiform layer in the mouse retina. Nature. 2013 Aug;500(7461):168–74. 6. Leung MKK, Xiong HY, Lee LJ, Frey BJ. Deep learning of the tissue-regulated splicing code. Bioinformatics. 2014 Jun 15;30(12):i121–9. 7. Xiong HY, Alipanahi B, Lee LJ, Bretschneider H, Merico D, Yuen RKC, et al. The human splicing code reveals new insights into the genetic determinants of disease. Science. 2015 Jan 9;347(6218):1254806. 8. Batková A, Kos M. Artificial intelligence in healthcare and pharmacy. Farm Vestn. 2021 Mar;72(1):38–43. 9. Wismüller A, Stockmaster L. A prospective randomized clinical trial for measuring radiology study reporting time on Artificial Intelligence-based detection of intracranial hemorrhage in emergent care head CT. In: Gimi BS, Krol A, editors. Medical Imaging 2020: Biomedical Applications in Molecular, Structural, and Functional Imaging [Internet]. Houston, United States: SPIE; 2020 [cited 2024 Mar 12]. p. 23. Available from: https://www.spiedigitallibrary.org/conference-proceedings-of- spie/11317/2552400/A-prospective-randomized-clinical-trial-for -measuring-radiology-study-reporting/10.1117/12.2552400.full 10. McKinney SM, Sieniek M, Godbole V, Godwin J, Antropova N, Ashrafian H, et al. International evaluation of an AI system for breast cancer screening. Nature. 2020 Jan;577(7788):89–94. 11. Ghorbani A, Ouyang D, Abid A, He B, Chen JH, Harrington RA, et al. Deep learning interpretation of echocardiograms. Npj Digit Med. 2020 Jan 24;3(1):1–10. 12. Ardila D, Kiraly AP, Bharadwaj S, Choi B, Reicher JJ, Peng L, et al. End-to-end lung cancer screening with three-dimensional deep learning on low-dose chest computed tomography. Nat Med. 2019 Jun;25(6):954–61. 13. Huang P, Lin CT, Li Y, Tammemagi MC, Brock MV, Atkar-Khattra S, et al. Prediction of lung cancer risk at follow-up screening with low-dose CT: a training and validation study of a deep learning method. Lancet Digit Health. 2019 Nov 1;1(7):e353– 62. 14. Fu Y, Jung AW, Torne RV, Gonzalez S, Vöhringer H, Shmatko A, et al. Pan-cancer computational histopathology reveals mutations, tumor composition and prognosis. Nat Cancer. 2020 Aug;1(8):800–10. 15. Zhou D, Tian F, Tian X, Sun L, Huang X, Zhao F, et al. Diagnostic evaluation of a deep learning model for optical diagnosis of colorectal cancer. Nat Commun. 2020 Jun 11;11(1):2961. 16. Nimri R, Battelino T, Laffel LM, Slover RH, Schatz D, Weinzimer SA, et al. Insulin dose optimization using an automated artificial intelligence-based decision support system in youths with type 1 diabetes. Nat Med. 2020 Sep;26(9):1380–4. 17. Wijnberge M, Geerts BF, Hol L, Lemmers N, Mulder MP, Berge P, et al. Effect of a Machine Learning–Derived Early Warning System for Intraoperative Hypotension vs Standard Care on Depth and Duration of Intraoperative Hypotension During Elective Noncardiac Surgery: The HYPE Randomized Clinical Trial. JAMA. 2020 Mar 17;323(11):1052. 18. Senior AW, Evans R, Jumper J, Kirkpatrick J, Sifre L, Green T, et al. Improved protein structure prediction using potentials from deep learning. Nature. 2020 Jan;577(7792):706–10. 19. Chabon JJ, Hamilton EG, Kurtz DM, Esfahani MS, Moding EJ, Stehr H, et al. Integrating genomic features for non-invasive ALI STE VEDELI? • Umetna inteligenca (UI) že danes izvaja marsikatero opravilo bolj natančno kot človek. Pri interpretaciji diagnostičnega slikanja, kot sta npr. rentgen ali CT, napravi UI manj napak kot radiolog. UI pa vseeno ne zmore pravilno interpretirati netipičnih primerov, kar pa radiolog opravi brez težav.  • Ena najbolj pogostih uporab UI v medicini je v pato- logiji. UI je tam že tako dobro razvita, da nadomesti marsikatero opravilo, ki jo je prej opravljal patolog. • Odkrivanje novih zdravil z UI je še posebej zanimivo, saj UI lahko ”zasnuje” nove molekule, za katere sploh nismo vedeli, da so lahko zdravila, ali pa da sploh obstajajo. Danes je že veliko zdravil, odkritih z UI, v kliničnih vrednotenjih. • Veliki jezikovni modeli so naredili pravo revolucijo in bodo najbrž korenito spremenili način, kako opra- vljamo svoje delo. Zelo zgovoren je podatek, da je Microsoft, ki je solastnik podjetja OpenAI, ki je razvilo ChatGPT, postal pred nekaj meseci najvrednejše podjetje na svetu. 170 U M E TN A IN TE LI G E N C A V F A R M A C IJ I – O D K R IV A N JE N O V IH Z D R AV IL IN V E LI K I J E ZI K O V N I M O D E LI farm vestn 2024; 75 early lung cancer detection. Nature. 2020 Apr;580(7802):245– 51. 20. Bhattacharyya RP, Bandyopadhyay N, Ma P, Son SS, Liu J, He LL, et al. Simultaneous detection of genotype and phenotype enables rapid and accurate antibiotic susceptibility determination. Nat Med. 2019 Dec;25(12):1858–64. 21. Toplak Ž, Proj M. Uporaba umetne inteligence pri odkrivanju novih učinkovin. Farm Vestn. 2021 Mar;72(1):44–50. 22. Swinney DC, Anthony J. How were new medicines discovered? Nat Rev Drug Discov. 2011 Jul;10(7):507–19. 23. Vincent F, Nueda A, Lee J, Schenone M, Prunotto M, Mercola M. Phenotypic drug discovery: recent successes, lessons learned and new directions. Nat Rev Drug Discov. 2022 Dec;21(12):899–914. 24. Zapata PAM, Méndez-Lucio O, Le T, Jörn Beese C, Wichard J, Rouquié D, et al. Cell morphology-guided de novo hit design by conditioning GANs on phenotypic image features. Digit Discov. 2023;2(1):91–102. 25. Segler MHS, Preuss M, Waller MP. Planning chemical syntheses with deep neural networks and symbolic AI. Nature. 2018 Mar;555(7698):604–10. 26. Bleicher LS, van Daelen T, Honeycutt JD, Hassan M, Chandrasekhar J, Shirley W, et al. Enhanced utility of AI/ML methods during lead optimization by inclusion of 3D ligand information. Front Drug Discov [Internet]. 2022 Dec 19 [cited 2024 Apr 22];2. Available from: https://www.frontiersin.org/articles/10.3389/fddsv.2022.10747 97 27. von Stosch M, Portela RM, Varsakelis C. A roadmap to AI- driven in silico process development: bioprocessing 4.0 in practice. Curr Opin Chem Eng. 2021 Sep 1;33:100692. 28. Harrer S, Shah P, Antony B, Hu J. Artificial Intelligence for Clinical Trial Design. Trends Pharmacol Sci. 2019 Aug 1;40(8):577–91. 29. Kolbert E. The Obscene Energy Demands of A.I. The New Yorker [Internet]. 2024 Mar 9 [cited 2024 Mar 17]; Available from: https://www.newyorker.com/news/daily-comment/the- obscene-energy-demands-of-ai 30. Zhang J, Ji X, Zhao Z, Hei X, Choo KKR. Ethical Considerations and Policy Implications for Large Language Models: Guiding Responsible Development and Deployment [Internet]. arXiv; 2023 [cited 2024 Mar 17]. Available from: http://arxiv.org/abs/2308.02678 31. Huang X, Estau D, Liu X, Yu Y, Qin J, Li Z. Evaluating the performance of ChatGPT in clinical pharmacy: A comparative study of ChatGPT and clinical pharmacists. Br J Clin Pharmacol. 2024 Jan;90(1):232–8. 32. Roosan D, Padua P, Khan R, Khan H, Verzosa C, Wu Y. Effectiveness of ChatGPT in clinical pharmacy and the role of artificial intelligence in medication therapy management. J Am Pharm Assoc JAPhA. 2024;64(2):422-428.e8. 33. Angel M, Patel A, Alachkar A, Baldi P. Clinical Knowledge and Reasoning Abilities of Large Language Models in Pharmacy: A Comparative Study on the NAPLEX Exam. In: 2023 Tenth International Conference on Social Networks Analysis, Management and Security (SNAMS) [Internet]. 2023 [cited 2024 Apr 22]. p. 1–4. Available from: https://ieeexplore.ieee.org/document/10375395 34. Zhang Y, Deng Z, Xu X, Feng Y, Junliang S. Application of Artificial Intelligence in Drug–Drug Interactions Prediction: A Review. J Chem Inf Model [Internet]. 2023 Jul 17 [cited 2024 Mar 17]; Available from: https://doi.org/10.1021/acs.jcim.3c00582 35. Lo-Ciganic WH, Huang JL, Zhang HH, Weiss JC, Wu Y, Kwoh CK, et al. Evaluation of Machine-Learning Algorithms for Predicting Opioid Overdose Risk Among Medicare Beneficiaries With Opioid Prescriptions. JAMA Netw Open. 2019 Mar 22;2(3):e190968. 36. Abu Zwaida T, Pham C, Beauregard Y. Optimization of Inventory Management to Prevent Drug Shortages in the Hospital Supply Chain. Appl Sci. 2021 Jan;11(6):2726. 37. Burrell DN, Mcandrew I. Exploring the Ethical Dynamics of the Use of Artificial Intelligence (AI) in Hiring in Healthcare Organizations. Land Forces Acad Rev. 2023 Dec 1;28(4):309– 21. 38. World Health Organization. Global strategy on human resources for health: workforce 2030 [Internet]. Geneva: World Health Organization; 2016 [cited 2024 Mar 17]. 64 p. Available from: https://iris.who.int/handle/10665/250368 39. Stewart C. Statista. 2021 [cited 2024 Mar 17]. Application of AI models on healthcare data worldwide in 2021. Available from: https://www.statista.com/statistics/1226202/application-of-ai- models-on-healthcare-data-worldwide/ 40. World Health Organization. WHO issues first global report on Artificial Intelligence (AI) in health and six guiding principles for its design and use [Internet]. 2021 [cited 2024 Mar 17]. Available from: https://www.who.int/news/item/28-06-2021- who-issues-first-global-report-on-ai-in-health-and-six-guiding-p rinciples-for-its-design-and-use