Evaluating chatbot assistance in historical document analysis - Hazemali, David (Moderna arhivistika, 2024)
Članek preučuje potencial pogovornega sistema PDFGear Copilot kot pomočnika pri analizi zgodovinskih dokumentov. Učinkovitost pogovornega sistema smo preizkusili na dokumentu, povezanim s slovensko osamosvojitveno vojno. Zmožnost poglobljene interpretacije, kritične analize ter jezikovno robustnost pogovornega sistema smo presojali na podlagi njegovih odgovorov na 25 faktografskih in 5 interpretativnih vprašanj, povezanih z lastnostmi in vsebino dokumenta. Pri odgovarjanju na faktografska vprašanja je bil pogovorni sistem delno uspešen. Ni pa imel težav s prepoznavanjem strukture dokumenta, razpoznavanjem imenskih entitet in pridobivanjem osnovnih informacij o dokumentu. Slabše se je odrezal pri opredelitvi vrste dokumenta, navajanju vsebinskih podrobnosti in pri nalogah, ki zahtevajo poglobljeno analizo besedila. Pri interpretativnih vprašanjih je njegova uspešnost opazno upadla, saj ni bil kos vzročno-posledičnim odnosom ter ni izkazal potrebne poglobljenosti in natančnosti, potrebni za zgodovinopisne raziskave.
Keywords: analiza zgodovinskih dokumentov; artificial intelligence; chatbots; generative; generativna umetna inteligenca; historical document analyses; Jugoslavija; large language models; pogovorni sistemi; veliki jezikovni modeli; vojne; wars; Yugoslavia