ERK'2021, Portorož, 284-288 284 Situacijsko zavedanje voznikov avtomatiziranih vozil Kristina Stojmenova 1 , Sašo Tomažič 1 , Jaka Sodnik 1 , 1 Univerza v Ljubljani, Fakulteta za elektrotehniko, Tržaška cesta 25, 1000 Ljubljana, Slovenija Abstract. While it is expected that road safety increases with each higher level of automation, the available data suggests that human driving behaviour in semi- automated vehicles may be a weak link in their contribution to road safety. Decreased engagement in the driving task results in reduced levels of situational awareness (knowing what is going on around you). Situational awareness (SA) has an important role in any process of dynamic human decision making as it provides the state of knowledge needed for making effective decisions and taking appropriate actions. SA is a cognitive construct and as such is tightly related to other cognitive theories such as cognitive workload, attention and memory. When observed for the dynamic task of driving on the other hand, it is highly influenced by (and influences back) driver behaviour. All of these relationships have influenced the development of a theoretical model of driver’s SA, upon which a number of assessment methods trying to capture every aspect of SA have been developed. This paper explores the importance of situational awareness and presents methods for assessing driver’s situational awareness in semi-automated vehicles. 1 Uvod V zadnjih desetletjih je ena od osrednjih točk zanimanja avtomobilske industrije razvoj popolnoma avtomatiziranega vozila, t. i. avtonomnega vozila. Poznamo 5 (oziroma 6 v kolikor štejemo še nivo brez avtomatizacije) stopenj avtomatizacije, ki jih opredeljujeta Društvo avtomobilskih inženirjev (ang. the Society of Automotive Engineers (SAE)) [1]: N0 – Brez avtomatizacije: Voznik opravlja vse naloge potrebne za upravljanje vozila. N1 – Avtomatizacija kot pomoč pri vožnji: Sistem za pomoč vozniku pomaga pri ohranjanju lateralne ali longitudinalne kontrole nad vozilom. Od voznika se pričakuje, da bo opravil vse (preostale) naloge potrebne za upravljanje vozila. N2 – Delna avtomatizacija: Sistem za pomoč vozniku pomaga pri ohranjanju lateralne in longitudinalne kontrole nad vozilom. Od voznika se pričakuje, da bo opravil vse (preostale) naloge potrebne za upravljanje vozila. N3 – Pogojna avtomatizacija: Avtomatiziran sistem opravlja vse naloge potrebne za upravljanje vozila v točno določenih pogojih. Od voznika se pričakuje, da bo ves čas pripravljen prevzeti opravljanje (del ali vseh) nalog potrebnih za upravljanje vozila izven teh pogojev. N4 – Avtomatiziran sistem opravlja vse naloge potrebne za upravljanje vozila v točno določenih pogojih. Od voznika se ne pričakuje, da bo prevzel opravljanje nalog potrebnih za upravljanje vozila izven teh pogojev. N5 – Avtomatiziran sistem opravlja vse naloge potrebne za upravljanje vozila v vseh cestnih in okolijskih pogojih. Ena od glavnih potreb (podprta z ekonomskimi in okoljskimi argumenti), ki so botrovale želji po razvoju vozila brez voznika, izhaja iz številnih raziskav in podatkov iz realnega okolja, ki so pokazali, da je človeški faktor razlog za 95 % prometnih nesreč, pri čemer je najpomembnejši med njimi obnašanje voznikov [2][3]. Po pričakovanjih naj bi vsaka višja stopnja avtomatizacije povečala varnost v cestnem prometu, vendar pa razpoložljivi podatki kažejo, da bi bilo lahko obnašanje voznikov v pol-avtonomnih vozilih šibek člen v prispevku teh vozil k varnosti v cestnem prometu. Na primer, kljub jasni definiciji in navodilom, da mora biti voznik osredotočen na vožnjo ves čas (SAE stopnja N2), ali biti kadarkoli pripravljen prevzeti nadzor nad vozilom (SAE stopnja N3), se vozniki polavtomatskih vozil zlahka zamotijo z izvajanjem drugih nalog in (namerno ali nenamerno) zapostavljajo primarno nalogo vožnje. 2 Situacijsko zavedanje voznikov Zaradi zmanjšane vključenosti v vožnjo se znižajo ravni situacijskega zavedanja (zavedanja o tem, kaj se dogaja okrog tebe). Situacijsko zavedanje (SZ) ima pomembno vlogo v katerem koli procesu človekovega dinamičnega odločanja, saj zagotavlja stanje védenja, ki je potrebno za sprejemanje učinkovitih odločitev in ustrezno ukrepanje [4]. Za zagotovitev varnosti je tako potrebno, da vozniki še vedno ohranjajo določeno stopnjo SZ v kateremkoli vozilu, ki ima manj kot N5 stopnjo avtomatizacije. Na podlagi teorije o SZ [4], je za doseganje SZ potrebno zaznavanje elementov okolja (stopnja 1 SZ), razumevanje njihovega pomena (stopnja 2 SZ) in zmožnost predvidevanja njihovega statusa v bližnji prihodnosti (stopnja 3 SZ). Te tri stopnje so postavljene v hierarhičnem vrstnem redu, pri čemer je stopnja 3 SZ najvišja. Prva stopnja obravnava zaznavanje vseh pomembnih elementov v okolju, njihov status, lastnosti in dinamiko. Temu sledi druga stopnja, ki se osredotoča na razumevanje okolja in spoznavanje pomena zaznanih elementov in njihovih lastnosti. Tretja in najvišja stopnja SZ odraža sposobnost predvidevanja in napovedovanja dejanj elementov v okolju v bližnji prihodnosti. SZ je bilo prepoznano kot pomembna kognitivna teorija na področju avtomobilizma, ker podpira tako raziskave o vedenju voznikov, kot tudi zasnovo (in oceno) naprednih asistenčnih sistemov (ang. advanced 285 driver assistance systems (ADAS)). Vožnja je kot naloga še posebej zahtevna, saj je sestavljena iz več nalog, ki se izvajajo istočasno (vzdrževanje longitudinalne in lateralne kontrole, upoštevanje prometnih pravil, prilagajanje ostalim udeležencem v prometu, prilagajanje vremenskim in cestnim razmeram, itd.). Z naraščajočo avtomatizacijo nekatere od teh nalog nadzira vozilo, kar olajša vožnjo, hkrati pa je v trenutkih, ko mora voznik prevzeti nadzor nad vozilom, ponovna pridobitev SZ težja. Nekateri napredni asistenčni sistemi, kot so parkirni senzorji, vzvratna kamera in sistemi za zaznavanje mrtvega kota, so bili uvedeni za povečanje voznikovega SZ. Številni drugi napredni asistenčni sistemi, kot je longitudinalna (sistem aktivne regulacije hitrosti - aktivni tempomat) in lateralna kontrola (sistem za ohranjanje voznega pasu), pa po drugi strani pomagajo pri opravljanju nalog med vožnjo z vidika varnosti in udobja z zmanjševanjem voznikovega nadzora nad vozilom. To odpira možnosti za izvajanje sekundarnih nalog, ki niso povezane z vožnjo, kar lahko naredi vožnjo bolj zabavno ali celo uporabno, lahko pa tudi negativno vpliva na varnost vožnje. Povečanje števila naprednih asistenčnih sistemov tako razkriva potrebo po razpoznavi morebitnih negativnih stranskih učinkov (tako kot pri katerikoli drugi novi tehnologiji, uvedeni v vozilo), in implementacijo boljših modelov interakcij človek stroj (ang. human-machine interaction (HMI)), da bi odpravili (ali vsaj zmanjšali) negativne stranske učinke. Če SZ po drugi strani, opazujemo pri dinamični nalogi vožnje, pa nanj močno vpliva obnašanje voznika, ki prav tako učinkuje nazaj. Vožnja se izvaja na treh stopnjah: operativna, taktična in strateška stopnja [5]. Na operativni stopnji vozniki nadzorujejo hitrost vozila, upoštevajo hitrostne omejitve in položaj vozila na voznega pasu. Na taktični stopnji morajo upoštevati okolje in izvajati zahtevne naloge, kot sta vzdrževanje varnostne razdalje ali zamenjava voznega pasu z namenom prehitevanja. Najvišja, strateška stopnja je povezana s strategijami za doseganje splošnega cilja ob upoštevanju omejitev trenutne prometne situacije, kot je npr. načrtovanje poti, ocena časa in stroškov. Raziskovalci so našli tesno povezavo med stopnjami vedenja in stopnjami SZ [6][7]. Vse te povezave so vplivale na razvoj teoretičnega modela voznikovega SZ, v okviru katerega so bile razvite številne metode ocenjevanja, ki so skušale zajeti vse vidike SZ. 3 Metode za ocenjevanje situacijskega zavedanja Na splošno lahko metode za ocenjevanje situacijskega zavedanja razvrstimo v tri kategorije: ocena uspešnosti opravljanja naloge, ki temelji na poizvedbi, samoocena in ocena vedenja. Podatki za samooceno so pridobljeni z direktnimi vprašanji o okolju ali z uporabo lestvice za opis operaterjeve prepričanosti o specifični trditvi. Pri oceni vedenja se iščejo implicitni dokazi o prisotnosti SZ pri opazovanem operatorju; uspešnost opravljanja naloge in samo vedenje operaterja se opazujeta kot neposreden dokaz o ustrezne oz. neustrezne prisotnosti SZ. Nazadnje, ocene uspešnosti, ki temeljijo na poizvedbi iščejo neposredne dokaze SA s pomočjo vprašanj. Ta pristop vključuje pridobivanje nabora informacij od posameznika o njegovem dojemanju in razumevanju situacije, ki se potem primerjajo z uveljavljeno temeljno resnico. 3.1 Ocena situacijskega zavedanja, ki temelji na poizvedbi Najbolj znane in pogosto uporabljene metode za ocenjevanje voznikovega SZ so metode, ki temeljijo na oceni uspešnosti opravljanja nalog z uporabo poizvedb. Prva in dandanes najbolj pogosto uporabljena metoda je tehnika globalne ocene situacijskega zavedanja (SAGAT) [8][9]. Pri uporabi SAGAT se simulacija ustavi naključno, operaterjem pa se postavijo vprašanja o delovanju naprave in okolice v času, ko se je ustavila simulacija, z namenom, da bi določili njihovo SZ. Odgovori operaterja se primerjajo z vnaprej določenimi pravilnimi odgovori, ki poskušajo zajeti vse tri ravni SA. Prvotno je bila metoda SAGAT uporabljena za oceno SA upravljavcev industrijskih strojev, kasneje pa je bila prilagojena in se začela uporabljati tudi za številna druga področja. Pri vožnji je uporabljena za določitev korelacije med voznikovo starostjo in njegovo sposobnostjo SZ, kar kaže, da so starejši odrasli manj pozorni na pomembne informacije v primerjavi z mlajšimi starostnimi skupinami [10]. Nadalje je bila uporabljena za določitev korelacije delovnega spomina s SZ, rezultati pa so pokazali, da vizualno prostorski in zvočni dražljaji motijo prostorsko SZ voznikov [11]. Uporabljena je bila tudi za oceno novih pristopov in vmesnikov za povečanje SZ [12][13]. Z uporabo podobne metode je bil razvit matematični model, ki je namenjen opisovanju dinamičnega procesa grajenja SZ po zahtevi za prevzem nadzora v polavtomatskem vozilu. Matematični model je razkril eksponentno razmerje med voznikovim SZ in gostoto prometa ter SZ in časom, ki je bil porabljen v avtomatiziranem načinu vožnje. Metoda poizvedbe, ki temelji na zaustavitvi simulacije je precej vsiljiva in ne omogoča opazovanja naravnega procesa v ustreznem okolju. Ustavitev voznega procesa (tudi v simuliranih okoljih) za vsako poizvedbo lahko bistveno vpliva na vozniško vedenje in vpliva na njihove odzive. S tega vidika bi bila primernejša alternativna in prilagojena metoda poizvedbe o vožnji za oceno trenutnega stanja (ang. Situation present assessment method (SPAM)) [14]. SPAM loči kognitivno obremenitev od SZ tako, da operaterja opozori, da je vprašanje v čakalni vrsti in čaka dokler operater vprašanja ne sprejme. Odzivni čas za sprejem naloge, čas potreben za dokončanje naloge in število izpuščenih oziroma neopravljenih nalog so definirani kot kazalniki SZ. 286 3.2 Samoocena situacijskega zavedanja Zaradi enostavnosti in stroškovno učinkovite narave je še ena pogosta tehnika za ocenjevanje voznikove SZ samoocenjevanje in uporaba vprašalnikov. Ena izmed najbolj priljubljenih in široko sprejetih je tehnika ocenjevanja situacijskega zavedanja (ang. Situational awareness rating technique (SART)), ki uporablja sedem-stopenjsko ocenjevalno lestvico (kjer je 1=nizko, 7=visoko), za pridobitev ocen operaterja o njegovih izkušnjah z opravljeno nalogo [15]. SART meri SZ v treh dimenzijah: zahteve po pozornostnih virih (ang. Demands on attentional resources (SART-DAR)), ponudba pozornostnih virov (ang. supply of attentional resources (SART-SAR)) in razumevanje situacije (ang. understanding of the situation (SART-UOS)). Vse tri se uporabljajo za pridobitev celostne ocene SZ. Vprašalnik se izpolni ob koncu naloge. Čeprav je zelo priljubljen za oceno SZ pilotov, ni bil splošno sprejet za oceno voznikovega SZ. Prilagoditve in podobni vprašalniki, kot je Cranfieldova lestvica situacijskega zavedanja (ang. Cranfield Situation Awareness Scale (Cranfield- SAS)) [16][17], so bili uporabljeni za samoocenjevanje SZ v študijah, povezanih z vožnjo, vendar običajno kot podporna in ne glavna metoda ocenjevanja. Podatki samoocenjevanja so razkrili, da SZ pozitivno vpliva na zaupanje v avtomatizirana vozila [18][19] in da stanja voznika, kot je jeza, negativno vplivajo na SZ in uspešnost vožnje [20]. 3.3 Ocena vedenja kot indikator situacijskega zavedanja Za ocenjevanje operaterjevega SZ se lahko uporablja tudi ocena vedenja. Na drugih področjih se to izvaja s strokovnjakom za opazovano področje (ang. Subject matter expert (SME)). S to metodo strokovnjaki ocenjujejo stopnjo SZ drugih operaterjev z uporabo vnaprej določenega nabora navodil. Ocena vedenja voznika s SME se uporablja za vožnjo, vendar je bil namen strokovne ocene predvsem za pridobitev temeljnega znanja za nastavljanje vhodnih vrednosti nevronskih mrež [21][22], ne pa kot standardizirana ocena vedenja. Kar zadeva oceno SZ voznika, ni enotnega ali ustaljenega postopka, kako in katere podatke o obnašanju med vožnjo je potrebno opazovati. Na primer, opazovanje voznikovega vedenja v kritičnih situacijah je bilo uporabljeno za korelacijo krajših odzivnih časov, kontrolo varnostne razdalje in časa do trka s SZ [23]. Nadalje sta Ma & Kaber [24] odkrila pomembno negativno linearno povezavo med zmanjšanimi ocenami stopnje 3 SZ in napakami pri sledenju napotkom navigacijskega sistema. To je v skladu z ugotovitvami Matthews idr. [7] o teoretični povezavi stopnje 3 SZ s strateško stopnjo vedenja voznika. Povišano SZ zaradi zvočnih signalov, ki voznika obveščajo o upočasnitvi prometa, je privedlo do manj sunkovitega zaviranja [25], ki je naloga povezana s stopnjo 2 SZ. Nazadnje je bilo ugotovljeno, da trening vožnje in izboljšane sposobnosti pozitivno korelirajo s SZ v avtomatiziranih vozilih, vendar ne nujno v enakem obsegu kot v ne-avtomatiziranem vozilu [26]. 3.4 Druge metode za posredno ocenjevanje situacijskega zavedanja SZ je medsebojno povezano s posameznikovo kognitivno obremenitvijo, pozornostjo in stanjem delovnega spomina v določenem trenutku. Ker ni široko znane in potrjene metode za oceno voznikove SZ, je možno zaslediti študije, kjer so raziskovalci uporabili uveljavljene metode za ocenjevanje drugih kognitivnih konstruktov, kot posredne metode za oceno tudi SZ. Ker je postopek vožnje predvsem vizualno-ročna naloga, je zelo učinkovita metoda tudi uporaba sledilnika pogleda. Sledilniki pogleda se lahko uporabijo za od spremljanje področja voznikove vizualne pozornosti [27][28] pa vse do diferenciacije različnih ravni voznikove kognitivne obremenitve [29]. Natančneje, uporabljajo se za opazovanje ali voznik zazna pomembne dražljaje in ali nepomembni dražljaji preusmerijo njegovo pozornost [30][31]. Prav tako so jih uporabili za raziskovanje, časa potrebnega za povrnitev vizualne pozornosti, kar so Gold idr. [32], poimenovali SZ okolja. S stališča teorije je sledenje pogledu večinoma povezano z oceno stopnje 1 SZ, ki se ukvarja z dojemanjem okolja [33]. Alternativno je mogoče odziv zaradi vpliva kognitivne obremenitve na pozornostne vire zaznati tudi z opazovanjem sprememb reakcijskih časov na zvočne dražljaje, kjer so raziskave pokazale boljšo občutljivost v primerjavi z uporabo vizualnih in taktilnih dražljajev [34]. 4 Vmesniki za povečanje situacijskega zavedanja Pri SAE N2 mora biti voznik osredotočen na vožnjo ves čas, medtem ko pri SAE N3 mora biti kadarkoli pripravljen prevzeti nadzor nad vozilom. Vendar zaradi številnih asistenčnih sistemih in vedno večje število opravil, ki jih uspešno opravlja vozilo samo, se vozniki polavtomatskih vozil zlahka zamotijo z izvajanjem drugih nalog in (namerno ali nenamerno) zapostavljajo primarno nalogo vožnje. Najbolj kritična naloga pri uporabi pol-avtomatiziranega vozila je tako naloga (ponovnega) prevzema nadzora nad vozilom s strani voznika. Velik vpliv na uspešnost prevzema kontrole nad vozilom ima čas potreben za ponovno pridobitev situacijskega zavedanja voznika o stanju vozila, razmer na cesti in vseh ostalih informacij, ki so ključni za varno upravljanje z vozilom v tem trenutku. Kot najbolj uspešni vmesniki za sporočanje informacij za prevzem kontrole nad vozilom, hitrejših reakcijskih časov ter hitro pridobitev ustreznega situacijska zavedanja so bili prepoznani zvočni vmesniki [34][35][36][37]. Vendar na tem področju še vedno ne obstajajo standardi, ki bi narekovali uporabo enotnih zvokov. Večinoma je tako možno zaslediti uporabo abstraktnih zvokov [36][38], ki pogosto uporabljajo priporočene zvoke s strani 287 uveljavljenih organizacij na področju avtomobilizma [39][40] ali drugih prevoznih sredstev [41][42]. 5 Zaključek Avtomatizirana vožnja je postala kritični varnostni in ekonomski faktor in je sprožila vrsto raziskav na področju avtomobilizma. Preden pa bomo na cestah po vsem svetu videli veliko število popolnoma avtonomnih vozil, bo potrebno rešiti pomembne izzive. Nekaj od teh izzivov se nanaša na tehnični razvoj vozil, ki se lahko odzivajo na kompleksnost in dinamiko okolij cestnega prometa (na primer, komunikacija vozilo- vozilo). Drugi kritični del je povezan s cestno in prometno infrastrukturo, ki bo olajšala avtonomno vožnjo (na primer, komunikacija vozilo-infrastruktura). Poleg tega je potrebno še veliko postoriti na področju integracije avtomatiziranih tehnologij in človekovih pričakovanj ter zmožnosti. V tem prispevku smo se osredotočili na pomen situacijskega zavedanja voznikov avtomatiziranih vozil. Smo predstavili pregled metod, ki se uporabljajo za ocenjevanje SZ ter izpostavili njihove prednosti in slabosti. Določitev ustreznih vlog voznika v avtomatizirani vožnji je ključ za oblikovanje sprejemljivih rešitev za avtomatizirano vožnjo. Ker ni pričakovati, da bo v naslednjih 10 letih izvedljiva popolnoma avtonomna vožnja ravni 5, kjer avtomatizirana vozila lahko delujejo v vseh cestnih pogojih znotraj katere koli regije na svetu, bo človek moral biti vključen, da bo lahko (intuitivno) razumel in nadziral različne ravni avtomatizirane vožnje, ki bodo na razpolago. Da bomo v celoti izkoristili prednosti avtomatiziranih vozil in se hkrati izognili možnim negativnim učinkom zaradi zmanjšane voznikove vloge, bo ključno vzdrževanje situacijskega zavedanja na ustrezni ravni in zato je zelo pomembno, da poznamo in uporabljamo ustrezne metode za njegovega ocenjevanja. Literatura [1] SAE international. (2016). Taxonomy and definitions for terms related to driving automation systems for on-road motor vehicles. SAE International, (J3016). [2] Sabey, B.E. and H. Taylor, The Known Risks We Run: The Highway, in Societal Risk Assessment, R.C. Schwing and W.A. Albers, Editors. 1980, Springer: Boston, MA. [3] Boyce, T. E., & Geller, E. S. (2002). An instrumented vehicle assessment of problem behavior and driving style: Do younger males really take more risks? Accident Analysis & Prevention, 34(1), 51-64. [4] Endsley, M. R. (1995). Toward a theory of situation awareness in dynamic systems. In Human Factors Journal, 37(1), 32-64. [5] Boer, E. R., & Hoedemaeker, M. (1998, December). Modeling driver behavior with different degrees of automation: A hierarchical decision framework of interacting mental models. In Proceedings of the 17th European annual conference on human decision making and manual control (pp. 63-72). [6] Ward, N. J. (2000). Automation of task processes: An example of intelligent transportation systems. Human Factors and Ergonomics in Manufacturing & Service Industries, 10(4), 395-408. [7] Matthews, M. L., Bryant, D. J., Webb, R. D., & Harbluk, J. L. (2001). Model for situation awareness and driving: Application to analysis and research for intelligent transportation systems. Transportation research record, 1779(1), 26-32. [8] Endsley, M. R. (1988, May). Situation awareness global assessment technique (SAGAT). In Proceedings of the IEEE 1988 national aerospace and electronics conference (pp. 789- 795). IEEE. [9] Endsley, M. R. (2000). Direct measurement of situation awareness: Validity and use of SAGAT. In Situational Awareness (pp. 147-174). [10] Bolstad, C. A. (2000, October). Age-related factors affecting the perception of essential information during risky driving situations. In Human Performance Situation Awareness and Automation: User-Centered Design for the New Millennium Conference, Savannah, GA. [11] Johannsdottir, K. R., & Herdman, C. M. (2010). The role of working memory in supporting drivers’ situation awareness for surrounding traffic. Human factors, 52(6), 663-673. [12] Scholtz, J., Antonishek, B., & Young, J. (2004, January). Evaluation of a human-robot interface: Development of a situational awareness methodology. In 37th Annual Hawaii International Conference on System Sciences, 2004. Proceedings of the (pp. 9-pp). IEEE. [13] Sirkin, D., Martelaro, N., Johns, M., & Ju, W. (2017, May). Toward measurement of situation awareness in autonomous vehicles. In Proceedings of the 2017 CHI Conference on Human Factors in Computing Systems (pp. 405-415). [14] Durso, F.T. and Dattel, A.R. (2004) ‘SPAM: the real- time assessment of SA’, in Banbury, S. and Tremblay, S. (Eds.): A Cognitive Approach to Situation Awareness: Theory and Application, pp.137–154, Ashgate Publishing Ltd., Hampshire. [15] Taylor, R. M. (1990). Situational awareness rating technique (SART): The development of a tool for aircrew systems design. In Situational awareness in aerospace operations. [16] Dennehy, K. (1997). Cranfield situation awareness scale. [17] Salmon, P., Stanton, N., Walker, G., & Green, D. (2006). Situation awareness measurement: A review of applicability for C4i environments. Applied ergonomics, 37(2), 225-238. [18] Sonoda, K., & Wada, T. (2017). Displaying system situation awareness increases driver trust in automated driving. IEEE Transactions on Intelligent Vehicles, 2(3), 185- 193. [19] Petersen, L., Robert, L., Yang, J., & Tilbury, D. (2019). Situational awareness, driver’s trust in automated driving systems and secondary task performance. SAE International Journal of Connected and Autonomous Vehicles, Forthcoming. [20] Jeon, M., Walker, B. N., & Gable, T. M. (2015). The effects of social interactions with in-vehicle agents on a driver's anger level, driving performance, situation awareness, and perceived workload. Applied ergonomics, 50, 185-199. 288 [21] Komavec, M., Kaluža, B., Stojmenova, K., & Sodnik, J. (2019). Risk Assessment Score Based on Simulated Driving Session, in 2019 Driving Simulation Conference Europe. 2019. p. 67-74. [22] Sodnik, J., Kaluža, B., Komavec, M., & Stojmenova, K. (2021). Postopek vrednotenja voznika in naprava za izvedbo postopka (eng. Driver evaluation method and device for implementing the method). Patent SI 25874. Slovenian Intellectual Property Office (SIPO). [23] Merat, N., & Jamson, A. H. (2009). Is Drivers' Situation Awareness Influenced by a Fully Automated Driving Scenario? In Human factors, security and safety. Shaker Publishing. [24] Ma, R., & Kaber, D. B. (2007). Situation awareness and driving performance in a simulated navigation task. Ergonomics, 50(8), 1351-1364. [25] Nowakowski, C., Vizzini, D., Gupta, S. D., & Sengupta, R. (2012). Evaluation of real-time freeway end-of-queue alerting system to promote driver situational awareness. Transportation research record, 2324(1), 37-43. [26] Walker, G. H., Stanton, N. A., Kazi, T. A., Salmon, P. M., & Jenkins, D. P. (2009). Does advanced driver training improve situational awareness?. Applied ergonomics, 40(4), 678-687. [27] Strayer, D. L., Drews, F. A., & Johnston, W. A. (2003). Cell phone-induced failures of visual attention during simulated driving. Journal of experimental psychology: Applied, 9(1), 23. [28] Stojmenova, K. (2020). Assessing the attentional effects of cognitive load in driving environments. V: Wearable eye tracking: online user meeting: September 8 - September 9, 2020. Tobii Pro. [29] Čegovnik, T., Stojmenova, K., Jakus, G., & Sodnik, J. (2018). An analysis of the suitability of a low-cost eye tracker for assessing the cognitive load of drivers. Applied ergonomics, 68, 1-11. [30] Barnard, Y., & Lai, F. (2010). Spotting sheep in Yorkshire: Using eye-tracking for studying situation awareness in a driving simulator. In Human factors: a system view of human, technology and organisation. Annual conference of the europe chapter of the human factors and ergonomics society 2009. [31] Samuel, S., Borowsky, A., Zilberstein, S., & Fisher, D. L. (2016). Minimum time to situation awareness in scenarios involving transfer of control from an automated driving suite. Transportation research record, 2602(1), 115-120. [32] Gold, C., Damböck, D., Lorenz, L., & Bengler, K. (2013, September). “Take over!” How long does it take to get the driver back into the loop? In Proceedings of the Human Factors and Ergonomics Society Annual Meeting (Vol. 57, No. 1, pp. 1938-1942). Sage CA: Los Angeles, CA: Sage Publications. [33] Schömig, N., & Metz, B. (2013). Three levels of situation awareness in driving with secondary tasks. Safety science, 56, 44-51. [34] Stojmenova, K., & Sodnik, J. (2018). Validation of auditory detection response task method for assessing the attentional effects of cognitive load. Traffic injury prevention, 19(5), 495-500. [35] McKeown, D. (2005). Candidates for within-vehicle auditory displays. Georgia Institute of Technology. [36] Ko, S., Kutchek, K., Zhang, Y., & Jeon, M. (2021). Effects of Non-Speech Auditory Cues on Control Transition Behaviors in Semi-Automated Vehicles: Empirical Study, Modeling, and Validation. International Journal of Human– Computer Interaction, 1-16. [37] Bazilinskyy, P., & de Winter, J. (2015). Auditory interfaces in automated driving: an international survey. PeerJ Computer Science, 1, e13. [38] Sanghavi, H., Jeon, M., Nadri, C., Ko, S., Sodnik, J., & Stojmenova, K. (2021, July). Multimodal takeover request displays for semi-automated vehicles: Focused on spatiality and lead time. In International Conference on Human- Computer Interaction (pp. 315-334). Springer, Cham. [39] Campbell, J. L., Brown, J. L., Graving, J. S., Richard, C. M., Lichty, M. G., Sanquist, T., & Morgan, J. (2016). Human factors design guidance for driver-vehicle interfaces. National Highway Traffic Safety Administration, Washington, DC, DOT HS, 812, 360. [40] ISO, 2017. Road vehicles-Ergonomic aspects of transport information and control systems-Specifications for in-vehicle auditory presentation," ISO Standard 15006:2011. [41] Patterson, R. D. (1990). Auditory warning sounds in the work environment. Philosophical Transactions of the Royal Society of London. B, Biological Sciences, 327(1241), 485- 492. [42] Ulfvengren, P. (2000, July). Natural warning sounds in safety critical human-machine systems-A cognitive engineering approach. In Proceedings of the Human Factors and Ergonomics Society Annual Meeting (Vol. 44, No. 22, pp. 742-745). Sage CA: Los Angeles, CA: SAGE Publications.