Multimodal integration in a map-based system using temporal, spatial and deictic relationship approaches - Loh, Chee Wyai (Universiti Malaysia Sarawak (UNIMAS), 2011)
Penyelidikan ini bertujuan untuk meningkatkan integrasi multimodel, khususnya untuk pertuturan berterusan dan lakaran dalam interaksi manusia dengan komputer. Untuk memanfaatkan maklumat yang terkandung di kedua-dua model, kita harus mengenali maklumat lisan dengan merujuk kepada lakaran yang betul. Dalam teknik cadangan kami, kami mengintegrasikan model perwakilan lakaran dan pertuturan dengan mempertimbangkan jarak relatif yang dinormalisasi antara objek dalam lakaran, kata sendi ruang dan kata-kata petunjuk dari pertuturan tersebut. Kami membandingkan teknik integrasi yang dicadangkan dengan teknik integrasi multimodel. Keputusan menunjukkan peningkatan 11% dalam ketepatan pencocokan pasangan yang benar dari pertuturan dan lakaran iaitu dari 52% menjadi 63%. Peningkatan teknik integrasi ini telah menunjukkan bahawa kemungkinan berpadanan dengan pasangan yang salah antara pertuturan dan lakaran dapat dikurangkan.