Please wait ...
0% Complete
فارسی
Home
/
یازدهمین کنفرانس بین المللی فناوری اطلاعات و دانش
A New Sentence Ordering Method Using BERT Pretrained Model
Authors :
Melika Golestanipour
1
Seyedeh Zahra Razavi
2
Heshaam Faili
3
1- دانشکده برق و کامپیوتر دانشگاه تهران
2- University of Rochester
3- دانشکده برق و کامپیوتر دانشگاه تهران
Keywords :
Sentence Ordering, Story Reordering, BERT Pretrained Model, Sentences Correlation, Events Sequencing
Abstract :
Building systems with capability of natural language understanding (NLU) has been one of the oldest areas of AI. An essential component of NLU is to detect logical succession of events contained in a text. The task of sentence ordering is proposed to learn succession of events with applications in AI tasks. The performance of previous works employing statistical methods is poor, while the neural networks-based approaches are in serious need of large corpora for model learning. In this paper, we propose a method for sentence ordering which does not need a training phase and consequently a large corpus for learning. To this end, we generate sentence embedding using BERT pre-trained model and measure sentence similarity using cosine similarity score. We suggest this score as an indicator of sequential events’ level of coherence. We finally sort the sentences through brute-force search to maximize overall similarities of the sequenced sentences. Our proposed method outperformed other baselines on ROCStories, a corpus of 5-sentence human-made stories. The method is specifically more efficient than neural network-based methods when no huge corpus is available. Among other advantages of this method are its interpretability and needlessness to linguistic knowledge.
Papers List
List of archived papers
توسعه مدل مفهومی طراحی فرآیند مدیریت بحران سیلاب از طریق بهینه سازی استفاده از دستگاه های اینترنت اشیاء (IoT Devices) در تصمیم گیری
محمود رسولی - سید احسان ملیحی
مقایسه اثربخشی و سودمندی معیارهای پوشش آزمون نرم افزارهای مبتنی بر گرامر
عطیه منعمی بیدگلی
شناسایی حملات فیشینگ با استفاده از الگوریتم عقاب آتشین و شبکه عصبی کانولوشن
علی کوشاری - مهدی فرتاش
Classical-Quantum Multiple Access Wiretap Channel with Common Message: One-shot Rate Region
Hadi Aghaee - Dr Bahareh Akhbari
انتخاب ویژگی با استفاده از الگوریتم بهینه سازی ذرات مبتنی بر استراتژی خود تطبیقی دودویی جهت تشخیص بیماری
الهام صالحی - دکتر محمدرضا کرمی ملایی - دکتر حسام عمرانپور الهام صالحی - محمدرضا کرمی ملایی - حسام عمرانپور -
نقش دادههای آنلاین یونیفرمیتی و تحلیل آماری پیشرفته با ترکیب پایتون و پاوربیآی در بهبود کیفیت و فرآیند تولید تایر
دانیال قادری
A Deep Learning Framework for Phase-Aware Feature Representation to Improve Sound Source Direction and Distance Estimation
Zahra Abolfazli - Hamid Reza Abutalebi
Violence detection using one-dimensional convolutional networks
Narges Honarjoo - Ali Abdari - Dr Azadeh Mansouri
A Graph Attention-Based Autoencoder for Critical Path Anomaly Detection in Microservices
Mahdi Naderi - Hossein Momeni - Shayan Shahini
Mamba-SAM: A Hybrid Architecture for Efficient Cardiac MRI Medical Image Segmentation
Mohammadreza Gholipour Shahraki - Mehdi Rezaeian - Mohammad Ghasemzadeh
more
Samin Hamayesh - Version 45.0.1