Luận văn này trình bày các nghiên cứu mới về công nghệ xử lý ngôn ngữ tự nhiên, đề ra phƣơng pháp luận áp dụng công nghệ học máy, học sâu tận dụng những tiến bộ mới để huấn luyện mô hình phù hợp với dữ liệu văn bản pháp luật để trích chọn các thực thể và mối quan hệ thiết yếu. Mục tiêu của luận văn đạt đƣợc các kết quả nhƣ sau: Đƣa ra kiến trúc mô hình học sâu trong xử lý ngôn ngữ tự nhiên nhƣ BERT với dữ liệu văn bản pháp luật tiếng Việt, chứng minh tính hiệu quả của mô hình trích chọn mối quan hệ.