Trang chủ Thế giới nói gì 03 bài toán kinh điển trong Xử lý ngôn ngữ tự nhiên

03 bài toán kinh điển trong Xử lý ngôn ngữ tự nhiên

Các bài toán trong Xử lý ngôn ngữ tự nhiên (NLP) từ cơ bản đến nâng cao bao gồm part-of-speech tagging, chunking, dependency parsing, dịch tự động, tóm tắt văn bản, trích xuất thông tin, hệ trả lời tự động.

Xử lý ngôn ngữ tự nhiên (NLP) là một lĩnh vực trong trí tuệ nhân tạo (AI), có nhiệm vụ xây dựng các công cụ phân tích và tổng hợp giúp máy tính có thể “hiểu” ngôn ngữ của con người thông qua văn bản hoặc tiếng nói. Các bài toán trong NLP từ cơ bản đến nâng cao bao gồm part-of-speech tagging, chunking, dependency parsing, dịch tự động, tóm tắt văn bản, trích xuất thông tin, hệ trả lời tự động. Trong đó, các bài toán liên quan đến trích xuất thông tin, hiểu ngôn ngữ (NLU), xây dựng hệ thống hỏi đáp tự động có nhiều ứng dụng thực tế trong các doanh nghiệp. Cụ thể, nội dung và tác vụ của từng bài toán là gì? Cùng VinBigdata tìm hiểu ngay dưới đây.

1, Trích xuất thông tin, xây dựng hệ cơ sở tri thức tự động

Nhiệm vụ của hệ thống này là tự động trích xuất các thông tin hoặc tri thức từ các nguồn dữ liệu có cấu trúc (như bảng biểu) hoặc dữ liệu phi cấu trúc (văn bản). Các thông tin này cơ bản bao gồm các thực thể, và quan hệ giữa các thực thể đó. Do sự bùng nổ nhanh chóng của kho dữ liệu của nhân loại, yêu cầu quan trọng của hệ thống đó là tính chính xác cao giúp giảm công sức tìm kiếm cũng như kiểm tra của con người, và tính cập nhật (hàng ngày hàng giờ). Các bài toán chính trong xây dựng hệ tri thức bao gồm trích xuất thực thể, trích xuất quan hệ giữa các thực thể, dự đoán quan hệ giữa các thực thể, xác định chủ đề của các thực thể và các quan hệ.

Hiện nay, có nhiều cách tiếp cận để tự động trích xuất thông tin:

  • Dựa trên luật (Rule-based Approach): Cách tiếp cận này xây dựng các tập luật dựa trên quan hệ cú pháp của các từ trong câu để trích xuất các thực thể và quan hệ giữa chúng. Cách tiếp cận này có ưu điểm là chính xác vì tập luật được xây dựng từ tri thức của con người, tuy nhiên việc xây dựng tập luật đòi hỏi kiến thức về ngôn ngữ.
  • Tiếp cận dựa trên các mô hình học có giám sát: Với các mô hình này chúng ta có thể dự đoán đâu là các thực thể cũng như mối quan hệ giữa các thực thể. Tuy nhiên, hạn chế của các phương pháp này là đòi hỏi một lượng dữ liệu đã gán nhãn để huẩn luyện mô hình. Hiện nay, nhiều phương pháp xây dựng tập huấn luyện tự động cũng đang được nghiên cứu, một trong số đó có thể kể tới đó là distant supervision trong trích xuất quan hệ giữa các thực thể.
  • Tiếp cận dựa trên các mô hình học bán giám sát: Trong trường hợp quy mô bộ dữ liệu gán nhãn không đủ đáp ứng yêu cầu, việc kết hợp thêm các phương pháp trích dựa trên tập luật cũng giúp nâng cao độ chính xác của hệ thống.

2, NLU – Hiểu ngôn ngữ tự nhiên

Bản chất của hệ thống hiểu ngôn ngữ, NLU (Natural Language Understanding) là một tổ hợp các mô hình giúp trích xuất các thông tin quan trọng từ văn bản hay câu nói của người dùng trong một ngữ cảnh nhất định, nhằm giúp máy tính có thể phân tích được câu đó, rồi từ đó có thể đưa ra quyết định đúng đắn dựa trên suy diễn đã được lập trình cho máy. Các thông tin thông thường là thực thể, ý định người dùng (intent), quan điểm của người dùng (sentiment), v.v.

NLU giúp trích xuất các thông tin quan trọng từ văn bản hay câu nói của người dùng trong một ngữ cảnh nhất định. Nguồn ảnh: Waldron 2015.

Các bài toán phổ biến trong NLU đó là:

  • Nhận dạng tên thực thể (Named Entity Recognition). Quy trình này bao gồm việc nhận dạng tên người, tên tổ chức, địa điểm, etc. Với bài toán này, các phương pháp gán nhãn chuỗi dựa trên thống kê (sequence tagging) được sử dụng phổ biến.
  • Nhận dạng ý định người dùng (Intent classification). Mục tiêu của bài toán này là phát hiện ý định người dùng được thể hiện trong câu nói. Cách thông thường để giải quyết bài toán này đó là sử dụng các mô hình phân loại.
  • Entity linking: Bài toán này giải quyết vấn đề nhập nhằng về ý nghĩa của các thực thể. Ví dụ: “chỉ đường cho tôi tới Nguyễn Phong Sắc”, thì thực thể “Nguyễn Phong Sắc” trong ngữ cảnh này là chỉ tên con đường chứ không phải tên một nhân vật lịch sử.
  • Dialog Act classification: Xác định xem câu nói của người dùng thuộc loại gì, ví dụ câu trần thuật (Statement), câu hỏi (question).

3, Xây dựng hệ thống hỏi đáp tự động

Hệ thống hỏi đáp tự động nhằm xây dựng, hỗ trợ và phát triển tính năng giao tiếp của Trí tuệ nhân tạo AI.
Hệ thống hỏi đáp tự động nhằm xây dựng, hỗ trợ và phát triển tính năng giao tiếp của Trí tuệ nhân tạo AI.

Hệ thống hỏi đáp tự động (QA) là một bài toán lớn trong NLP, yêu cầu kết hợp nhiều tác vụ khác nhau, nhằm xây dựng, hỗ trợ và phát triển tính năng giao tiếp của Trí tuệ nhân tạo AI. Khác với các công cụ tìm kiếm, chỉ thực hiện “truy xuất tài liệu” có chứa từ khóa yêu cầu, hệ thống hỏi đáp tự động được thiết kế để đưa ra câu trả lời cụ thể cho các truy vấn. Hệ thống QA hiện nay được phân thành 02 loại chính: hệ thống QA miền mở (open-domain QA systems – gần như có khả năng trả lời mọi câu hỏi) và hệ thống QA miền đóng (closed- domain QA systems – chỉ phản hồi các câu hỏi trong một số lĩnh vực cụ thể). Cấu trúc của hệ thống QA bao gồm 03 modules: Xử lý tài liệu; Xử lý câu hỏi và Hỏi đáp.

Hiện này có 2 cách tiếp cận chính cho bài toán xây dựng hệ hỏi đáp tự động đó là Hỏi đáp dựa trên hệ tri thức (Knowledge-based question answering) và Hỏi đáp dựa trên đọc hiểu (machine reading comprehension):

  • Hỏi đáp dựa trên hệ tri thức: với cách tiếp cận này hệ thống cần trích xuất được thực thể cũng nhưng mối quan hệ của thực thể được đề cập trong câu hỏi. Dựa vào nhưng thông tin này, câu trả lời sẽ được tìm trong hệ tri thức dựa trên các suy diễn trong hệ đó.
  • Hỏi đáp dựa trên đọc hiểu: Đây là cách tiếp cận hiện đại cho bài toán hỏi đáp tự động, dựa trên cơ chế attention giữa câu hỏi và đoạn văn bản (chứa câu trả lời) để tìm ra các cụm từ là câu trả lời cho câu hỏi đó. Cách tiếp cận này mô phỏng quá trình chúng ta đọc một văn bản rồi trả lời các câu hỏi liên quan đến văn bản đó, nó giống như phần thi đọc hiểu trong các kì kiểm tra tiếng Anh thường gặp.

BÀI ĐỌC NHIỀU

Bài phỏng vấn Giáo sư Vũ Hà Văn

Toufik Mansour(**)(*) Giáo sư Vũ Hà Văn sinh ra và học tập đến hết trung học phổ thông tại Việt Nam. Năm 1994, ông...

Giải mã Vaccine thế hệ mới chống COVID-19

Đại dịch COVID-19 diễn biến phức tạp ở quy mô toàn cầu suốt cả năm nay, với số ca nhiễm và tử vong không...

VinBigdata đứng số 01 cuộc thi Global Wheat Detection, CVPPP 2020

Sau 2 tháng tranh tài, vượt qua 2245 đội thi hùng mạnh của thế giới, ngày 28/08/2020, Phòng Xử lý ảnh y tế, Viện...

Khái quát về Data Pipeline

Dữ liệu là chìa khóa trong việc khám phá tri thức sâu rộng, nâng cao hiệu quả quy trình và thúc đẩy đưa ra...

BÀI ĐƯỢC LỰA CHỌN

Tìm hiểu về một Mô hình dự báo dịch Covid-19 từ Vũ Hán

Chúng tôi trình bày và giải thích về một mô hình dự báo ngắn hạn và dài hạn (gọi tắt là mô hình SEIR-C19)...

Giải Nobel Hóa học 2020 vinh danh công nghệ chỉnh sửa gene

Giải Nobel Hóa học năm nay được trao cho thành tựu “viết lại bộ mã của sự sống” của hai nhà khoa học nữ:...

Giải Nobel Y học 2020 vinh danh thành tựu nghiên cứu virus viêm gan C

Giải Nobel Y học 2020 được trao cho Harvey J. Alter, Michael Houghton và Charles M. Rice. Ba nhà khoa học được trao giải vì đã có những...

Điều trị tự kỷ bằng ghép tế bào gốc phối hợp với can thiệp giáo dục

1. Giới thiệu chungTự kỷ (autism) hay rối loạn phổ tự kỷ (autism spectrum disorder) là thuật ngữ được dùng để chỉ một...

BÀI MỚI NHẤT

Phần mềm mã nguồn mở là gì? Tất cả những điều bạn nên biết.

Mã nguồn mở thường được lưu trữ trong kho lưu trữ công cộng và được chia sẻ công khai. Bất kỳ ai cũng có...

Các khối đa diện đều và những bí ẩn toán học

LTS: Ngày 17.3.2021 vừa qua, Viện Hàn lâm Khoa học và Văn chương Na Uy đã quyết định trao giải thưởng Abel (được ví...

Hydro làm vàng co lại

Nước ở quanh chúng ta và nuôi sống chúng ta. Trong mỗi giọt nước luôn có một lượng rất nhỏ nguyên tử hydro tách...

Chuẩn bị dữ liệu: Tất cả những điều bạn nên biết

Theo nghiên cứu của Gartner, dữ liệu chất lượng kém khiến các tổ chức phải tiêu tốn trung bình 13,5 triệu USD mỗi năm....