nghĩa từ few-shot prompting

Một kỹ thuật trong học máy, đặc biệt là với các mô hình ngôn ngữ lớn (LLM), trong đó mô hình được cung cấp một số lượng nhỏ các ví dụ (thường là từ 1 đến 5 ví dụ) về cặp đầu vào-đầu ra trực tiếp trong lời nhắc (prompt) để hướng dẫn nó thực hiện một nhiệm vụ cụ thể. Kỹ thuật này giúp mô hình tận dụng khả năng học trong ngữ cảnh (in-context learning) mà không cần trải qua quá trình tinh chỉnh (fine-tuning) sâu rộng.

Để cải thiện hiệu suất của mô hình trong các tác vụ phân loại mới, chúng tôi đã áp dụng kỹ thuật nhắc lệnh với vài mẫu.

Nhắc lệnh với vài mẫu giúp mô hình ngôn ngữ lớn thích nghi nhanh chóng với các định dạng đầu ra mong muốn, dù chỉ với ít dữ liệu đào tạo.

Etymology: Khái niệm 'few-shot prompting' phát triển mạnh mẽ cùng với sự ra đời của các mô hình ngôn ngữ lớn được tiền huấn luyện quy mô, đặc biệt là sau khi OpenAI giới thiệu GPT-3 vào năm 2020. GPT-3 đã chứng minh khả năng học trong ngữ cảnh vượt trội, cho phép mô hình thực hiện các nhiệm vụ mới chỉ với một vài ví dụ mà không cần cập nhật trọng số. Kỹ thuật này kế thừa các nguyên tắc từ 'meta-learning' (học cách học) và 'in-context learning'.

Cultural Notes: Trong cộng đồng AI Việt Nam, 'few-shot prompting' là một thuật ngữ kỹ thuật chuyên ngành được sử dụng rộng rãi. Mặc dù có thể được dịch là 'nhắc lệnh với vài mẫu' hoặc 'gợi ý với số ít ví dụ', thuật ngữ tiếng Anh gốc thường được giữ nguyên trong các bài báo khoa học, thảo luận chuyên môn và tài liệu kỹ thuật. Điều này phản ánh sự tiếp cận nhanh chóng của các nhà nghiên cứu và phát triển AI Việt Nam với các kỹ thuật tiên tiến toàn cầu trong lĩnh vực xử lý ngôn ngữ tự nhiên và học máy. Việc áp dụng kỹ thuật này giúp cộng đồng AI Việt Nam phát triển các ứng dụng hiệu quả hơn với chi phí tài nguyên (tính toán và dữ liệu) thấp hơn, đặc biệt trong bối cảnh các mô hình ngôn ngữ lớn đang ngày càng phổ biến và dễ tiếp cận.

Category: ai

Language: Vietnamese

Pronunciation: /ɲɐk̚˧˥ lɛɲ˧˨ʔ vəːj˧˥ vaːj˨˩ maw˧˥/