Các mô hình AI tạo sinh chủ yếu tương tác với người dùng thông qua đầu vào dạng văn bản. Người dùng có thể hướng dẫn mô hình thực hiện một nhiệm vụ bằng cách cung cấp một mô tả dưới dạng văn bản. Về mặt tổng quát, những gì người dùng yêu cầu mô hình thực hiện được gọi là "prompt".

"Prompting" là cách con người giao tiếp với trí tuệ nhân tạo (AI). Đây là một phương thức giúp con người truyền đạt những gì mình mong muốn và cách thực hiện thông qua ngôn ngữ đã được điều chỉnh cho phù hợp với AI.

Kỹ thuật Prompt Engineering

Kỹ thuật prompt engineering là một lĩnh vực chuyên nghiên cứu cách xây dựng và tối ưu hóa prompt nhằm tận dụng tối đa các mô hình ngôn ngữ trong nhiều ứng dụng và lĩnh vực nghiên cứu khác nhau. Lĩnh vực này đóng vai trò quan trọng trong việc hiểu rõ điểm mạnh và hạn chế của các mô hình ngôn ngữ lớn (LLMs) cũng như có tác động lớn đến nhiều tác vụ xử lý ngôn ngữ tự nhiên (NLP).

Một kỹ sư prompt sẽ chuyển đổi ý tưởng của bạn từ ngôn ngữ giao tiếp thông thường thành những hướng dẫn chính xác và tối ưu hơn để AI có thể hiểu và thực hiện.

Bản chất của Prompting

Về cơ bản, prompting là hành động đưa ra một nhiệm vụ hoặc chỉ dẫn cụ thể cho mô hình ngôn ngữ, để mô hình phản hồi dựa trên thông tin có trong prompt. Một prompt có thể chỉ là một câu hỏi đơn giản hoặc một yêu cầu phức tạp hơn kèm theo ngữ cảnh, ví dụ và thông tin bổ sung nhằm hướng dẫn mô hình tạo ra kết quả mong muốn.

Mức độ hiệu quả của kết quả đầu ra phụ thuộc rất nhiều vào độ chính xác và mức độ liên quan của prompt.

Prompting đóng vai trò như cầu nối giữa con người và AI, giúp chúng ta giao tiếp và tạo ra kết quả phù hợp với nhu cầu cụ thể. Để khai thác tối đa khả năng của AI tạo sinh, điều quan trọng là phải biết cần hỏi gì và cách hỏi như thế nào. Dưới đây là lý do prompting quan trọng:

• Prompting hướng dẫn mô hình tạo ra kết quả phù hợp nhất, đảm bảo sự mạch lạc trong ngữ cảnh và định dạng mong muốn.

• Nó giúp tăng khả năng kiểm soát, dễ dàng diễn giải kết quả và giảm thiểu các thiên kiến có thể xảy ra.

• Các mô hình AI khác nhau có thể phản hồi khác nhau với cùng một prompt. Biết cách đặt prompt phù hợp với từng mô hình sẽ giúp tạo ra kết quả chính xác hơn.

• Các mô hình AI tạo sinh có thể tạo ra thông tin sai lệch (hallucinate). Prompting có thể giúp định hướng mô hình đi đúng hướng bằng cách yêu cầu trích dẫn nguồn tin chính xác.

• Prompting cho phép thử nghiệm với nhiều loại dữ liệu và cách trình bày dữ liệu khác nhau cho mô hình ngôn ngữ.

• Nó giúp xác định kết quả mong muốn và không mong muốn bằng cách tích hợp mục tiêu vào trong prompt.

• Prompting cải thiện tính an toàn của mô hình và giúp bảo vệ khỏi các cuộc tấn công prompt hacking (tức là người dùng gửi prompt nhằm khiến mô hình tạo ra phản hồi không mong muốn).

>_ Cấu hình API Key của OpenAI trong môi trường

Ngoài ra, bạn cần cài đặt các gói LangChain và OpenAI để chạy code trong chương này:

>_ Ví dụ: Tạo Câu Chuyện

Prompt này thiết lập phần mở đầu của một câu chuyện bằng cách cung cấp bối cảnh ban đầu. Nó mô tả một thế giới nơi động vật có khả năng nói và giới thiệu nhân vật chính—một chú chuột dũng cảm tên Benjamin. Mục tiêu của mô hình là tiếp tục và hoàn thành câu chuyện dựa trên prompt đã cho.

Trong ví dụ này, ta phân biệt giữa prompt_system và prompt. Sự phân biệt này áp dụng cho OpenAI API, trong đó "system prompt" định hướng hành vi của mô hình, khác với các LLM khác thường chỉ sử dụng một prompt tiêu chuẩn.

Code

Kết quả mẫu

Benjamin bắt đầu một cuộc hành trình tìm kiếm pho mát huyền thoại. Trên đường đi, cậu đối mặt với những thử thách thông minh và kết bạn với một con cú già thông thái cùng một chú sóc tinh nghịch. Chuyến đi thử thách lòng dũng cảm và quyết tâm của Benjamin, nhưng cậu không bao giờ bỏ cuộc.

>_ Ví dụ: Mô Tả Sản Phẩm

Prompt này yêu cầu mô tả sản phẩm bao gồm các thông tin quan trọng ("cây bút máy sang trọng, thủ công, phiên bản giới hạn được làm từ gỗ hồng mộc và vàng"). Mục tiêu là tạo ra một mô tả sản phẩm dựa trên các đặc điểm được cung cấp.

Code

Kết quả mẫu

Trải nghiệm sự tinh tế và sang trọng với chiếc bút máy phiên bản giới hạn của chúng tôi, được chế tác thủ công từ gỗ hồng mộc bóng bẩy và tô điểm bằng chi tiết vàng cao cấp. Một tác phẩm nghệ thuật độc đáo, nâng tầm trải nghiệm viết của bạn lên một đẳng cấp mới.

Zero-shot prompting là khi mô hình được yêu cầu tạo đầu ra mà không có bất kỳ ví dụ nào minh họa về nhiệm vụ. Nhiều tác vụ nằm trong khả năng của các mô hình ngôn ngữ lớn (LLMs), cho phép chúng tạo ra kết quả chất lượng cao ngay cả khi không có ví dụ hoặc hướng dẫn chi tiết.

Chúng ta đã thử nghiệm phương pháp này trong các ví dụ trước. Dưới đây là một ví dụ khác, trong đó LLM được yêu cầu viết một bài thơ ngắn về mùa hè.

Code

Kết quả mẫu

Mùa hè đến với ánh vàng rực rỡ,
Nắng ấm trên da, gió khẽ đưa nhẹ,
Những ngày rộn rã tiếng cười vui vẻ,
Mùa kỷ niệm đẹp, chảy trôi theo nhịp hè.

Trong trường hợp này, mô hình có thể tạo ra bài thơ theo bất kỳ phong cách nào. Nếu muốn mô hình sáng tác theo một phong cách cụ thể, prompt cần bao gồm mô tả rõ ràng hoặc một ví dụ minh họa.

2.2.1 Khái niệm

Học trong ngữ cảnh (In-context learning) là một phương pháp trong đó mô hình học từ các ví dụ hoặc hướng dẫn được cung cấp trong prompt.

Few-shot prompting là một dạng của học trong ngữ cảnh, trong đó mô hình được cung cấp một số ít ví dụ liên quan trước khi thực hiện nhiệm vụ. Chiến lược này giúp mô hình tổng quát hóa và cải thiện hiệu suất khi xử lý các nhiệm vụ phức tạp hơn.

2.2.2 So sánh với Zero-Shot Prompting

• Few-shot prompting cho phép mô hình học từ một số lượng mẫu hạn chế, giúp nó thích ứng với nhiều nhiệm vụ khác nhau với chỉ một tập mẫu nhỏ.

• Zero-shot prompting yêu cầu mô hình tạo ra kết quả cho một nhiệm vụ hoàn toàn mới mà không có bất kỳ ví dụ nào trước đó.

• Few-shot giúp cải thiện hiệu suất bằng cách cung cấp các ví dụ trong prompt, giúp mô hình nắm bắt cách trả lời tốt hơn.

2.2.3 Cách hoạt động

Prompt trong kỹ thuật này thường bao gồm nhiều ví dụ kèm theo câu trả lời. Mô hình ngôn ngữ sẽ học từ các ví dụ đó và áp dụng những gì đã học để trả lời các câu hỏi tương tự.

Ví dụ: Viết Thơ Ngắn với Few-Shot Prompting

Code

Kết quả mẫu

Mặt trời tỏa ánh vàng,
Tiếng cười vang không gian,
Mùa hè trôi nhẹ nhàng.

2.2.4 Ví dụ về Few-Shot Prompting

Trong các ví dụ sau, chúng ta sử dụng framework LangChain, giúp áp dụng các kỹ thuật prompting khác nhau. Chúng tôi sẽ giới thiệu framework này trong chương tiếp theo.

Dưới đây, chúng ta hướng dẫn mô hình ngôn ngữ lớn (LLM) xác định cảm xúc liên quan đến một màu sắc cụ thể. Điều này được thực hiện bằng cách cung cấp một tập hợp các ví dụ minh họa mối liên hệ giữa màu sắc và cảm xúc.

Code

Kết quả mẫu

Prompt này cung cấp hướng dẫn rõ ràng và nhiều ví dụ để giúp mô hình hiểu được nhiệm vụ.

2.2.5 Hạn chế của Few-Shot Prompting

Mặc dù few-shot learning mang lại hiệu quả, nhưng nó gặp phải thách thức khi các nhiệm vụ trở nên phức tạp. Trong những trường hợp như vậy, các chiến lược tiên tiến hơn, chẳng hạn như chain-of-thought prompting, trở nên hữu ích hơn.

Kỹ thuật này chia nhỏ các vấn đề phức tạp thành các giai đoạn đơn giản hơn, cung cấp ví dụ cho từng bước, từ đó cải thiện khả năng suy luận logic của mô hình.

Role prompting liên quan đến việc hướng dẫn mô hình ngôn ngữ lớn (LLM) đảm nhận một vai trò hoặc danh tính cụ thể để thực hiện nhiệm vụ, chẳng hạn như hoạt động như một người viết quảng cáo. Hướng dẫn này có thể ảnh hưởng đến phản hồi của mô hình bằng cách cung cấp ngữ cảnh hoặc góc nhìn cho nhiệm vụ.

Quy trình làm việc với role prompts bao gồm:

1. Xác định vai trò trong prompt. Ví dụ: “Là một copywriter, hãy tạo ra các khẩu hiệu hấp dẫn cho các dịch vụ AWS.”

1. Sử dụng prompt để tạo phản hồi từ LLM.

1. Đánh giá phản hồi và điều chỉnh prompt nếu cần để cải thiện kết quả.

Ví dụ

Trong ví dụ này, LLM được yêu cầu đóng vai trò là một nhạc trưởng robot tương lai và tạo ra một tiêu đề bài hát liên quan đến một chủ đề và năm cụ thể.

Kết quả

Đặc điểm của một prompt tốt

✔ Hướng dẫn rõ ràng: Prompt được thiết kế như một yêu cầu trực tiếp để tạo tiêu đề bài hát, với ngữ cảnh rõ ràng: “Là một nhạc trưởng robot tương lai.” Điều này giúp LLM nhận diện rằng đầu ra cần là một tiêu đề bài hát liên quan đến bối cảnh tương lai.

✔ Cụ thể: Prompt yêu cầu một tiêu đề bài hát liên quan đến một chủ đề và một năm cụ thể, “{theme} vào năm {year}.” Mức độ chi tiết này giúp LLM tạo ra phản hồi phù hợp và sáng tạo. Việc sử dụng các biến đầu vào giúp prompt linh hoạt và có thể áp dụng cho nhiều chủ đề khác nhau.

✔ Khuyến khích sáng tạo: Prompt không giới hạn LLM trong một định dạng hoặc phong cách tiêu đề bài hát cụ thể, điều này khuyến khích nhiều cách tiếp cận sáng tạo khác nhau dựa trên chủ đề và năm được chỉ định.

✔ Tập trung vào nhiệm vụ: Prompt chỉ tập trung vào việc tạo tiêu đề bài hát, giúp quá trình xử lý của LLM trở nên đơn giản hơn, không bị phân tán bởi các nội dung không liên quan. Việc tích hợp quá nhiều nhiệm vụ trong một prompt có thể làm mô hình bị rối và giảm hiệu quả.

Những đặc điểm này giúp LLM hiểu ý định của người dùng và tạo ra phản hồi phù hợp.

Chain Prompting là phương pháp liên kết một chuỗi các prompts theo trình tự, trong đó đầu ra của một prompt sẽ đóng vai trò là đầu vào cho prompt tiếp theo. Khi triển khai Chain Prompting bằng LangChain, hãy thực hiện các bước sau:

• Xác định và trích xuất thông tin cần thiết từ phản hồi đã tạo.

• Phát triển một prompt mới sử dụng thông tin đã trích xuất, đảm bảo rằng nó tiếp nối kết quả trước đó.

• Tiếp tục quá trình này khi cần thiết để đạt được kết quả mong muốn.

Lớp PromptTemplate được thiết kế để đơn giản hóa việc tạo prompts với các đầu vào động. Tính năng này đặc biệt hữu ích khi xây dựng một chuỗi prompt dựa trên phản hồi từ các prompts trước đó.

Ví dụ

Kết quả

Đặc điểm của Chain Prompting hiệu quả

✔ Liên kết chặt chẽ giữa các prompts: Kết quả của prompt đầu tiên được sử dụng làm đầu vào cho prompt tiếp theo, đảm bảo tính logic và mạch lạc trong chuỗi câu hỏi.

✔ Tự động hóa và mở rộng: Bằng cách sử dụng đầu ra của mô hình để tạo ra câu hỏi tiếp theo, quá trình này có thể mở rộng thành nhiều bước liên tiếp nhằm khai thác thông tin sâu hơn.

✔ Tận dụng khả năng tạo nội dung của LLM: Phương pháp này giúp LLM tạo ra các phản hồi theo cách có tổ chức, tránh câu trả lời rời rạc hoặc không nhất quán.

✔ Ứng dụng linh hoạt: Có thể áp dụng Chain Prompting trong nhiều lĩnh vực như nghiên cứu, trợ lý ảo, phân tích dữ liệu, và xây dựng hội thoại thông minh.

Phương pháp này giúp cải thiện chất lượng đầu ra của LLM bằng cách xây dựng các phản hồi dựa trên ngữ cảnh liên tục.

Chain of Thought Prompting (CoT) là một phương pháp được thiết kế để yêu cầu các mô hình ngôn ngữ lớn (LLM) diễn giải quá trình suy nghĩ của chúng, từ đó cải thiện độ chính xác của kết quả. Kỹ thuật này bao gồm việc cung cấp các ví dụ thể hiện quá trình lập luận, hướng dẫn LLM giải thích logic của nó trong khi phản hồi các prompts.

CoT đã được chứng minh là đặc biệt hữu ích trong các nhiệm vụ liên quan đến:

• Tính toán số học

• Lý luận thông thường (common-sense reasoning)

• Tư duy ký hiệu (symbolic thinking)

2.5.1 Lợi ích của Chain of Thought trong LangChain

1. Đơn giản hóa các nhiệm vụ phức tạp

• Giúp LLM chia nhỏ các vấn đề khó thành các bước dễ quản lý hơn.

• Đặc biệt hữu ích cho các nhiệm vụ yêu cầu tính toán, phân tích logic hoặc suy luận nhiều bước.

1. Tạo chuỗi câu hỏi hợp lý

• Hướng dẫn mô hình theo một chuỗi prompts có liên quan, giúp phản hồi trở nên mạch lạc và có ngữ cảnh tốt hơn.

• Kết quả chính xác hơn, đặc biệt với các nhiệm vụ đòi hỏi hiểu biết sâu về vấn đề hoặc lĩnh vực cụ thể.

2.5.2 Hạn chế của Chain of Thought Prompting

• Yêu cầu mô hình lớn (~100 tỷ tham số trở lên)

• Các mô hình nhỏ thường tạo ra quy trình suy nghĩ thiếu logic, làm giảm độ chính xác so với phương pháp prompting truyền thống.

• Hiệu quả không đồng đều giữa các loại nhiệm vụ

• Mặc dù CoT rất hữu ích cho tính toán, lý luận thông thường và tư duy ký hiệu, nhưng tác động của nó đối với các nhiệm vụ khác có thể không đáng kể.

Phương pháp này giúp LLM tư duy theo từng bước, nhưng để đạt hiệu quả tối ưu, cần sử dụng trên các mô hình có quy mô đủ lớn và phù hợp với loại nhiệm vụ cụ thể.

Phần này trình bày các ví dụ về prompt kém hiệu quả. Một prompt quá chung chung, thiếu bối cảnh hoặc hướng dẫn không rõ ràng có thể khiến mô hình tạo ra phản hồi kém chi tiết hoặc lạc đề.

Code

Kết quả

"Hãy nói cho tôi biết điều gì đó về chó."

❌ Vấn đề:

• Câu hỏi quá chung chung, không rõ yêu cầu thông tin về điều gì (đặc điểm, lịch sử, hành vi, v.v.).

• LLM có thể tạo ra phản hồi quá rộng hoặc không đi đúng trọng tâm.

✅ Cách cải thiện:

• Thay vì "Hãy nói cho tôi biết điều gì đó về chó.", hãy dùng "Mô tả đặc điểm thể chất và hành vi phổ biến của loài chó."

Code

Kết quả

❌ Vấn đề:

• Prompt "Hãy nói cho tôi biết điều thú vị về {scientist}." quá chung chung.

• Phản hồi không liên quan đến thuyết tương đối rộng, mà chỉ đề cập đến sở thích cá nhân của Einstein.

✅ Cách cải thiện:

• Sử dụng prompt cụ thể hơn: "Giải thích những nguyên lý chính trong thuyết tương đối rộng của {scientist}."

Code

Kết quả

❌ Vấn đề:

• Prompt "Hãy nói cho tôi biết điều gì đó về {genre1}, {genre2}, và {genre3} mà không cung cấp chi tiết cụ thể." có mâu thuẫn logic.

• LLM có thể bị bối rối, khiến phản hồi trở nên chung chung và thiếu chiều sâu.

✅ Cách cải thiện:

• Loại bỏ mâu thuẫn: "Giải thích đặc điểm chính và ảnh hưởng lịch sử của {genre1}, {genre2}, và {genre3}."

❌ Mơ hồ hoặc quá chung chung

• Không cung cấp đủ thông tin để mô hình hiểu yêu cầu.

• Phản hồi có thể rộng hoặc không đúng trọng tâm.

❌ Thiếu bối cảnh

• Không làm rõ loại thông tin mong muốn.

• LLM có thể tạo ra phản hồi không liên quan.

❌ Mâu thuẫn trong yêu cầu

• Nếu prompt có hướng dẫn trái ngược nhau, LLM có thể không tạo ra phản hồi hợp lý.

✔ Đặt câu hỏi cụ thể và rõ ràng.
Ví dụ:

• Thay vì "Hãy nói điều gì đó về Albert Einstein.", hãy hỏi "Albert Einstein đã đóng góp gì cho vật lý hiện đại?"

✔ Cung cấp bối cảnh và hướng dẫn chi tiết.
Ví dụ:

• Thay vì "Hãy kể về nhạc jazz.", hãy hỏi "Nhạc jazz có nguồn gốc từ đâu và phát triển như thế nào?"

✔ Tránh các yêu cầu mâu thuẫn.
Ví dụ:

• Tránh prompt như "Giải thích về jazz mà không cung cấp bất kỳ chi tiết nào.", vì nó tự mâu thuẫn.

Việc cải thiện chất lượng prompt sẽ giúp hướng dẫn mô hình tạo ra phản hồi chính xác, hữu ích và phù hợp hơn với mục đích của người dùng.

Thiết kế prompt là một quá trình lặp lại, thường cần nhiều lần điều chỉnh để đạt được phản hồi chính xác nhất. Khi các mô hình ngôn ngữ lớn (LLM) tiếp tục được tích hợp vào nhiều sản phẩm và dịch vụ, việc thành thạo trong việc tạo prompt hiệu quả sẽ trở nên quan trọng. Dưới đây là các nguyên tắc chung cần tuân theo:

• Hãy cụ thể trong prompt của bạn: Bao gồm đủ ngữ cảnh và chi tiết để hướng dẫn LLM tạo ra đầu ra mong muốn.

• Ép mô hình trả lời ngắn gọn khi cần thiết.

• Khuyến khích mô hình giải thích lý do cho câu trả lời của nó: Điều này có thể giúp tạo ra giải pháp chính xác hơn, đặc biệt đối với các nhiệm vụ phức tạp.

Code

Kết quả

Prompt này được thiết kế chặt chẽ, giúp AI hiểu vai trò, ngữ cảnh và định dạng phản hồi mong muốn, từ đó tạo ra kết quả chính xác và hữu ích hơn.

✔ Xác định rõ bối cảnh trong phần mở đầu:

• Prompt chỉ ra rằng AI đóng vai trò là một huấn luyện viên cuộc sống, chuyên cung cấp lời khuyên thực tế và sâu sắc.

• Điều này tạo ra một khung hướng dẫn, giúp AI điều chỉnh phản hồi theo đúng mục đích.

✔ Sử dụng các ví dụ cụ thể:

• Ví dụ trong prompt giúp AI hiểu giọng điệu và phong cách phản hồi mà nó nên mô phỏng.

• Nhờ đó, phản hồi từ AI sẽ phù hợp với bối cảnh và mục tiêu của cuộc trò chuyện.

✔ Phân biệt rõ ràng giữa ví dụ và câu hỏi thực tế:

• Việc tách biệt phần ví dụ và câu hỏi thực tế giúp AI nhận diện đúng định dạng phản hồi.

• Điều này đảm bảo AI tập trung vào câu hỏi hiện tại, không bị nhầm lẫn với các ví dụ trước đó.

✔ Bao gồm phần kết thúc rõ ràng để đánh dấu đầu vào của người dùng và phản hồi của AI:

• Phần kết thúc ("Người dùng: {query}\nAI:") đóng vai trò hướng dẫn cho AI, chỉ ra rằng nó cần bắt đầu phản hồi sau phần này.

• Điều này giúp duy trì định dạng phản hồi nhất quán.

Prompt hiệu quả sẽ giúp AI hiểu rõ vai trò, bối cảnh và định dạng phản hồi mong muốn, từ đó nâng cao độ chính xác và tính hữu ích của kết quả đầu ra.

Thiết kế prompt là một phương pháp quan trọng giúp cải thiện hiệu suất của mô hình ngôn ngữ trong nhiều ứng dụng và lĩnh vực nghiên cứu khác nhau. Bằng cách tạo ra các prompt hiệu quả, chúng ta có thể hướng dẫn mô hình tạo ra các phản hồi chính xác, phù hợp với ngữ cảnh và có giá trị thông tin cao.

• Đối với các nhiệm vụ đơn giản, kỹ thuật zero-shot prompting có thể hiệu quả khi yêu cầu mô hình tạo phản hồi mà không cần ví dụ trước.

• Role prompting hướng dẫn LLM đảm nhận một vai trò cụ thể để thực hiện nhiệm vụ, giúp điều chỉnh phản hồi của mô hình theo bối cảnh hoặc góc nhìn nhất định.

• Các kỹ thuật nâng cao hơn như in-context prompting hoặc few-shot prompting cung cấp cho mô hình một tập hợp nhỏ các ví dụ liên quan, giúp cải thiện hiệu suất đối với các nhiệm vụ phức tạp.

• Chain prompting liên kết một chuỗi các prompts theo trình tự, trong đó đầu ra của một prompt trở thành đầu vào của prompt tiếp theo.

• Chain of Thought prompting hướng dẫn mô hình hiển thị quá trình suy luận, bằng cách trình bày các ví dụ minh họa logic đằng sau các phản hồi, từ đó nâng cao độ chính xác và độ tin cậy của mô hình.

Thiết kế prompt là một quá trình lặp lại, thường yêu cầu nhiều lần tinh chỉnh để đạt được kết quả tối ưu. Thiết lập ngữ cảnh rõ ràng, cung cấp ví dụ và sử dụng ngôn từ chính xác thường dẫn đến các phản hồi mục tiêu và chất lượng hơn.

Trong các ví dụ về tạo câu chuyện và mô tả sản phẩm, chúng ta đã thấy rằng các prompt cụ thể và rõ ràng giúp tạo ra thông tin chính xác và toàn diện hơn. Ngược lại, prompt quá chung chung có thể dẫn đến câu trả lời đúng nhưng không liên quan, và trong một số trường hợp, prompt mơ hồ thậm chí có thể khiến mô hình tạo ra thông tin sai lệch.