Claude 101: Những khái niệm cơ bản

Hello cả nhà!

Trong quá trình đẩy mạnh việc sử dụng AI, FLINTERS cũng như FLINTERS Vietnam đã lựa chọn Claude là công cụ AI chính thức. Không chỉ dev, mà cả các members không quá rành về công nghệ cũng đang sử dụng Claude trong công việc hàng ngày. Khi sử dụng một công cụ AI mới chắc sẽ có một số member giống mình, có nhiều điểm bỡ ngỡ và không biết bắt đầu từ đâu. Bài blog này nhằm cung cấp kiến thức và giải thích về một số khái niệm thường gặp trong Claude nhé!

1. Token

Token có thể được hiểu giống như dung lượng data 4G trên điện thoại của bạn. Mỗi khi bạn dùng Claude, dù là gõ câu hỏi, nhờ đọc file, phân tích code hay tìm kiếm thông tin trên web, Claude đều tiêu một lượng token nhất định. Lượng token này được trừ dần vào hạn mức sử dụng của bạn.

Token được tính ở cả hai chiều:

• Những gì Claude đọc (input token): tin nhắn của bạn, file đính kèm, tài liệu Claude tìm được trên web, và cả toàn bộ lịch sử cuộc trò chuyện trước đó
• Những gì Claude viết (output token): câu trả lời gửi cho bạn

Để hiểu sâu hơn về token, chúng ta cùng tìm hiểu về nguyên lý của nó cũng như một ví dụ cụ thể nhé! Khi chúng ta đọc để hiểu một văn bản thì thường đọc theo từng từ, từng cụm, từng đoạn. Tuy nhiên Claude lại hoạt động theo nguyên lý khác, Claude sẽ tách nhỏ từng cụm từ thành các mảnh thường gặp để phân tích thông tin. Việc chia nhỏ này cũng giải thích vì sao chúng ta có thể gõ sai 1 hay 2 chữ nhưng Claude vẫn nhận diện và hiểu được đúng ý. Ví dụ như cụm “I love Flinters Vietnam,” với người bình thường thì sẽ thấy là nó có 4 từ, tuy nhiên, với Claude, cụm này sẽ rơi vào khoảng 7 token. “I” và “love” là các từ hay gặp nên mỗi từ này sẽ chiếm khoảng 1 token tương ứng, nhưng Flinters là một từ khó và ít gặp nên sẽ chiếm khoảng 3 token cho “Fl”, “int” và “ers”. “Vietnam” cũng là một từ hay gặp nên dù có 7 chữ nhưng cũng sẽ chỉ chiếm khoảng 1 token. Ngoài ra, nếu chúng ta dùng tiếng Việt thì sẽ tốn token nhiều hơn nữa, do các tài liệu học của Claude chủ yếu là tiếng Anh, nên nhiều từ tiếng Việt, đặc biệt là các từ có dấu, sẽ đều cần break down nhỏ hơn và tốn token hơn. Tương tự, tiếng Nhật cũng ngốn token khá nhiều, đặc biệt do hệ thống chữ viết không phải là chữ Latin. Mọi người có thể tham khảo chính xác số token trong từng văn bản theo hướng dẫn ở đây nha.

1. Context window

Đây là cửa sổ làm việc mà bạn mở ra mỗi lần làm việc với Claude. Bạn có thể hình dung nó như bàn làm việc của bạn vậy, và mỗi khi bạn chat thêm hay thêm tài liệu vào để Claude đọc cũng tương đương với việc bạn chất thêm công cụ lên bàn làm việc vậy. Sau đây là một số điểm mà bạn cần lưu ý về context window:

• Với mỗi tin nhắn hay yêu cầu của bạn, Claude sẽ đọc hết toàn bộ nội dung ở trong cửa sổ đó, chứ không chỉ đọc tin nhắn gần nhất. Tính năng này giúp Claude hiểu ngữ cảnh tốt, tuy nhiên lại rất tốn token nếu như cửa sổ của bạn chất đống nhiều thông tin. Chính vì vậy, mỗi khi bạn muốn bắt đầu một chủ đề mới tách biệt hoàn toàn khỏi ngữ cảnh cũ, đừng ngần ngại mà hãy tạo một cửa sổ mới để Claude làm việc hiệu quả hơn nhé
• Context window có giới hạn khoảng 1 triệu token, rơi vào khoảng 1300 trang văn bản A4. Con số này có thay đổi tùy vào model mà bạn chọn, ví dụ như với các model cũ thì con số này chỉ còn khoảng 500k. Khi bạn gần đạt giới hạn của cửa sổ, bạn có thể nhận thấy là câu trả lời của Claude bị chậm đi, hoặc là hiện tượng ảo giác xảy ra thường xuyên hơn. Vậy nếu bạn vẫn muốn tiếp tục công việc mà cửa sổ đã hết giới hạn thì sao? Đừng lo, bạn hãy gõ prompt “compact context” hoặc lệnh /compact để yêu cầu Claude tóm tắt lại những điểm chính, rồi copy phần tóm tắt đó và quẳng nó qua một cửa sổ mới và tiếp tục làm việc là ok. Ngoài ra, Claude còn có tính năng tra cứu lại các cuộc nói chuyện trong quá khứ, nên nếu bạn muốn Claude tra cứu bất cứ thông tin nào thì hãy yêu cầu bằng các câu prompt như “Look up past conversations” để Claude tra cứu và nắm ngữ cảnh mà context window không bị quá tải (Bạn hãy lưu ý bật tính năng này trong setting nha)
  

1. Usage Limit

Usage limit là giới hạn sử dụng mà bạn được cấp cho mỗi session và mỗi tuần, có thể hình dung như là giới hạn gói data mà bạn dùng cho điện thoại. Việc sử dụng hạn mức này dựa trên số lượng token và model (cả input và output) mà bạn sử dụng cho mỗi phiên làm việc. 

Claude có hai loại hạn mức chạy song song:

• Hạn mức theo phiên (session) 5 tiếng
• Hạn mức theo tuần

 Mỗi tài khoản đều được cấp một hạn mức sử dụng, và khi bạn vượt quá gói này thì bạn sẽ phải chờ khi nó reset, hoặc là dùng credit, hay nói cách khác là nạp thêm tiền để có thể tiếp tục dùng Claude. Đoạn này có lẽ sẽ hơi khó hiểu, nên mình sẽ giải thích ý nghĩa của từng khái niệm này nhé!

• Session là gì?

Session là khoảng thời gian 5 tiếng, được tính từ thời điểm đầu tiên bạn chat hoặc chạy task trên Claude. Hạn mức của Claude được chia theo từng phiên làm việc, và sẽ reset sau mỗi 5 tiếng.
Ví dụ nếu như bạn bắt đầu dùng Claude từ 8h sáng và dùng rất nhiều, hết hạn mức của một session, thì bạn sẽ phải chờ đến 13h chiều hôm đó để hạn mức reset. Để tránh cho công việc không bị gián đoạn thì mọi người chú ý kiểm tra phần Usage trong setting nhé, hoặc chia lượng công việc trong ngày ra theo cách hợp lý.

Vì session bắt đầu tính từ tin nhắn đầu tiên, bạn hoàn toàn có thể chủ động chọn thời điểm hạn mức được làm mới, sao cho khớp với lúc bạn cần Claude nhất. Cá nhân mình thì có một tip trick nhỏ để chia session đúng với nhu cầu sử dụng hàng ngày của mình, đó là đặt một Scheduled task chạy tự động trên cloud vào lúc 9h sáng hàng ngày, để limit cố định reset vào lúc 2h chiều là thời điểm mà mình hay phải dùng Claude nhất. Nếu không có “báo thức” này, session có thể bắt đầu vào lúc lung tung, và việc phân bổ công việc sẽ bị động.
Một vài lưu ý khi dùng mẹo này:

a. Task phải chạy trên cloud, tức là trên máy chủ của Anthropic, không cần máy tính của bạn bật. Nếu chạy local mà 9h sáng máy chưa mở, task sẽ không chạy và “báo thức” sẽ không kêu.

b. Task tự động cũng tốn một chút hạn mức, nên hãy để nó là một task thật nhẹ thui

c. Nếu bạn tự chat với Claude trước 9h thì session sẽ bắt đầu từ lúc đó, và giờ làm mới cũng sẽ lệch theo

• Weekly limits

Ngoài session 5 tiếng, bạn còn có một hạn mức theo tuần. Đây là giới hạn cố định của mỗi người, và sẽ reset vào một thời điểm nhất định trong tuần. Mọi người có thể kiểm tra dung lượng của mình còn bao nhiêu bằng cách vào Settings → Usage, và kiểm tra xem weekly limit reset vào lúc nào nhé!

Hạn mức tuần và hạn mức session là 2 hạn mức chạy song song, và nếu bạn bị hết một trong hai thì bạn sẽ không thể dùng Claude, hoặc phải đổi sang credit usage thì mới có thể sử dụng tiếp được. 

• Usage credits

Usage credits có thể được hình dung như gói VIP của Claude. Đây là số tiền bạn có thể nạp thêm khi đã sử dụng hết hạn mức, hoặc là nếu bạn muốn dùng model xịn như Fable thì cũng cần phải dùng credit thay vì token thông thường. Các bạn dev hiện đang có sẵn khoảng 50 đô credit mỗi người để dùng hàng tháng (chính sách có thể thay đổi), nếu mọi người cần xin thêm thì hãy làm đơn theo hướng dẫn nhé! Ngoài ra, nếu mọi người cần dùng Claude nhiều hơn thế nữa, có thể cân nhắc nâng gói lên Premium Seat. Premium Seat là gói “vip pro,” với lượng token cho phép x5 lần cho cả session và tuần so với tài khoản Team Plan.
Nếu bạn thỉnh thoảng mới bị hết hạn mức thì hãy xin thêm usage credits, còn nếu thường xuyên bị hết hạn mức (>2 lần một tháng) → hãy cân nhắc Premium seat.

Vậy là chúng ta đã cùng nhau đi qua những khái niệm quan trọng nhất khi dùng Claude rồi, hi vọng là bài viết này có ích cho mọi người. Còn rất rất nhiều những kiến thức hay ho về Claude mà mình muốn chia sẻ nữa, nhưng bài cũng đã khá dài rồi nên mình sẽ tạm kết thúc ở đây. Hẹn mọi người vào một bài blog mới, and happy prompting~