Dịch thuật bằng LLM tự lưu trữ

Tích hợp một LLM tự lưu trữ (ví dụ: thông qua Ollama) làm nhà cung cấp dịch thuật vào directive @strTranslate, để dịch giá trị của một trường sang bất kỳ ngôn ngữ nào mong muốn.

Mô tả

Làm cho một LLM tự lưu trữ có sẵn như một nhà cung cấp dịch thuật trong directive @strTranslate.

Thêm directive @strTranslate vào bất kỳ trường nào có kiểu String, để dịch nó sang ngôn ngữ mong muốn.

Ví dụ, query này dịch các trường title và content của bài viết từ tiếng Anh sang tiếng Pháp bằng LLM tự lưu trữ của bạn:

{
  posts {
    title @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
    
    content @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
  }
}

Xác thực

Nếu bạn tự lưu trữ LLM trên server của mình, bạn sẽ không cần API key.

Nếu bạn sử dụng LLM tự lưu trữ trên đám mây (ví dụ: khi dùng Ollama Cloud), bạn có thể cần cung cấp API key, qua tab Plugin Management > Self-Hosted LLM Translation trên trang Cài đặt.

Sau đó làm theo một trong các phương thức dưới đây để nhập giá trị.

Qua Cài đặt

Nhập API key vào các ô nhập liệu tương ứng trên trang Cài đặt và nhấp vào "Save Changes (All)":

Trong `wp-config.php`

Thêm hằng số GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY vào wp-config.php:

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY', '{your API key}' );

Qua biến môi trường

Định nghĩa biến môi trường SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY.

Cấu hình LLM

Bạn phải cấu hình các giá trị sau:

Endpoint URL: URL endpoint HTTP cho mô hình LLM tự lưu trữ của bạn. Ví dụ:
- http://localhost:11434/v1/chat/completions khi dùng định dạng ChatGPT và lưu trữ mô hình LLM trên server của bạn bằng Ollama
- http://localhost:11434/v1/messages khi dùng định dạng Claude và lưu trữ mô hình LLM trên server của bạn bằng Ollama
- https://ollama.com/v1/chat/completions khi dùng định dạng ChatGPT và Ollama Cloud
- https://ollama.com/v1/messages khi dùng định dạng Claude và Ollama Cloud
Compatible with API endpoint from: Nhà cung cấp dịch vụ AI nào mà endpoint tùy chỉnh của bạn tương thích, với các tùy chọn ChatGPT và Claude
Model: Tên mô hình LLM tự lưu trữ sẽ sử dụng khi dịch nội dung.
Max tokens: Số lượng token tối đa mà mô hình có thể tạo ra trong phản hồi. Để trống để không đặt giới hạn cho ChatGPT, hoặc dùng giá trị mặc định cho Claude.

Làm theo một trong các phương thức dưới đây để nhập các giá trị.

Qua Cài đặt

Nhập mô hình vào ô nhập liệu tương ứng trên trang Cài đặt và nhấp vào "Save Changes (All)":

Trong `wp-config.php`

Thêm các hằng số vào wp-config.php:

GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL', 'http://localhost:11434/v1/chat/completions' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER', 'chatgpt' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL', 'translategemma' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS', '128000' );

Qua biến môi trường

Định nghĩa các biến môi trường:

SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE', 'Please translate strings from {$sourceLang} to {$targetLang}' );

Qua biến môi trường

Định nghĩa biến môi trường SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE.