Tài liệu API cho mô hình không kiểm duyệt

Xác thực và base URL

Sử dụng khóa API của bạn cho mọi yêu cầu gửi đến URL cơ sở của chúng tôi.

Endpoint Hoàn thành Trò chuyện

Gửi tin nhắn đến POST /v1/chat/completions để tạo phản hồi văn bản. Mô hình chấp nhận các cấu trúc thông điệp tiêu chuẩn và trả về các phần hoàn thiện mà không từ chối nội dung đối với việc sử dụng người lớn hợp pháp.

Chỉ có mô hình không kiểm duyệt; chúng tôi không định tuyến giữa các nhà cung cấp hoặc cung cấp embedding và tạo hình ảnh.

Copycurl https://api.glmapikeys.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the current exchange rate for usd to jpy"}]
  }'

Đảm bảo payload của bạn bao gồm ID mô hình và mảng tin nhắn của bạn để nhận phản hồi.

Điểm cuối danh sách mô hình

Truy xuất các mô hình khả dụng qua GET /v1/models. Điểm cuối này xác nhận ID mô hình uncensored sẵn sàng cho các yêu cầu.

Phản hồi liệt kê chi tiết mô hình, đảm bảo ứng dụng của bạn có thể xác minh khả năng tương thích trước khi gửi các tải trọng lớn hơn.

Tham số: nhiệt độ, top_p, seed

Kiểm soát độ ngẫu nhiên trong sinh văn bản bằng temperature, top_p, và seed. Các tham số này cho phép bạn điều chỉnh độ sáng tạo và khả năng tái tạo.

Đặt temperature cho phương sai, top_p để lấy mẫu nucleus, và seed để đầu ra xác định. Các cài đặt này hoạt động cùng với stop chuỗi và các giá trị hình phạt.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.glmapikeys.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Cấu hình những thứ này trong client SDK của bạn để tinh chỉnh kiểu đầu ra.

Dữ liệu Streaming và sử dụng

Bật chế độ streaming qua SSE để nhận token theo thời gian thực. Chunk cuối cùng bao gồm dữ liệu sử dụng, báo cáo số lượng token đầu vào và đầu ra.

Tạo luồng giúp giảm độ trễ cảm nhận đối với các phản hồi dài. Đảm bảo máy khách của bạn xử lý chunk cuối cùng đúng cách để truy cập các chỉ số tính phí.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Phân tích stream để tích hợp phản hồi vào giao diện ứng dụng của bạn.

Xử lý lỗi và giới hạn

Xử lý các lỗi cụ thể: 401 cho khóa không hợp lệ, 402 cho không đủ tín dụng và 429 cho giới hạn tốc độ. Cửa sổ ngữ cảnh là 100,000 token tổng cộng, với tối đa 16,000 token đầu ra mỗi yêu cầu.

Yêu cầu vượt quá 8 MB hoặc 300 mỗi phút sẽ kích hoạt giới hạn. Lỗi và từ chối không tiêu thụ tín dụng.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.glmapikeys.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Triển khai logic thử lại cho lỗi 429 và kiểm tra số dư của bạn cho phản hồi 402.