LlamaIndex

LlamaIndex: hướng dẫn đặt URL cơ sở và khóa API trong mã tích hợp.

Hướng dẫn đã xuất bản · Phiên bản ứng dụng: chưa xác minh

Ví dụ chat, ping, invoke hoặc tạo nội dung có thể gửi yêu cầu thật và phát sinh phí. Kiểm tra model, số dư, đơn giá và mức tối thiểu trước khi chạy; GET /v1/models chỉ kiểm tra xác thực và danh mục. Đặt biến môi trường an toàn

URL gốc phải dán

SDK OpenAI thường dùng URL kết thúc bằng /v1; SDK Anthropic dùng URL gốc. Tránh thêm /v1 hai lần. Giao thức tương thích không bảo đảm mọi tính năng của nhà cung cấp.

https://api.cadhayvn.com/v1

Chuẩn bị

pip install llama-index-llms-openai-like

Model khuyến nghị: claude-fable-5

Cách nhanh — lệnh / cấu hình

import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="claude-fable-5",
    api_base="https://api.cadhayvn.com/v1",
    api_key=os.environ["STALI_API_KEY"],
    context_window=1000000,
    is_chat_model=True,
)
print(llm.complete("Xin chào!"))

Bỏ file / điền Settings ở đâu

Biến môi trườngany

STALI_API_KEY

Đặt STALI_API_KEY trong môi trường tiến trình Python theo mục Bắt đầu nhanh. File .env không được tự nạp; không đưa key lên Git.

Kiểm tra đã chạy đúng

complete() trả text

Khắc phục sự cố

Triệu chứng	Nguyên nhân	Cách xử lý
Connection error	api_base thiếu /v1.	api_base="https://api.cadhayvn.com/v1"

Liên quan

LangChain