LlamaIndex

LlamaIndex: настройка базового URL и API-ключа в коде интеграции.

Hướng dẫn đã xuất bản · Phiên bản ứng dụng: chưa xác minh

Ví dụ chat, ping, invoke hoặc tạo nội dung có thể gửi yêu cầu thật và phát sinh phí. Kiểm tra model, số dư, đơn giá và mức tối thiểu trước khi chạy; GET /v1/models chỉ kiểm tra xác thực và danh mục. Đặt biến môi trường an toàn

URL gốc phải dán

SDK OpenAI thường dùng URL kết thúc bằng /v1; SDK Anthropic dùng URL gốc. Tránh thêm /v1 hai lần. Giao thức tương thích không bảo đảm mọi tính năng của nhà cung cấp.

https://thapi.cloud/v1

Chuẩn bị

pip install llama-index-llms-openai-like

Model khuyến nghị: claude-fable-5

Cách nhanh — lệnh / cấu hình

import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="claude-fable-5",
    api_base="https://thapi.cloud/v1",
    api_key=os.environ["STALI_API_KEY"],
    context_window=1000000,
    is_chat_model=True,
)
print(llm.complete("Здравствуйте!"))

Bỏ file / điền Settings ở đâu

Biến môi trườngany

STALI_API_KEY

Задайте STALI_API_KEY в окружении процесса Python по инструкции быстрого старта. Файл .env не загружается автоматически; не добавляйте ключи в Git.

Kiểm tra đã chạy đúng

complete() возвращает текст

Khắc phục sự cố

Triệu chứng	Nguyên nhân	Cách xử lý
Connection error	В api_base отсутствует /v1.	api_base="https://thapi.cloud/v1"

Liên quan

LangChain