LlamaIndex

LlamaIndex: 연동 코드에서 기본 URL과 API 키를 설정합니다.

Hướng dẫn đã xuất bản · Phiên bản ứng dụng: chưa xác minh

Ví dụ chat, ping, invoke hoặc tạo nội dung có thể gửi yêu cầu thật và phát sinh phí. Kiểm tra model, số dư, đơn giá và mức tối thiểu trước khi chạy; GET /v1/models chỉ kiểm tra xác thực và danh mục. Đặt biến môi trường an toàn

URL gốc phải dán

SDK OpenAI thường dùng URL kết thúc bằng /v1; SDK Anthropic dùng URL gốc. Tránh thêm /v1 hai lần. Giao thức tương thích không bảo đảm mọi tính năng của nhà cung cấp.

https://thapi.cloud/v1

Chuẩn bị

pip install llama-index-llms-openai-like

Model khuyến nghị: claude-fable-5

Cách nhanh — lệnh / cấu hình

import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="claude-fable-5",
    api_base="https://thapi.cloud/v1",
    api_key=os.environ["STALI_API_KEY"],
    context_window=1000000,
    is_chat_model=True,
)
print(llm.complete("안녕하세요!"))

Bỏ file / điền Settings ở đâu

Biến môi trườngany

STALI_API_KEY

빠른 시작에 따라 Python 프로세스 환경에 STALI_API_KEY를 설정하세요. .env 파일은 자동으로 불러오지 않습니다. 키를 Git에 올리지 마세요.

Kiểm tra đã chạy đúng

complete()가 텍스트를 반환함

Khắc phục sự cố

Triệu chứng	Nguyên nhân	Cách xử lý
Connection error	api_base에 /v1이 빠져 있습니다.	api_base="https://thapi.cloud/v1"

Liên quan

LangChain