跳到主要内容

对话补全(LLM)

Call language models through an OpenAI-compatible endpoint with per-token billing from prepaid credits.

OpenAI-compatible endpoint

大语言模型使用同步的 OpenAI 兼容接口。任意 OpenAI SDK 只需把 base URL 设为 https://api.hermes-ai.net/api/v1 并使用 Hermes 的 API Key。流式输出、function 工具、JSON 模式和推理设置均可透传。

curl https://api.hermes-ai.net/api/v1/chat/completions \
  -H "Authorization: Bearer $HERMES_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "anthropic/claude-sonnet-4.5",
    "messages": [{"role": "user", "content": "Say hello in one sentence."}],
    "max_tokens": 200
  }'

Models and token billing

GET /api/v1/chat/models 返回可调用模型及每百万 token 的美元价格。计费时先按估算提示词加 max_tokens 预留额度,再按模型返回的实际用量扣费并释放其余部分;设置 max_tokens 可减少预留。错误使用 OpenAI 的 error 对象并附带文档中的错误码。

浏览大语言模型