高级功能

Q: 支持 RAG(检索增强生成)吗?

A: 平台提供的方案:

自建 RAG:使用我们的 Embedding API 将文档向量化 → 存入您的向量数据库(如 Milvus/Pinecone)→ 检索相关片段 → 拼入 prompt 调用对话模型

Q: 支持 JSON Mode / 结构化输出吗?

A: 支持。设置 response_format={"type": "json_object"} 可让模型输出合法 JSON:

response = client.chat.completions.create(    model="[模型名称]",    messages=[        {"role": "system", "content": "请以JSON格式输出,包含name和age字段"},        {"role": "user", "content": "张三,25岁"}    ],    response_format={"type": "json_object"})

注意:system prompt 中必须包含"JSON"相关提示,否则可能报错。

Q: 支持 Vision(图片理解)的具体格式是什么?

A: 支持两种图片传入方式:

方式一:使用图片 URL
image_by_url = {    "type": "image_url",    "image_url": {        "url": "https://example.com/img.jpg"    }}
方式二:使用 Base64
image_by_base64 = {    "type": "image_url",    "image_url": {        "url": "data:image/jpeg;base64,/9j/4AAQ..."    }}

支持格式:JPEG / PNG / GIF / WebP

  • 单张图片大小限制:4 MB

  • 单次请求最多 1张图片

  • 图片 Token 消耗与分辨率相关,高分辨率图片消耗更多