Q: 支持 RAG(检索增强生成)吗?
A: 平台提供的方案:
自建 RAG:使用我们的 Embedding API 将文档向量化 → 存入您的向量数据库(如 Milvus/Pinecone)→ 检索相关片段 → 拼入 prompt 调用对话模型
Q: 支持 JSON Mode / 结构化输出吗?
A: 支持。设置 response_format={"type": "json_object"} 可让模型输出合法 JSON:
response = client.chat.completions.create( model="[模型名称]", messages=[ {"role": "system", "content": "请以JSON格式输出,包含name和age字段"}, {"role": "user", "content": "张三,25岁"} ], response_format={"type": "json_object"})注意:system prompt 中必须包含"JSON"相关提示,否则可能报错。
Q: 支持 Vision(图片理解)的具体格式是什么?
A: 支持两种图片传入方式:
方式一:使用图片 URL
image_by_url = { "type": "image_url", "image_url": { "url": "https://example.com/img.jpg" }}方式二:使用 Base64
image_by_base64 = { "type": "image_url", "image_url": { "url": "data:image/jpeg;base64,/9j/4AAQ..." }}支持格式:JPEG / PNG / GIF / WebP
单张图片大小限制:4 MB
单次请求最多 1张图片
图片 Token 消耗与分辨率相关,高分辨率图片消耗更多
