阿里云百炼批量推理服务品类示意图
内容纠错
品牌 阿里云

阿里云百炼批量推理服务

型号 批量推理(Batch Inference)大模型与软件服务
关键规格 1供方提供成本为实时推理50%
关键规格 2供方提供单文件≤50000请求且≤500MB
关键规格 3供方提供单行≤1MB
关键规格 4供方提供上下文最大256K(Batch)
参考单价询价

下载资料参考小计 询价

价格与库存供选型参考,正式报价和交期请供方确认。

规格参数

接口与系统

API 兼容格式
OpenAI 兼容(/v1/chat/completions、/v1/embeddings、/v1/batches) · 仅支持 OpenAI 兼容格式调用,base_url 须设为 dashscope compatible-mode/v1
输入文件格式
UTF-8 编码 JSONL · 每行一个独立 JSON 对象,含 custom_id/method/url/body
地域
华北 2(北京)、新加坡 · 两地支持的模型列表不同
任务最长等待时间
1–14 天 · 创建任务时可设置

供电

计费
实时推理价格的 50% · 按成功请求的输入输出 Token 计费;不支持预付费、新人免费额度、上下文缓存

资料下载

同类对比

规格本品 · 批量推理(Batch Inference)kimi-k3.1-pro火山方舟模型 APIqwen-audio-3.1-asr-flashdoubao-seed-2.1-turbo
主控—————
NPU—————
内存 / 显存—————
参考单价询价询价询价询价询价
库存—————

产品介绍

用途与适用:批量推理用于模型评测、数据标注等无需实时响应的批量作业,异步处理大批量数据请求。

使用流程:准备 UTF-8 编码 JSONL 文件(每行一个 JSON 对象,含 custom_id、method、url、body 字段),通过控制台或 API(POST /v1/batches)创建任务,轮询状态至 completed,下载结果文件与错误文件。任务最长等待时间可设 1–14 天。

规格约束:单文件不超过 50,000 个请求且不超过 500 MB;单行 JSON 对象不超过 1 MB 且不超过模型上下文长度;同一文件内所有请求须使用相同模型及思考模式;custom_id 最大 256 字符。Batch 场景下 qwen3.5/qwen3.6/qwen3.7/qwen3.8 系列等单次请求上下文最大 256K,omni 系列不支持语音输出。

地域与模型:华北 2(北京)支持千问 Max/Plus/Flash/Long 文本模型、qwen-vl 图像视频理解、qwen-vl-ocr 文字提取、qwen3.5-omni 全模态及 text-embedding 系列向量模型;新加坡支持模型范围较小。

计费:所有成功请求的输入输出 Token 单价为对应模型实时推理价格的 50%,仅对成功执行的请求计费,失败与行级错误不产生费用。部分模型默认开启思考模式,思考 Token 按输出 Token 计价,可用 enable_thinking 与 thinking_budget 控制(须与 model 同级,不能放 extra_body)。

采购前核查:确认目标模型在所选地域是否支持;媒体文件须公网可访问;批量推理不支持上下文缓存等优惠;任务结束超 30 天结果自动删除,需及时下载。

资料来源 阿里云;阿里云帮助中心

整理说明 内容由 AI 根据公开资料整理;事实与推断分开呈现。

内容纠错

产品参数对比

选型助手

让需求变成可修改的筛选条件

依据已录入参数生成条件,结果可查看和修改。帧率与性能需核对实测,不能仅凭算力数值保证。