硅基流动官方微博近日发布了一项重要公告,宣布其SiliconCloud平台的DeepSeek-R1和V3API现已支持批量推理(Batch Inference)功能。这一新功能的推出,标志着硅基流动在人工智能服务领域的又一次重大突破。
通过批量API,用户可以向SiliconCloud平台发送大量数据处理请求,而无需担心实时推理速率限制的问题。根据官方介绍,批量推理任务预计可在24小时内完成,极大地提高了数据处理的效率。更令人振奋的是,DeepSeek-V3批量推理的价格相比实时推理直接降低了50%。此外,在3月11日至3月18日期间,DeepSeek-R1批量推理更是推出了75%的优惠活动,输入价格仅为1元/百万Tokens,输出价格也降至4元/百万Tokens。
批量推理功能的推出,为用户处理大批量数据任务提供了更高效的解决方案。无论是生成报告、数据清洗,还是进行数据分析、模型性能评估等场景,这项新功能都能发挥重要作用。特别适用于那些不需要实时响应的数据处理任务,让用户能够以更低的成本享受DeepSeek-R1和V3API的优质服务。
