新加坡云服务商Ready Server推出ReadyServer LLM API,VPS用户免费获得私有AI推理能力
![]() |
兼容OpenAI接口,通过内网调用开源大模型,无需API密钥,不按Token计费
新加坡2026年10月20日 /美通社/ -- 新加坡VPS云服务商Ready Server今日宣布推出ReadyServer LLM API。这是一项兼容OpenAI标准的私有AI推理接口,所有ReadyServer VPS套餐用户均可免费使用,无需额外付费。
开发者、数字营销机构和科技企业可直接在现有的ReadyServer VPS上构建AI智能体、聊天机器人、RAG(检索增强生成)应用和编程智能体。整个过程无需管理API密钥,也不按Token计费。
这一服务针对的是AI开发中日益突出的成本问题。单个Token的价格看似不高,但当应用从简单对话升级为自主运行的智能体时,调用量会迅速攀升。研究机构Gartner预测,到2028年,每个智能体工作流的AI推理成本将增长五倍以上。
为了避开按量计费的API,不少团队转而租用独立GPU服务器。但对于只需周期性运行推理任务的小型团队来说,这意味着每月为大部分时间闲置的硬件支付高昂费用。
ReadyServer LLM API采用了不同的模式。Ready Server不为每位用户单独分配GPU,而是搭建共享的AI推理基础设施,所有ReadyServer VPS用户都可通过内网访问。请求从用户的VPS直接发送到Ready Server的推理服务器,全程不经过公网。
"用AI做开发,不应该每运行一次智能体,账单就跟着上涨。我们的许多客户都是精干的小团队,他们在打造真正的产品,需要放手去尝试、去迭代,而不是时刻盯着Token用量。我们把私有LLM API直接内置到每一台ReadyServer VPS中,就是为了让本地区的开发者以可预期、可负担的成本用好AI,而且就在他们已经部署在我们平台上的应用旁边。"
—— Alan Woo,Ready Server董事
面向开发者,兼容现有工具
由于接口遵循OpenAI标准,开发者只需修改Base URL,即可将现有代码、SDK和框架接入ReadyServer。该服务支持curl、官方Python及Node.js OpenAI SDK、AI智能体框架、聊天界面、编程智能体以及其他兼容OpenAI的工具,无需额外安装任何软件。
目前平台基于vLLM提供两款开源模型:
- Qwen3.6-27B-FP8:主打快速直接响应,上下文窗口为131,072个Token
- Qwen3.8-27B-FP8:具备深度思考能力的推理模型,上下文窗口为262,144个Token
两款模型均支持工具调用、结构化JSON输出和图像输入,适用于文档检索、内容摘要、分类、数据提取及工作流自动化等场景。Ready Server计划后续上线更多模型。
公平共享机制,成本清晰可控
ReadyServer LLM API不按Token计量,而是采用公平共享机制,避免单一任务占用过多资源。高峰时段请求将进入排队,Token用量较少的用户优先获得响应。
上线信息
ReadyServer LLM API现已向所有ReadyServer VPS用户免费开放。技术文档和快速入门指南请访问readyserver.ai。
[美通社]【免责声明】本文仅代表作者个人观点,与云财经无关。其原创性以及文中陈述文字和内容未经本站证实,云财经对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
| 新闻标题 | 时间 | 消息来源 | 新闻热度 |
|---|---|---|---|
| 德国总理默茨:欧洲具备在经济上实现追赶的潜力。德国需要全面改革社会保障体系。如有必要,欧洲央行能迅速就(央行行长等)职位安排做决定,但没必要“快速做决定”。 | 今天 02:05 | 云财经 |
|
| 沙特民防部门表示,利雅得的危险已经解除。 | 10-19 22:20 | 云财经 |
|
| 比亚迪高管回应订购10艘汽车运输船 | 10-19 20:01 | 云财经 |
|
| 美国务卿鲁比奥:会见了乌兹别克斯坦外长赛义多夫,双方探讨深化美乌战略伙伴关系,涵盖基建、航天、关键矿产领域合作,以及依托 C5+1 外交机制开展协作。 | 10-19 15:01 | 云财经 |
|
| 沙特阿拉伯就奈季兰可能存在的危险发布警报。 | 10-18 18:49 | 云财经 |
|
| 泰和新材:控股子公司民士达披露2026年三季报 | 10-18 15:57 | 云财经 |
|
