OpenRelayInc 推出统一推理端点服务

摘要与判断

OpenRelayInc 正式推出统一推理端点服务，支持跨四大洲22个地点的 NVIDIA、TPU、AMD 等8种加速器，每周可处理千亿级 tokens。该服务主打比自行租赁硬件便宜最高20%且免除硬件管理烦恼，为开发者提供更低成本、高弹性的全球算力调用方案，并获得 Y Combinator 转发支持。

Topics

引用和原文

• Launching @OpenRelayInc : One Endpoint to Rule Them All - 100B tokens/week across 22 locat
• 原文链接

Trace

Raw Item

raw_f2f7eadc8061471c

Processed Item

processed_82c6acabb7fb4ef0

Source

source_x_ycombinator

Cluster

查看所属簇

LLM Logs

llm_4a0c30e2dfac45fc, llm_53d5d4d2532141ac, llm_60423a0df2e24031

Coze Loop

d345d5606d562977a71fd3811dea1c57