vLLM
DeepSeek,vLLM,SGLang
DeepSeek开源真香，vLLM/SGLang连夜性能反超，推理速度卷出新高度

DeepSeek开源其自研推理引擎DeepInfer后，vLLM和SGLang等主流开源推理框架迅速集成优化，在预填充与解码性能上实现接近甚至部分超越DeepInfer的成果；开发者基于DeepInfer启发构建新项目如Resin，推动AI推理加速进入协同迭代、持续开源的新阶段。

量子位
vLLM,Semantic Router,Decision 3.0
0.6B起，Jev对手模型来了，开源多模态，登上全球测评榜一

vLLM Semantic Router开源Decision 3.0系列多模态决策模型，参数规模覆盖0.6B至27B，支持文本、图片、视频输入，专注分类、选择、是非判断等结构化决策任务，本地可部署，在Jev Decision Index榜单中多项指标登顶，适用于客服分流、内容审核、模型路由等场景。

智东西
暂无内容
推荐专题
芯片与算力——AI时代的基础设施
市场比专家聪明——Polymarket观察站
RWA：现实资产上链进程
不只是USDT——稳定币的版图与博弈
DeSci：去中心化科研的探索与实践
热门新闻
1
美联储,商业银行,美债
信用扩张放缓、三重流动性利空，谁在「抽」资产价格的「梯子」？
2
HashKey,RWA,代币化证券
不只是资产上链：深度解析HashKey RWA如何连接下一代数字金融市场
3
Reddit,开源社区,Linux
刚刚，Reddit最大开源社区全面封杀AI，Linux和Python被除名
4
SEC,ICO,证券监管
SEC 的 Crypto 新规公示期结束，离「合规 ICO」还有多远？
5
Tether,Circle,Stripe
谁在赚数字美元的钱？稳定币发行方、分销方与支付商的利润分账
6
微软,埃克森美孚,亚马逊
AI巨头烧钱，能源巨头印钞：财报超级周，碎钞机对决印钞机