LMSYS 成立 SGLang 聯盟,輝達、AMD、Google、Meta 等八家業者共推開源 AI 推論_apple id转海外方法介绍:账号地区转换说明 App Store账号
非營利組織 LMSYS Org 12 日在舊金山首屆 SGLang Summit 開幕主題演講,立Sg聯宣布成立「SGLang 聯盟」(SGLang Consortium)。盟輝創始成員有輝達、共推AMD、開源英特爾、推論Google、立Sg聯apple id转海外方法介绍:账号地区转换说明 App Store账号Meta、盟輝Cloudflare、共推Modal 與 RadixArk,開源共八家業者,推論一起參與開源 AI 推論引擎 SGLang 發展藍圖。立Sg聯
SGLang目前已在數十萬顆GPU運行。盟輝Meta、共推微軟、開源Google、推論最新美区账号ID共享:账号获取与使用方法介绍亞馬遜、Thinking Machines Lab、Cloudflare、Reflection與Modal等業者,都用它支撐正式環境的推論服務。支援的硬體包括輝達與AMD GPU、英特爾Xeon處理器及Google TPU。
依照聯盟的運作方式,每家創始成員各指派一名技術代表,每年參加兩次藍圖會議。會議之間可成立工作小組協作,並公開發表方向與進度。成員可用工程專業、部署回饋、測試資源或共同開發等方式貢獻。重點領域包括尖端模型支援、推理與多模態工作負載、分散式推論及硬體最佳化。不過,技術決策與程式碼採納仍由SGLang維護者負責,專案也持續開放給整個社群。
SGLang原始論文共同作者、RadixArk共同創辦人暨執行長Ying Sheng代表團隊表示,大規模運行SGLang的團隊,最能率先看見推論下一步的需求。輝達超大規模與高效能運算副總裁Ian Buck指出,更好的軟體能協助開發者從輝達運算資源取得更多效能。AMD人工智慧應用企業副總裁Ramine Roane則表示,開源讓開發者能進一步推進AI推論。
LMSYS Org引述Deloitte預測指出,推論的AI運算占比,預料將從2025年約一半提高至2026年約三分之二。推論需求攀升,軟體層效率改善已成為晶片商與雲端業者爭取效能的關鍵。
不過,這次公告沒有提出具體時程、功能優先順序或效能數據。聯盟能否把成員的需求轉化為實際採納的程式,仍有待觀察;使用者也需要針對自己的模型與硬體驗證效益。首屆SGLang Summit 12~13日舉行,超過百位講者參與,議程涵蓋強化學習、多模態模型與硬體平台等主題。
- Covering the Fastest Computers in the World and the People Who Run Them
- LMSYS Org Launches SGLang Consortium with NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal and RadixArk to Advance Open-Source AI Inference
- LMSYS Org launches SGLang Consortium with NVIDIA, AMD, Google and Meta
- LMSYS Org Launches SGLang Consortium
- LMSYS Org Launches SGLang Consortium with NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal and RadixArk to Advance Open-Source AI Inference
- SGLang Consortium Launches With NVIDIA, AMD, Intel, Google and Four Other Members
- LMSYS Org Launches SGLang Consortium with NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal and RadixArk to Advance Open-Source AI Inference
(首圖來源:LMSYS Org)
- 最近发表
-
- 一级能效国标落地首月,充电桩企业迎来“能效大考”:驴充充直流桩获证背后
- 不必将生命寄托于奇迹丨记者手记 (本文首发于南方人物周刊) 南方人物周刊 05-19 5评论
- 12月起 又将有一批新规影响厦门市民生活
- “唤醒”古大厝!泉州鲤城这个社区有招……
- 全国城乡低保平均增长19.6%和21.3%
- 从“绘图员”到“项目管家”:诺柏盛1对1模式破解全屋定制难题-
- 17年来首次修法,国有资产怎么管?|说政经事 此次修订的核心逻辑,是把多年来行之有效的国企改革实践上升为法律。 国有资本收益可调入一般公共预算收入,国有资本可专项用于充实全国社会保障基金。 “对混合所有制企业开展核查,应通过公司法规定的途径,而不应具有动用类似公权力的手段。” 政经 05-20 6评论
- 6月24日 周四股市交易提醒
- 动力煤降幅扩大;焦炭暂稳;焦煤需求没有起色
- 高达172% 厦门居民杠杆率全国第一
- 随机阅读
-
- 余海兵:27年扎根泥土,只为育出“一粒”好种子
- 7字形卧室装修效果图
- 人體蛋白化身「抗癌送貨車」遞送!清大突破 mRNA 開發癌症免疫治療
- 告别礼盒同质化!稻仙草高品质礼盒,开启节庆掘金新蓝海!
- 金寨新能源助力车产业集群跻身“国家队”
- 泉州市领导到泉州台商投资区调研
- 馬年台股飆成「大黑馬」!群益蔡明彥:羊年行情可期,台積電有望上看 3,200 元
- 从“绘图员”到“项目管家”:诺柏盛1对1模式破解全屋定制难题-
- 教育部门多措并举推进高校毕业生就业工作
- 角美可坐公交车直达厦门北站 全程3元设32个站点
- 6×13米自建房设计图
- 2026年北京质量靠谱暖气片品牌店排行榜 盼盼散热器上榜-
- “更懂你、会办事”,支付宝携手科大讯飞升级智能座舱服务
- 不必将生命寄托于奇迹丨记者手记 (本文首发于南方人物周刊) 南方人物周刊 05-19 5评论
- 600平方的房子设计图
- 近15亿元融资,够不够匹克“翻身”?
- 新闻时讯
- 泉州市领导到泉州台商投资区调研
- 真鲜+质感双爆!妙蕊新品,解锁健康饮品高利润密码!
- 600平方米房屋设计图
- 搜索
-
- 友情链接
-