标签: GPU
自托管GPU集群编排：把散落的显卡变成一台AI服务器先说个扎心的现实
自托管GPU集群编排：把散落的显卡变成一台AI服务器先说个扎心的现实：手里捏着几张显卡，想自己部署大模型，事情比想象中麻烦得多。单卡还能凑合跑，装个推理工具就能跑起来。但凡有两三台机器、每台插着不同的卡，要同时跑vLLM和SGLang两套引擎，那就等着折腾吧——手动装环境、配端口、写启动脚本，模型一更新还得一台台重来。租云上GPU实例按小时计费，短期用用还行，长期跑推理服务，账单比显卡折旧还快。inferna-next就是冲着这个来的。这是一个刚冒出来的开源项目（GitHub上51颗星，Apache-2.0协议），定位是自托管GPU集群的"控制平面"：你只管选模型，它自动决定跑在哪台机器、用哪张卡、上哪个引擎。系统架构整体分三层：中央服务器：基于FastAPI，负责认证、权限、模型目录、实例调度，对外提供网页界面和REST、gRPC接口。Worker代理：跑在每台GPU主机上，每5秒汇报一次显卡状态和实例健康情况。服务器下发指令后，Worker负责拉起或销毁推理容器（vLLM或SGLang），全程走Docker。数据层：PostgreSQL存数据，Prometheus+Grafana做监控。一条dockercompose命令就能把整套东西跑起来。部署体验内置模型目录，Qwen、Llama、Phi、DeepSeek、BGE、Whisper、Qwen2.5-VL都在里面。选一个模型点部署，它会自动选有空闲显存的机器、选合适的引擎、按"低延迟"或"高吞吐"档位调参。多厂商GPU也在支持范围内。NVIDIA走NVML，AMD走ROCm，没有真卡还能开模拟模式。另外还内置了JWT登录、基于角色的权限控制和监控面板。现状项目在早期，文档和稳定性都需要自己踩坑。它的方向有一定价值——把"跑模型"这项重复劳动自动化。对手里有几张卡、想绕开云厂商的团队，可以留意一下后续进展。多机调度和故障恢复做扎实之后，自托管模型服务的门槛会低一些。
AI正在慢慢变成一场有钱人的游戏。黄仁勋牵头联合阿波罗、贝莱德、黑石、博枫、高
AI正在慢慢变成一场有钱人的游戏。黄仁勋牵头联合阿波罗、贝莱德、黑石、博枫、高盛、KKR六大华尔街巨头，官宣搭建算力融资平台，计划长期动员超过5000亿美元的第三方资本投入AI算力基础设施建设36氪。简单来讲，如果AI企业拿不出足够现金采购GPU，这套平台就帮忙对接华尔街金主提供融资支持。目前完整的贷款利息条款尚未敲定。英伟达内心最担心AI行业热度降温，芯片需求下滑；但GPU硬件成本高昂，很多客户一次性全款采购压力巨大。于是英伟达牵线手握巨额资金的金融巨头，通过算力融资租赁模式，降低产业链企业采购芯片的现金流门槛，以此维持行业算力采购的循环运转。谷歌也走出了一条高度相似的道路，Anthropic就是谷歌TPU数据中心最大的客户。但是AI创业公司很难一次性拿出数百亿现金买下算力硬件，于是谷歌引入财团资金，由SPV特殊目的实体出资买下整套TPU算力资产，再长期租赁给Anthropic，公司后续依靠经营收入逐年支付租金。算力赛道的成本门槛越来越高，GPU采购、数据中心电费等各项开支水涨船高，高昂的前期投入，已经让现金流薄弱的参与者很难亲自自建大规模算力。这场算力的击鼓传花游戏想要继续运转下去，就必须源源不断有大额资本进场，为硬件采购、AI创业公司输血。但是整套模式背后潜藏不小隐患：算力投资门槛持续抬升，资金投入成本越来越贵，最终市场还是要看AI企业能不能实现盈利、客户是否愿意长期付费、ARR年度经常性收入能否持续走高。一旦ARR增长陷入停滞，这套重资产扩张的商业逻辑就会被动摇。这种“外部资本出钱购置算力资产，AI企业按期支付租金”的模式，让AI基建越来越偏向金融化运作。市场上不少投资者担忧，真正愿意为AI产品付费的终端买单人还没有大规模出现，但是算力资本扩张的舞台已经搭建到很高的位置。
清晨8点，一条中信证券的研报弹出来，让市场从存储芯片的狂欢中稍稍抽离，把目光投向
清晨8点，一条中信证券的研报弹出来，让市场从存储芯片的狂欢中稍稍抽离，把目光投向了AI算力底座里更沉默的一环不是GPU，不是HBM，而是PCB和CCL。说白了：就是AI服务器里那块承载所有芯片的电路板，以及做电路板用的覆铜板。中信证券的定调：上半年业绩已经亮眼，下半年还要加速增长，CCL环节的涨价更是短期就能落地，中长期价格高位的确定性在不断增强。当全球都在为英伟达的GPU缺货，HBM涨价而焦虑时，真正的产业瓶颈，已经悄悄传导到了更底层的物理材料上。AI服务器不是把芯片焊上去就完事了，它需要高多层、高密度、低损耗的电路板来支撑日益恐怖的信号传输需求。英伟达下一代机架被曝因PCB工艺延迟，就是直接的警报。而PCB的产能扩张，又受制于上游CCL的供给。于是，CCL的涨价，就成了这轮AI基建里确定性比较强的环节之一。更要琢磨的是，这份研报给出的判断，AI新产能释放，下游加速拉货。这几乎是在说，AI的资本开支正在从云厂商的财报指引，转化为对电路板和覆铜板供应商的真金白银订单。前面的芯片涨完了，现在轮到板子涨价了。这正是我反复强调的那层逻辑。AI的利润，正在沿产业链向底层和不起眼的材料环节传导。台积电涨完，光模块涨；光模块涨完，存储涨；存储涨完，现在轮到PCB和CCL。每一次传导，都是对卖水人的一次价值重估。掏心窝子的话放这儿。中信证券这份研报，不是让你去追PCB板块的涨停，而是给你确认一个更硬的产业趋势：算力基建的红利，正在从聚光灯下的芯片，流向那些藏在机柜深处、却缺一不可的基础材料。去翻一翻，谁在做AI服务器用的高频高速覆铜板，谁在给CCL厂供那几微米级别的铜箔和玻纤布。那才是这轮AI基建下半场，被低估的下一个印钞机。ai行情分析
黄仁勋最近干了两件大事。斥资209.7亿美元买入SpaceX股份，再砸约300
黄仁勋最近干了两件大事。斥资209.7亿美元买入SpaceX股份，再砸约300亿美元拿下英特尔股份。这两笔投资加起来超过510亿美元，不是小数目。消息是8月14日正式曝光的，英伟达向美国SEC提交了13F持仓报告，把家底亮了出来。很多人第一反应是黄仁勋大手笔，到处撒钱。但仔细扒一扒，事情没那么简单。先说说SpaceX这笔。很多人以为是英伟达最近真金白银买进去的，其实不是。这笔持股的源头，是今年1月英伟达投给xAI的100亿美元。当时xAI还是马斯克独立的AI公司，英伟达是主要投资方之一。才过了一个月，马斯克就宣布了大动作。SpaceX以换股的方式收购xAI，合并后的实体估值1.25万亿美元。这样一来，英伟达手里的xAI股权，自动转换成了SpaceX的股份。相当于英伟达没直接买SpaceX，绕了一圈成了股东。截至6月底，英伟达持有1.228亿股SpaceX的A类股票。按当时170.86美元的股价算，价值刚好约210亿美元。这笔投资半年时间账面翻了一倍还多，看起来赚得盆满钵满。不过最近SpaceX股价回调，已经跌到140美元左右。按最新价格算，英伟达持股市值缩水到约172亿美元。即便如此，相比100亿美元的成本，依然有70多亿美元的浮盈。在SpaceX的股东名单里，英伟达排第六位。头把交椅当然是马斯克本人，持股账面价值约8500亿美元。有意思的是，持股曝光的时间点很巧。就在8月初，马斯克在SpaceX二季度财报会上明确表态，公司AI数据中心将独家采用英伟达芯片。他还说，明年能拿到英伟达下一代VeraRubinGPU的大量配额。资本和业务两条线同时绑定，这才是关键。不是简单的财务投资赚差价，而是把客户变成了利益共同体。马斯克需要最顶级的AI算力，黄仁勋需要稳定的大客户。现在双方坐在同一条船上，谁都离不开谁。再来说说英特尔这笔300亿美元的持仓。这笔投资的故事更有戏剧性。很多人不知道，英伟达最初投进去的只有50亿美元。时间是去年9月，当时英特尔日子很难过，代工业务进展不顺，股价跌得厉害。英伟达以每股23.28美元的价格，参与了英特尔的定向增发。拿了2.148亿股，总共花了50亿美元。当时很多人看不懂，觉得两家是竞争对手，英伟达怎么会去扶对手一把。现在回头看，这笔买卖做得相当精明。不到一年时间，英特尔股价大幅反弹。到今年二季度末，英伟达这笔持仓的市值已经涨到300亿美元。50亿变300亿，翻了整整六倍。单季度就涨了215%，从一季度末的95亿美元直接飙升。英特尔现在是英伟达的第一大重仓股，SpaceX排第二。光这两只股票，就占了英伟达公开持仓的八成左右。很多人只看到赚了多少钱，却没细想黄仁勋为什么要投英特尔。毕竟两家在芯片领域打了这么多年。答案藏在产业链里。英伟达设计芯片能力天下第一，但制造环节高度依赖台积电。随着AI芯片需求暴增，台积电产能越来越紧张。英特尔有自己的晶圆厂，而且正在力推18A先进制程。黄仁勋这是在给自己找第二条生产线。说白了，就是不能把鸡蛋都放在一个篮子里。万一台积电那边出点状况，或者产能跟不上，英伟达的生意就要受影响。投资英特尔，既能拿到代工产能的优先权，还能顺便赚股价上涨的钱，一举两得。而且英特尔和英伟达的合作越来越深。双方联合开发PC和数据中心芯片，英特尔的代工业务也接英伟达的订单。曾经的死对头，现在成了深度绑定的合作伙伴。商场上没有永远的敌人，只有永远的利益，这句话体现得淋漓尽致。两笔投资放在一起看，逻辑就非常清晰了。投英特尔，是稳住供应链的基本盘，确保芯片造得出来。投SpaceX，是绑定超级大客户，确保芯片卖得出去。一上一下，把整个产业链都攥在了手里。黄仁勋这盘棋下得很大。他不再满足于只当一个芯片供应商，而是要做整个AI产业的轴心。用资本当纽带，把上下游关键玩家都串联起来。你中有我，我中有你，形成一个牢不可破的生态。当然，这种玩法也不是没有争议。华尔街就有人提出质疑，说这是一种循环收入模式。英伟达借钱给客户，客户再拿这笔钱买英伟达的芯片。看起来大家都赚钱，实际上风险在不断累积，一荣俱荣一损俱损。还有反垄断层面的隐忧。英伟达本身已经占据AI芯片八成以上的市场份额，现在又通过资本手段绑定核心客户和制造商。市场支配力会不会太强，会不会引发监管部门的注意，这些都是悬而未决的问题。但至少从目前来看，黄仁勋的策略走得通。英伟达手里现金极其充裕，单季度营收就超过800亿美元，净利润接近600亿美元。拿出几百亿做战略投资，对公司来说压力不大，却能换来长期的产业话语权。
