作者: 优势铺

  • 工业大模型:AI重构制造业的新引擎

    工业大模型:AI重构制造业的新引擎

    引言:AI走进工厂车间

    过去,大模型主要在写文案、答问题;如今,它开始读懂CAD图纸、分析产线日志、预测设备故障。工业大模型正成为智能制造的新引擎。当数字化、网络化之后,智能化是制造业升级的下一站,而大模型为这一站提供了通用的“智能底座”。

    工业大模型

    一、为什么工业需要大模型

    工业场景长期受困于“数据多、知识散、专家少”:

    • 知识孤岛:工艺经验藏在老师傅头脑和散落的文档中
    • 数据异构:OT与IT数据标准不一,难以统一利用
    • 长尾问题:罕见故障与异常缺乏标注数据

    大模型具备强的语言理解、知识检索和推理能力,恰好能打通这些痛点。

    工业知识

    二、核心应用场景

    2.1 研发设计

    大模型接入PLM与CAD系统,辅助生成设计方案、检索相似零件、编写仿真脚本。结合生成式设计,可在给定约束下自动探索大量结构方案,缩短研发周期。

    2.2 生产制造

    大模型分析工艺参数与质量数据,给出参数调优建议;结合视觉大模型实现更鲁棒的表面缺陷检测,减少漏检误检。

    2.3 设备运维

    读取设备日志与传感器数据,大模型可定位故障根因、生成维修工单,并与知识库联动推荐处置方案,将平均修复时间(MTTR)大幅压缩。

    2.4 质量管理

    多模态大模型融合图像、文本、时序信号,实现跨模态的质量异常归因,超越单一视觉检测的能力边界。

    环节 传统做法 大模型增强
    研发 人工查资料 智能检索+方案生成
    生产 专家调参 数据驱动参数推荐
    运维 经验排故 根因分析+工单生成
    质量 单模态检测 多模态异常归因

    应用场景

    三、工业智能体

    比“问答式”更进一步,工业智能体(Industrial Agent)能自主执行任务:查阅工单、调用MES/SCADA接口、生成报表、触发工单流转。多个专业智能体(排产Agent、质检Agent、能耗Agent)协同,构成“虚拟工厂管理团队”。

    四、与大模型融合的数字孪生

    数字孪生提供物理工厂的实时镜像,大模型提供认知与决策。两者结合,可在虚拟空间推演工艺变更的影响、生成优化策略,再下发到真实产线——形成“感知-推演-决策-执行”的闭环。

    五、落地挑战

    1. 数据质量:工业数据脏、缺、乱,需大量治理
    2. 可靠性:工业场景容错极低,幻觉不可接受,需约束与校验
    3. 机理融合:纯数据驱动需与物理机理模型结合
    4. 安全:与工控系统连接需严格的隔离与权限
    5. 人才:既懂AI又懂工艺的复合人才稀缺

    六、产业格局

    • 设备商:西门子、ABB、GE将大模型嵌入工业软件
    • 云厂:阿里云、华为云、百度智能云推出工业大模型
    • 垂直厂商:卡奥斯、树根互联等工业互联网平台集成
    • 央国企:在能源、钢铁、化工等场景率先试点

    结语

    工业大模型不是取代工程师,而是放大工程师的能力。它把分散的工业知识沉淀为可复用的智能,把老师傅的经验变成系统能力。随着工业智能体与数字孪生的融合,制造业正迈向“自感知、自决策、自优化”的新阶段。中国制造完整的产业体系,为工业大模型的落地提供了最丰富的土壤。

  • 智能交通与车路云一体化:重塑城市出行

    智能交通与车路云一体化:重塑城市出行

    引言:交通的系统性重构

    自动驾驶常被视为“一辆车的事”,但真实的交通是车、路、人、环境的复杂系统。单纯升级车辆,难以解决盲区、拥堵和全局效率问题。车路云一体化——让聪明的车、智慧的路和强大的云协同起来——正在成为智能交通的主流技术路线,也是中国自动驾驶突围的差异化路径。

    智能交通

    一、从单车智能到系统智能

    单车自动驾驶依靠车载传感器(摄像头、雷达)在视距内感知,存在盲区与局限。车路云一体化引入两层外部能力:

    • 路侧:路口部署激光雷达、摄像头、边缘计算,提供超视距感知
    • 云端:城市级交通大脑,全局调度与协同决策

    三者通过C-V2X(蜂窝车联网)通信互联,形成“感知-决策-控制”的闭环。

    车路协同

    二、V2X:连接的纽带

    V2X涵盖车与万物互联:

    类型 含义 价值
    V2V 车与车 前车急刹预警、编队行驶
    V2I 车与路侧 红绿灯相位、盲区预警
    V2P 车与行人 弱势交通参与者保护
    V2N/V2C 车与云 全局路径、高精地图更新

    中国主推的C-V2X基于蜂窝网络,支持直连通信与网络模式,已实现规模化标准与产业准备。

    三、云控平台

    云控平台是车路云一体化的“大脑”:

    1. 实时数字孪生:构建城市交通的实时镜像
    2. 协同感知:融合车端与路侧数据,消除盲区
    3. 协同决策:区域级绿波带、车道级诱导
    4. 协同控制:信号灯自适应、车辆编队调度

    云控平台

    四、应用场景

    4.1 城市道路

    北京、上海、长沙等城市的示范区已实现红绿灯自适应、公交优先、盲区预警。路口通行效率提升10-20%,事故率明显下降。

    4.2 高速公路

    货运编队行驶、匝道合流协同、恶劣天气预警,提升干线物流效率与安全。

    4.3 港口与园区

    封闭场景下的自动驾驶集卡、无人接驳,已实现商业化运营,是车路云一体化最先规模化的土壤。

    五、落地路径与挑战

    • 基础设施建设:路侧设备、通信网络、边缘节点的规模部署
    • 标准统一:车-路-云协议与数据格式互通
    • 商业模式:谁来投资路侧设施、如何盈利
    • 安全与隐私:车路通信的安全防护与数据合规
    • 协同演进:单车智能与车路协同的节奏匹配

    中国采用“车路云一体化”试点城市推进模式,已在20+城市开展示范,目标是2027年前后形成可复制的规模化方案。

    结语

    智能交通的终局不是一辆辆更聪明的车,而是一个车路云协同的智慧系统。相比纯粹押注单车智能,车路云一体化更符合复杂真实交通的需求,也为中国提供了差异化竞争力。当聪明的路与强大的云连上每一辆车,城市出行将被系统性地重塑。

  • 氢能与新型储能:碳中和时代的能源底座

    氢能与新型储能:碳中和时代的能源底座

    引言:储能决定新能源的上限

    风能和光伏的发电成本已经低于煤电,但它们“靠天吃饭”——风不吹、云遮日时便无电可发。要让可再生能源成为主力电源,必须解决“发得出、存得住、用得上”的问题。储能,正是连接生产与消费的关键一环。在锂电之外,氢能、液流电池、压缩空气等新型储能正快速崛起。

    新型储能

    一、储能的时间尺度

    不同储能技术对应不同时间尺度:

    • 秒级-分钟级:飞轮、超级电容,用于电能质量调节
    • 小时级:锂电、液流电池,用于日内调峰
    • 日级-周级:抽水蓄能、压缩空气
    • 季节级:氢储能,跨季节能量搬运

    没有任何一种技术能包打天下,多元储能组合才是未来。

    储能时间尺度

    二、氢储能:能源的“长期罐头”

    2.1 制储运用

    氢储能通过电解水将富余电力转化为绿氢,储存后可用于:发电回网、工业原料(合成氨、甲醇)、交通燃料(氢燃料电池)。它本质上是把电能“封装”成化学能长期保存。

    2.2 技术路线

    环节 技术 状态
    制氢 碱性电解、PEM、SOEC 碱性为主,PEM成长
    储氢 高压气态、液态、固态 高压气态成熟
    运氢 管束车、管道、氨载体 氨 carrier 受关注
    用氢 燃料电池、燃氢轮机 示范推广

    2.3 经济性挑战

    当前绿氢成本约20-40元/kg,距离与化石能源竞争仍有距离。降本依赖廉价绿电、电解槽规模化(学习曲线)和利用率提升。

    三、液流电池:长时储能新星

    液流电池将能量储存在电解液中,功率与容量解耦——想要更多容量只需加大储罐。全钒液流电池循环寿命超15000次、本征安全、适合4小时以上长时储能。

    铁铬、锌溴等新型液流体系也在推进,目标是进一步降本。

    四、压缩空气与飞轮

    4.1 压缩空气储能

    用电低谷时压缩空气存入盐穴或储气罐,高峰时释放驱动透平发电。百兆瓦级项目已在中国江苏、河北落地,是抽水蓄能的有力补充。

    4.2 飞轮储能

    飞轮以高速旋转的转子储能,充放迅速、寿命极长,适合UPS、轨道交通制动能量回收等高频次场景。

    压缩空气

    五、产业格局与中国优势

    1. 政策驱动:中国提出到2030年新型储能装机超100GW
    2. 产业链:锂电全产业链领先,液流、压缩空气项目密集落地
    3. 氢能:风光资源富集区布局绿氢基地,推动氢进化工、氢进交通
    4. 市场机制:电力现货市场、容量电价完善储能盈利模式

    六、挑战

    • 安全:锂电热失控、氢的易燃易爆需严格管控
    • 成本:长时储能的度电成本仍需下降
    • 标准:新型储能并网、运维标准待完善
    • 市场:储能独立市场主体地位与收益机制

    结语

    储能是能源转型的“胜负手”。锂电解决短时调峰,液流与压缩空气覆盖长时,氢储能打通季节级与工业脱碳。多元技术协同,才能支撑高比例可再生能源的新型电力系统。中国凭借制造能力、工程经验和市场规模,正在这场储能革命中扮演引领角色。

  • 液冷数据中心:绿色算力的基础设施革命

    液冷数据中心:绿色算力的基础设施革命

    引言:算力的尽头是电力与散热

    AI大模型的训练和推理,正在把数据中心的能耗推向新高度。一个万卡GPU集群的功耗相当于一座小城市的用电量。与此同时,全球对碳排放的约束日益严格。如何在算力增长的同时把能耗降下来?液冷,正成为这场绿色算力革命的核心技术。

    液冷数据中心

    一、为什么风冷不够用了

    传统数据中心用空调送风冷却服务器。但AI芯片(如H100、B200)的单芯片功耗已突破700W,单机柜功率普遍超过30kW,高密度机柜甚至达100kW以上。风冷在如此高的热密度下接近物理极限,且能耗巨大。

    数据中心的能效用PUE(电能使用效率)衡量,PUE=1.0为理想值。风冷数据中心PUE通常在1.4-1.6,而液冷可降至1.1-1.2。

    散热挑战

    二、液冷技术路线

    2.1 冷板液冷

    冷板(冷头)紧贴CPU/GPU等发热器件,冷却液在微通道中流动带走热量,其余部件仍用风冷。冷板液冷改造难度低、兼容性强,是当前最主流的过渡方案。又称“单相/两相冷板”。

    2.2 浸没式液冷

    将服务器主板直接浸入不导电的冷却液中(如氟化液、矿物油),热量通过液体对流或相变带走。浸没式换热效率极高,PUE可低至1.1以下,但改造大、运维习惯需改变。

    2.3 喷淋液冷

    用喷嘴将冷却液直接喷淋到发热元件上,结合了冷板与浸没的部分优点,但密封和液体管理较为复杂。

    方案 PUE 改造难度 成熟度
    风冷 1.4-1.6 低 成熟
    冷板液冷 1.2-1.3 中 规模应用
    浸没式 1.05-1.15 高 试点扩大

    液冷方案对比

    三、产业链与玩家

    • 互联网云厂:阿里、腾讯、字节自建大规模液冷数据中心
    • 运营商:中国移动、电信、联通推进液冷集采
    • 设备商:浪潮、联想、新华三推出液冷整机柜
    • 冷却液:3M、科慕、中石化等供应氟化液与国产替代
    • 温控厂商:英维克、申菱等专攻液冷温控

    四、余热回收与零碳

    液冷产生的高温水可用于区域供暖、泳池加热、农业温室等,实现能源的梯级利用。结合绿电(风电、光伏)和储能,数据中心正迈向“零碳园区”。北欧利用严寒自然冷却、中东利用余热供暖,都是因地制宜的范例。

    五、挑战与趋势

    1. 标准化:液冷接口、冷却液标准不统一,制约规模部署
    2. 可靠性:漏液风险与液体兼容性管理
    3. 成本:初期改造投入高于风冷,需TCO视角评估
    4. AI运维:基于数字孪生的液冷系统智能调优
    5. 一体化:芯片-服务器-机房协同设计的“算液一体”

    结语

    液冷不是可选项,而是高密AI算力的必答题。当算力成为数字经济底座,绿色、高效、低PUE的数据中心就是这一底座的“地基”。中国在液冷规模化应用和产业链完整度上处于全球前列,有望为全球绿色算力提供“中国方案”。

  • AI芯片算力之争:GPU、NPU与专用加速器的竞赛

    AI芯片算力之争:GPU、NPU与专用加速器的竞赛

    引言:算力即权力

    在AI时代,算力成为一种战略资源。训练一个顶级大模型需要上万个GPU运行数月,芯片供应直接决定了AI能力的上限。英伟达市值突破3万亿美元,正是这场算力竞赛的缩影。围绕AI芯片,GPU、NPU、TPU和各类专用加速器正展开激烈角逐。

    AI芯片

    一、GPU:当前的绝对主力

    GPU凭借海量并行核心成为深度学习训练的事实标准。英伟达的领先地位不仅来自硬件:

    • CUDA生态:十余年积累的软件生态,开发者高度依赖
    • NVLink/InfiniBand:高带宽互联,支撑万卡集群
    • Tensor Core:专为矩阵运算设计的硬件单元

    从V100、A100到H100、B200,每一代都在推高算力和显存带宽。HBM(高带宽内存)是GPU算力的关键瓶颈之一。

    GPU架构

    二、NPU与端侧推理

    NPU(神经网络处理器)专为神经网络优化,强调能效比:

    • 手机SoC:苹果Neural Engine、华为达芬奇架构、高通Hexagon
    • PC NPU:Intel、AMD、高通在CPU中集成NPU支持本地AI
    • 车载NPU:智能驾驶芯片中的神经网络加速单元

    NPU在端侧设备的低功耗推理中不可或缺,是AI普惠化的硬件基础。

    三、TPU与云厂商自研

    Google的TPU(Tensor Processing Unit)是最早的专用AI加速器之一,面向自家TensorFlow/PyTorch工作负载深度优化。亚马逊Trainium/Inferentia、微软Maia、Meta MTIA等云厂商自研芯片,目的是降低对英伟达的依赖并优化总体拥有成本(TCO)。

    四、国产AI芯片突围

    厂商 产品 定位
    华为昇腾 昇腾910B/910C 训练+推理,生态CANN
    寒武纪 思元590 训练推理
    海光 深算DCU 类CUDA生态
    壁仞/摩尔线程 BR100/MTT 通用GPU
    燧原/天数智芯 推理训练卡 云端AI

    国产芯片

    在先进制程受限的背景下,国产芯片通过chiplet、先进封装和系统级优化弥补单芯片差距,并在推理市场率先规模化。

    五、关键技术趋势

    1. 存算一体:突破冯·诺依曼瓶颈,在存储单元内直接运算
    2. 光互联:CPO共封装光学缓解集群互联带宽瓶颈
    3. 稀疏计算:利用模型稀疏性跳过无效计算
    4. 混合精度:FP8、FP4等新低精度格式提升吞吐
    5. Chiplet:多芯粒集成突破单芯片制程上限

    六、挑战

    • 软件生态:硬件易造,生态难建,CUDA护城河深厚
    • 先进制程:EUV光刻机限制高端芯片制造
    • 能耗:数据中心算力增长带来巨大电力压力
    • 供应链:EDA工具、IP核、材料设备的全球依赖

    结语

    AI芯片是智能时代的“发动机”。GPU的领先地位短期难以撼动,但NPU、TPU、ASIC与国产芯片正在细分市场加速突围。算力的竞争,本质上是技术、生态与产业链的综合较量。在这场较量中,多元化供给和自主可控能力,将决定一个国家在AI时代的产业安全与话语权。

  • 隐私计算与联邦学习:数据可用不可见的时代

    隐私计算与联邦学习:数据可用不可见的时代

    引言:数据流通的两难

    数据被称为数字经济时代的“石油”,但现实中它却被锁在各个机构的孤岛里:医院不敢共享病历,银行不愿泄露交易,政府数据涉及隐私。一方面数据要流通才能产生价值,另一方面隐私法规(如《个人信息保护法》)严格限制数据随意出境。隐私计算正是破解“既要流通又要保护”这一两难的关键技术。

    隐私计算

    一、核心目标:数据可用不可见

    隐私计算的理念是:不移动数据,只移动价值。原始数据留在本地,而数据的计算结果或模型参数被安全地流动和利用。这需要在密码学、硬件和系统层面协同创新。

    数据可用不可见

    二、四大技术路线

    2.1 联邦学习

    联邦学习(Federated Learning)让多方在各自数据不出域的情况下协同训练模型。各方只交换模型参数或梯度,由中心服务器聚合。根据数据划分方式分为横向(样本维度)、纵向(特征维度)和联邦迁移学习。

    典型场景:多家医院联合训练诊断模型,各自病历从不离开本院。

    2.2 安全多方计算

    安全多方计算(MPC)允许多个互不信任的参与方,在不泄露各自输入的前提下共同计算一个函数。例如,多家银行可联合计算“共同黑名单客户数”而不暴露各自客户名单。秘密分享和混淆电路是其核心实现。

    2.3 可信执行环境

    可信执行环境(TEE)是在CPU内部划出的一个隔离的安全区域,数据和代码在其中加密运行,即便操作系统被攻破也无法窃取。Intel SGX、ARM TrustZone是代表。TEE性能好但依赖硬件信任根。

    2.4 同态加密

    同态加密允许在密文上直接进行计算,结果解密后与明文计算一致。这实现了“数据全程加密也可用”。完全同态加密(FHE)能力最强但性能开销大,是当前研究热点。

    技术 安全假设 性能 适用
    联邦学习 聚合器可信 中 联合建模
    MPC 密码学假设 低-中 多方统计
    TEE 硬件可信 高 通用计算
    同态加密 数学难题 低 密文计算

    技术对比

    三、应用场景

    1. 金融风控:银行间联合反欺诈,不交换客户明文
    2. 智慧医疗:跨院联合科研与AI诊断
    3. 政务数据开放:在保护个人隐私下释放公共数据价值
    4. 广告营销:跨平台人群画像而不泄露用户身份
    5. 跨境数据:满足数据出境合规的合规计算

    四、挑战

    • 性能开销:加密计算比明文慢几个数量级
    • 生态割裂:不同厂商平台互操作难
    • 标准缺失:隐私计算缺乏统一测评与标准
    • 复合攻击:模型逆向、成员推断等仍可能泄露信息
    • 成本:部署与运维门槛较高

    五、趋势

    隐私计算正从单点技术走向“隐私计算+”平台化,并与区块链结合实现审计溯源。随着数据要素市场化配置的推进,隐私计算有望成为数据流通的“基础设施级”技术,让数据真正安全地流动起来。

    结语

    在数据成为核心生产要素的今天,隐私计算提供了“鱼与熊掌兼得”的可能——既释放数据价值,又守护个人隐私。随着性能优化和标准完善,隐私计算将成为数字经济的信任底座,为数据要素市场的繁荣铺平道路。

  • AI for Science:人工智能驱动科学发现的新范式

    AI for Science:人工智能驱动科学发现的新范式

    引言:科学研究的第四范式

    人类科研经历了经验归纳、理论建模、计算仿真三次范式革命。如今,以数据驱动和深度学习为核心的AI,正在催生“第四范式”——AI for Science(科学智能)。从AlphaFold破解蛋白质结构,到AI发现新催化剂,AI正成为科学家手中的“超级显微镜”与“超级算盘”。

    AI for Science

    一、生命科学的突破

    1.1 蛋白质结构预测

    2020年AlphaFold2在CASP14竞赛中达到接近实验精度的结构预测,解决了生物学半个世纪的难题。2024年AlphaFold3进一步扩展到蛋白质与DNA、RNA、小分子等的相互作用预测。这一突破直接加速了药物研发和酶工程。

    蛋白质结构

    1.2 基因组学与合成生物学

    AI用于基因调控预测、基因组注释、蛋白设计。例如,AI设计的全新荧光蛋白、酶,已被实验验证可正常工作。合成生物学的“写生命”能力因AI而大幅增强。

    二、材料与化学

    2.1 材料发现

    Google DeepMind的GNoME模型利用图神经网络预测了220万种新晶体材料,其中数十万种稳定结构可供实验合成。传统“试错法”发现一种新材料平均需数年,AI将候选筛选提速了几个数量级。

    2.2 催化剂与电池

    AI在电催化剂、固态电解质、电池材料筛选中展现出筛选数万种组合的能力,大幅缩短从计算到实验的周期。

    三、物理与地球科学

    3.1 气象与气候

    传统数值天气预报需要超算运行数小时。华为盘古气象、Google GraphCast等AI模型,在单张GPU上数秒内给出精度媲美甚至超越传统方法的全球预报。AI正在重塑天气预报的基础设施。

    3.2 流体与湍流

    湍流是物理学百年难题。AI通过学习高保真模拟数据,构建低成本的湍流代理模型,在工程设计中被广泛采用。

    四、药物研发

    环节 AI的作用
    靶点发现 从组学数据中识别疾病相关靶点
    分子生成 生成式模型设计全新候选分子
    性质预测 预测ADMET等成药性指标
    晶型预测 预测药物分子的稳定晶型
    临床试验 优化试验设计与患者入组

    Insilico Medicine等公司已有AI设计的候选药物进入临床阶段,验证了端到端AI药物研发的可行性。

    五、科研基础设施变革

    1. 科学大模型:面向特定学科的基础模型,如材料、生物、气象大模型
    2. AI实验机器人:自动驾驶实验室(自驱动实验室)7×24执行实验
    3. 文献智能:AI从海量论文中挖掘规律、生成假设
    4. 仿真替代:AI代理模型替代昂贵的第一性原理计算

    六、挑战

    • 可解释性:AI预测的物理机制需被理解
    • 数据质量:科学数据稀缺、噪声大、标注难
    • 泛化:在分布外条件下的可靠性
    • 验证闭环:AI假设仍需实验验证,成本不低

    结语

    AI for Science代表了科研方法的一次深刻变革。它不会取代科学家,而是极大扩展科学家的探索边界。当AI成为科学发现的“合伙人”,人类解决材料、能源、生命难题的速度将被重新定义。中国在这一领域的研究投入和论文产出已居世界前列,有望在新一轮科学革命中占据主动。

  • 卫星互联网与地面融合:空天地一体化网络

    卫星互联网与地面融合:空天地一体化网络

    引言:把网络铺向天空

    当马斯克的Starlink在乌克兰战场、在远洋邮轮、在偏远山村提供高速网络时,卫星互联网从一个概念变成了基础设施。截至2025年,Starlink在轨卫星超过7000颗,用户突破500万。以中国星网、AST SpaceMobile为代表的新势力也在加速布局。一个覆盖地球每一个角落的网络正在成形。

    卫星互联网

    一、为什么是低轨

    卫星互联网按轨道高度分为GEO(地球同步)、MEO(中轨)和LEO(低轨):

    • GEO:36000公里,单星覆盖大,但时延高达500ms以上,适合广播
    • MEO:8000-20000公里,导航系统常用
    • LEO:500-1200公里,时延可低至20-40ms,是当前星座主流

    低轨卫星时延接近地面网络,但单星覆盖小,需要成千上万颗组成星座才能实现全球覆盖——这正是Starlink的思路。

    二、核心技术

    2.1 高通量通信

    现代通信卫星采用多波束相控阵天线,将服务区域划分为数百个波束,频率复用大幅提升容量。Ka/Ku波段提供高带宽,激光星间链路让卫星之间直接转发数据,减少对地面站的依赖。

    高通量通信

    2.2 星间链路

    星间激光链路使卫星组成太空中的“网状网络”,数据可以在太空跳转,最终落地到最近的用户。这降低了对全球地面信关站的依赖,也提升了网络的抗毁性。

    2.3 用户终端

    相控阵平板天线终端(俗称“锅”)价格已从初代的2000美元降至数百美元。更激进的是AST SpaceMobile和Lynk的直接手机连接(D2D)技术——普通手机无需改动能直连卫星。

    三、产业格局

    阵营 代表 进展
    美国 Starlink, Amazon Kuiper, AST Starlink已商用,7000+卫星
    中国 中国星网(GW), 上海垣信G60 千帆星座首批组网
    欧洲 IRIS2, OneWeb(Eutelsat) OneWeb已部署600+星
    其他 加拿大Telesat, 印度 区域布局

    产业格局

    四、与地面的融合

    卫星互联网不是要取代地面网络,而是与之融合:

    1. 补充覆盖:海洋、航空、极地、偏远地区的连接
    2. 应急备份:自然灾害导致地面网络中断时的通信保障
    3. 5G NTN:3GPP已将非地面网络(NTN)纳入5G标准,手机可直连卫星
    4. 6G空天地海:6G将卫星作为原生组成部分,实现全域无缝覆盖

    五、挑战

    • 太空垃圾:数万颗卫星的轨道碰撞风险与碎片管理
    • 频谱协调:轨道与频率是国际稀缺资源,争夺激烈
    • 成本:发射、制造、运维的规模化降本仍是关键
    • 监管:跨境服务的频谱许可与数据合规
    • 天文影响:大规模星座对天文观测的干扰

    结语

    卫星互联网正在把“全球互联”从口号变为现实。当低轨星座与地面5G/6G深度融合,人类将首次实现真正意义上的无缝覆盖网络。中国星网等力量的加入,也标志着这场太空网络竞赛进入了多极化时代。

  • 具身智能:当大模型走进物理世界

    具身智能:当大模型走进物理世界

    引言:让AI拥有身体

    2025年以来,具身智能(Embodied AI)成为AI领域最热门的方向之一。它不再满足于让模型在屏幕里聊天,而是要让AI拥有一个身体——机器人、无人机、自动驾驶车——能在真实物理世界中感知、决策和行动。大模型提供了大脑,具身智能试图给它装上身体。

    具身智能

    一、什么是具身智能

    具身智能强调智能源于身体与环境的互动。传统AI在封闭的数据空间里训练,而具身智能要求智能体:

    • 感知物理世界:通过摄像头、激光雷达、触觉传感器理解三维环境
    • 物理交互:抓取、推动、行走等动作改变环境
    • 闭环学习:从交互的反馈中不断调整策略

    其核心价值在于:物理世界的复杂性无法被完全预先建模,智能体必须在真实交互中学习和适应。

    二、技术路径

    2.1 VLA大模型

    视觉-语言-动作(Vision-Language-Action)模型是具身智能的主流架构。Google的RT-2最早展示了用大模型统一感知与动作生成:模型输入图像和语言指令,直接输出机器人动作。国内智元、宇树,海外的Figure、Physical Intelligence都在沿此路线推进。

    VLA模型

    2.2 世界模型

    世界模型(World Model)让智能体在脑内模拟行动后果,再选择最优动作。通过预测如果我这样做,世界会变成什么样,智能体可以在不直接试错的情况下规划。李飞飞的World Labs、Meta的JEPA都属于这一方向。

    2.3 仿真到现实的迁移

    真实世界采集机器人数据的成本极高。主流做法是先在仿真器(如NVIDIA Isaac、MuJoCo)中大规模训练,再迁移到真实机器人。Sim2Real的关键挑战是仿真与现实的域差距,需要通过域随机化等技巧弥合。

    三、数据飞轮

    具身智能的最大瓶颈是数据。不同于互联网文本,机器人操作数据稀缺且昂贵。当前的解法包括:

    数据来源 方式 特点
    遥操作采集 人类佩戴设备示范 质量高,规模化难
    仿真合成 仿真器自动生成 量大,需域适配
    人类视频 从互联网视频学习 来源广,标注弱
    自博弈 机器人在线探索 可持续,需安全约束

    数据飞轮

    四、应用场景

    4.1 工业制造

    柔性装配、精密质检、物料分拣是具身智能最先落地的场景。相比固定自动化,具身机器人能适应多品种、小批量的生产变化。

    4.2 家庭服务

    叠衣服、做饭、收拾房间——这些对人类简单的任务,对机器人却极难。家庭场景的非结构化和长尾特性,使其成为终极难题,预计需要5-8年成熟。

    4.3 仓储物流

    抓取不规则包裹、动态路径规划,具身智能在仓储中已实现初步规模化。

    五、挑战与展望

    1. 泛化能力:从会做某一动作到会做任意新动作
    2. 长程任务:多步骤复杂任务的可靠执行
    3. 安全:物理世界中失败的代价远高于数字世界
    4. 成本:具身智能的硬件成本需大幅下降

    具身智能被认为是通向AGI的关键一环——真正的通用智能离不开与物理世界的交互。中国拥有全球最完整的机器人供应链和丰富的应用场景,在这一赛道具备独特优势。

    结语

    从语言模型到具身智能,AI正在走出屏幕、进入物理世界。当大模型与机器人本体深度融合,我们将迎来一个能感知、能行动、能学习的智能体时代。这不仅是技术的跨越,更是AI与实体经济结合的关键拐点。

  • 大语言模型的推理优化:从MoE到模型蒸馏

    大语言模型的推理优化:从MoE到模型蒸馏

    引言:推理成本成为落地瓶颈

    过去两年,大语言模型的参数从百亿级跃升至万亿级。训练一次顶级模型耗资数千万美元,但当模型进入生产环境后,真正的成本来自海量的日常推理调用。一个日活千万的应用,推理开销可能远超过训练开销。如何让大模型“算得更快、更省”,成为产业落地的核心命题。

    大模型推理优化

    一、架构层优化:MoE混合专家

    Mixtral、GPT-4、DeepSeek-V3等都采用了MoE(混合专家)架构。其核心思想是:用一个路由网络,在每次推理时只激活少数几个“专家”前馈网络。

    1.1 稀疏激活

    一个总参数量1400亿的MoE模型,单次推理可能只激活120亿参数。这意味着用户感知到的“模型大小”实际上是激活参数量,而非总参数量。稀疏激活让模型在保持强大能力的同时,将推理算力压到可接受区间。

    1.2 路由策略

    路由器决定了每个token交给哪些专家。常见的Top-K路由(如Top-2)在准确性与成本间取得平衡。负载均衡损失则防止少数专家被过度使用、其余闲置。

    MoE架构

    二、训练后优化:蒸馏与量化

    2.1 知识蒸馏

    知识蒸馏用一个大的“教师模型”指导一个小的“学生模型”学习。学生不仅学习标准答案(硬标签),还学习教师输出的概率分布(软标签),从而捕捉类别间的隐含关系。DeepSeek-R1的蒸馏系列、Llama的多个小尺寸版本都受益于蒸馏,使7B模型能逼近更大模型的表现。

    2.2 量化压缩

    量化将模型权重从FP16/FP32降低到INT8、INT4甚至更低位宽:

    • INT8量化:几乎无损,推理速度提升约2倍
    • INT4/INT3量化:显存占用大幅下降,适合端侧部署,需精细的校准
    • GPTQ/AWQ:主流的4bit量化算法,兼顾精度与压缩比

    量化让70B模型可以在单张消费级显卡上运行,是端侧大模型普及的关键。

    三、解码层优化:投机解码

    传统自回归解码每次只能生成一个token,GPU算力被严重浪费。投机解码用一个小的草稿模型先快速生成多个候选token,再由大模型一次性验证,将多个token的验证并行化。

    这种方法可以将推理速度提升2-3倍,且不改变输出分布——也就是说,结果与逐token生成完全一致,只是更快。

    投机解码

    四、系统与工程优化

    技术 原理 收益
    KV Cache 缓存已计算的键值对 避免重复计算
    PagedAttention 显存分页管理 提升并发与显存利用率
    Continuous Batching 动态批处理请求 提升GPU利用率
    算子融合 合并多个CUDA算子 减少内核启动开销

    vLLM、TensorRT-LLM、SGLang等推理框架正是通过这些技术,将单卡吞吐提升了数倍。

    五、未来趋势

    1. 端侧推理:1-3B小模型在手机、PC本地运行,隐私与时延双优
    2. 推理专用芯片:NPU、推理卡针对低精度优化
    3. 长上下文优化:稀疏注意力降低长文本推理成本
    4. Agent级优化:面向多步调用的缓存与调度

    结语

    大模型推理优化是一场从架构到芯片的全栈工程。MoE重写了对“模型规模”的定义,蒸馏与量化把能力装进更小的容器,投机解码和推理框架榨干每一分算力。当推理成本降至临界点,AI应用才能真正走向规模化普及。