跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

5 条精选近 30 天 4 条共收录 97 条

更新

部署工程的精选

10月28日周三第 1–5 条
  1. NVIDIA Blog60

    NVIDIA RTX Spark 轻薄笔记本更新模型、智能体工具与游戏支持

    NVIDIA 公布 RTX Spark 轻薄 Windows 笔记本的多项更新,包括新开放权重语音模型 Nemotron 3.5 Transcribe、NVIDIA App 的 GPU 资源分配控制,以及 LFM3 系列模型的首日支持。

    推荐理由:原文列出 RTX Spark 笔记本在本地语音模型、GPU 资源分配和游戏支持上的具体变化,可据此判断本地智能体工作流的可用性。

10月27日周二
10月23日周五
  1. NVIDIA Blog60

    NVIDIA 发布 Minerva,为 AI 工厂提供端到端可观测性

    NVIDIA 发布 AIOps 平台 Minerva,汇集基础设施与 AI 工作负载的遥测数据,用专用 AI 模型把数据转化为可执行洞察。平台跨 GPU、网络、存储、调度器和作业关联信号,构建动态知识图谱,每小时分析数十亿数据点,可把大量告警聚合成带根因的单一事件。

    推荐理由:原文说明了 Minerva 如何把 GPU、网络与作业信号关联成单一事件,读者可据此判断 AI 工厂运维方式的变化。

7月29日周三
  1. Berkeley AI Research60

    从 CUDA 到 MLX:K-Search 如何把多年内核优化经验带到 Apple Silicon

    IBM Research 基于 UC Berkeley Sky Lab 的 K-Search 演化式内核搜索框架,新增 MLX 后端和结构化 CUDA-to-MLX 翻译层,让已有 CUDA 内核作为知识库自动适配成 Apple Silicon 上的高质量内核。

    推荐理由:原文给出了把 CUDA 优化经验迁移到 Apple Silicon 的具体做法和两组内核实测数据,可看跨平台内核迁移的可行路径。