跳到正文
今天10月18日周日
10月17日周六
10月16日周五
  1. 阿里技术(公众号)27

    清华×阿里 AI Native 人才培养计划暨格造社启动日活动举行

    清华大学无穹书院与阿里巴巴共建的学生 AI 开源俱乐部格造社(GEZAO AI Foundry)于 10 月 15 日在清华启动,首批发布近 40 个课题,涵盖算力与系统、模型与智能应用、公益创新三大方向。社员可借助平头哥真武算力、魔搭社区的模型和工具,在校内教师与企业导师指导下用一个学期形成可运行、可演示的阶段成果,成果将开源发布在魔搭社区。

  2. Meta 工程博客75

    Meta 如何用 AI 原生工程方式构建 Forum 应用

    Meta 工程团队介绍了用智能体参与开发流程构建独立 Groups 应用 Forum 的做法,把成功标准定为通过构建、测试和评审的生产级产出,而非代码量。

    推荐理由:Meta 工程团队公开了把 AI 智能体放进开发闭环的具体做法,包括验证门槛、工具化上下文和沙箱构建隔离,可供工程管理者对照自身流程。

  3. 美团技术团队(公众号)12

    美团 SLM 生成式高并发推理引擎:延迟约束下吞吐较 SGLang 提升 10 倍

    美团技术团队为搜推场景的 SLM(0.5~1B)有界生成负载重构推理引擎,以静态 DAG 组织完整业务请求,结合 AOTInductor 编译、Packed Prefill、请求内 K/V 共享与选择性 FP8,在平均端到端时延低于 20ms 下使 Prefill-Only 有效 MFU 达 67%、吞吐较 SGLang 提升 10 倍。

10月15日周四
  1. NVIDIA 官方博客22

    NVIDIA 扩展 Nemotron 家族:发布 Super VL 与 Bolt 系列开放模型

    NVIDIA 发布开放模型 Nemotron 3.5 Super VL,1200 亿参数,多模态智能体任务准确率接近其最大推理模型而参数量约为五分之一,吞吐量最高达同类模型 5 倍。同步推出边缘模型 Nemotron 3.5 Bolt 74B-A9B 24GB(现已可用)和 Bolt E4B 4GB(10 月 23 日发布),覆盖从数据中心到本地设备的智能体部署。

  2. Netflix Technology Blog22

    Netflix 如何为大规模训练与推理任务保障 GPU 算力可靠性

    Netflix 披露其 GPU 基础设施可靠性方案:通过节点硬件健康检查、调度平台重试与机器回收、训练循环 checkpoint 与弹性 worker 四层机制,让跨数百块 GPU、持续数周的训练任务在硬件故障时仍能存活。方案运行在其 Kubernetes 原生 Compute 平台上,可自动检测故障 GPU 与网络链路并修复,无需人工介入。

  3. Netflix Technology Blog22

    Netflix Stratum 如何自动为媒体处理容器调整资源规格

    Netflix 为内部无服务器媒体处理平台 Stratum 构建了 Stratum Resource Tuner(SRT),可在生产环境中自动为运行中的容器调整资源规格,无需人工介入。SRT 按 CPU、内存、网络、磁盘逐项由函数负责人手动开启,先覆盖占资源用量 70%–80% 的高吞吐、低延迟要求工作负载,流程包括采集用量指标、生成建议、实验验证、应用或拒绝、应用后监控五个步骤。

  4. Netflix Technology Blog48

    Netflix 如何构建、对齐并监控 LLM-as-a-Judge 全生命周期

    Netflix 公开其 LLM-as-a-Judge 的四阶段生命周期:人工标注基准数据、训练对齐、部署为生成系统的门控与评审、以及 HITL 对齐与漂移监控。该方案用于推荐解释生成,每周产出数十万条解释,由第二个 LLM 打分并给出通过/拦截理由,低质解释被拦截。若漂移超过阈值即触发重训与基准数据扩充,每次变更上线前均需人工批准。

  5. Netflix Technology Blog22

    Netflix Conductor 进入新篇章:从停更开源到内部重建

    Netflix 披露其工作流编排引擎 Conductor 在停止维护开源版本后于内部重建,如今每月执行约 4.2 亿次工作流,每天 500 万至 2000 万次,支撑约 15 万个应用拥有的 20 万个工作流定义。重建核心是用 Cassandra 取代 Dynomite 作为执行数据主存储,并自研 Timestone 队列层,同时重写评估引擎。

  6. Netflix Technology Blog26

    Netflix 如何用开源指标平台 DataJunction 补齐现代数据栈缺失的一环

    Netflix 将开源语义层 DataJunction(DJ)用于实验平台的指标管理,解决指标定义分散、新指标上线动辄数周的问题。DJ 的核心优势是 SQL 解析与生成引擎,并把所有定义存入连通图,团队以 API 优先、暂缓 UI 的方式开发了两年多。该项目源自 Facebook 2015 年前后的内部指标可移植性项目,2021 年在 GitHub 开源。

  7. Netflix Technology Blog22

    Netflix 如何将个性化基础模型集成到推荐应用中:嵌入向量、子图与微调三种方案

    Netflix 将个性化基础模型集成到生产系统时实验了嵌入向量、子图、微调三种方案,目前均已用于不同场景。嵌入方案通过 Embedding Store 每日刷新用户与内容表征,成本低、门槛低,但存在新鲜度滞后;基础模型每月从头预训练、每日微调,并采用嵌入稳定化技术保证跨批次表征可复用。

  8. 得物技术(公众号)60

    得物技术:用确定性工作流驾驭 LLM 的资产验收 Agent 实践

    得物技术分享了资产验收场景的智能验收体系:规则以文本配置化下发,LLM 只负责材料事实提取与规则比对,文件解析、印章检测、数值核对、结论校验等环节由确定性代码完成。系统配套试跑、回测与发布门禁,用审批人的认可/不认可反馈自动推导标准答案,回测一致率达标才允许常规发布。该体系覆盖月均数百单验收审批,将逐条人工核对转为 AI 预判加人工复核重点。

  9. Meta Newsroom20

    Meta、米兰布雷拉美术馆与 EssilorLuxottica 用 AI 眼镜扩大艺术无障碍体验

    Meta、布雷拉美术馆与 EssilorLuxottica 启动“Sensing Art”试点,让盲人和低视力访客借助 AI 眼镜聆听八件选定作品的语音描述。眼镜接入美术馆现有 Grande Brera 应用,通过开放式扬声器播放 DescriVedendo 方法生成的描述,并可使用 Meta AI 提问、通过 Be My Eyes 连接志愿者。

10月14日周三
  1. NVIDIA 官方博客22

    欧洲多城部署 NVIDIA 驱动的 AI 智能体,提升城市运营效率

    欧洲多座城市正联合软件与基础设施伙伴,用 NVIDIA 加速计算构建物理 AI 智能体和数字孪生,辅助道路维护、能源管理和城市规划等日常决策。法国 Côte-d'Or 省在 500 多栋公共建筑部署的运营智能体将文档检索时间从数周缩短至数分钟,运营总成本降低 10%,规模化目标为 30%。