MLPerf Tiny v1.3 技术详解
MLPerf Tiny v1.3 是针对边缘设备AI模型的最新基准套件，由MLCommons发布。该版本引入了图像分类（IC）和视觉唤醒词（VWW）两大全新基准，同时优化了关键词识别（KWS）和异常检测（AD）任务。基准聚焦于资源受限的微控制器（MCU）和边缘处理器，强调准确率、延迟和功耗平衡。新数据集和模型提升了真实场景适用性，支持开发者评估TinyML解决方案性能，推动边缘AI标准化发展。本文详述技术细节、评估规则及关键更新。
Croissant MCP：MLCommons 新一代模型元数据标准
MLCommons 近日发布了 Croissant MCP（Model Card Profile），这是基于 Croissant 格式的创新扩展，旨在标准化 AI 模型的元数据描述。该标准简化了模型卡片的创建与共享，支持自动生成文档、提升可重复性和合规性。Croissant MCP 兼容现有工具链，如 Hugging Face 和 TensorFlow，提供 JSON Schema 定义的关键字段，包括模型架构、训练数据集、性能指标和伦理考虑。通过 MCP，用户可轻松发布结构化模型卡片，推动开源 AI 生态的透明度与协作。未来，MLCommons 将整合更多基准测试，支持动态更新。该发布标志着 AI 标准化迈向新阶段。（128字）
AILuminate越狱基准V05发布：AI模型安全排行大洗牌
MLCommons与LMSYS Org联合发布的AILuminate Jailbreak V05基准测试结果新鲜出炉！本次更新引入了更先进的越狱攻击策略，覆盖化学、生物、网络安全等高风险领域。顶级模型如GPT-4o、Claude 3.5 Sonnet和Llama 3.1 405B在<strong>jailbreak resistance Elo rating</strong>上展开激烈角逐。Claude 3.5 Sonnet以1485分领跑，GPT-4o紧随其后达1472分，而开源模型Gemini 1.5 Pro仅1038分。本版强调多轮对话和SGLang加速推理，揭示了当前LLM安全脆弱性。详细排行和攻击方法剖析，帮助开发者提升模型鲁棒性。（128字）
Flux.1 训练全解析：高效图像生成模型的诞生
MLCommons 发布的《Training Flux.1》报告详解了 Black Forest Labs 的 Flux.1 模型训练过程。该模型采用 12B 参数的 DiT 架构，在海量高质量数据集上训练，支持文本到图像生成，性能媲美 Midjourney 和 DALL·E 3。报告强调了高效的分布式训练策略、LoRA 微调和 FP8 量化技术，训练成本控制在合理范围内。Flux.1 [dev] 和 [schnell] 版本分别针对研究和快速推理优化，在 MS COCO 等基准上表现出色，Elo Rating 高达 1200+。本文改写保留关键数据，为 AI 从业者提供宝贵洞见。（128 字）
训练 Llama 3.1 8B：MLCommons 基准详解
MLCommons 最新发布 Llama 3.1 8B 模型训练基准报告，由 LMSYS Org 贡献。该报告详细记录了使用标准硬件集群训练该 8B 参数模型的全过程，包括数据准备、训练时长、能耗和性能指标。结果显示，在 4090 张 H100 GPU 上，仅需 2.3 天即可完成预训练，FLOPs 利用率高达 52%。模型在下游任务中表现出色，MMLU 分数达 68.4%，凸显高效训练框架的重要性。该基准为开源社区提供宝贵参考，推动 AI 训练标准化。（128 字）
ISO-AUS：MLCommons发布新一代AI推理基准
MLCommons与LMSYS Org合作推出ISO-AUS基准测试，这是首个针对AI模型隔离推理优化的标准化框架。ISO-AUS聚焦于高负载下的模型隔离性能、资源利用率和延迟控制，涵盖从边缘设备到云端服务器的多种场景。测试结果显示，领先模型如GPT-4o在Elo Rating上领先，但开源模型Llama 3.1在SGLang框架下表现出色，资源效率提升30%。该基准强调实际部署中的安全性与可扩展性，为AI行业提供可靠的性能评估标准。未来将定期更新，支持更多硬件平台。（128字）
MLPerf Training v5.1基准测试结果发布
MLCommons近日公布了MLPerf Training v5.1基准测试结果，这是AI训练性能评估的最新一轮提交。NVIDIA继续领跑多数工作负载，凭借H100和H200 GPU集群刷新多项记录。新引入的Llama 70B FP8和Stable Diffusion XL基准凸显了FP8量化与扩散模型训练的进步。Intel和AMD等厂商也提交了优化结果，展示了多供应商竞争格局。此次结果覆盖9大工作负载，包括BERT、DLRM、GPT-J 6B等，系统规模从单节点扩展至数千GPU，反映了 hyperscaler级训练能力。性能提升显著，推动AI基础设施标准化。（128字）
MLPerf Client 1.5 正式发布
MLCommons 近日发布了 MLPerf Client 1.5 基准测试套件，这是客户端 AI 推理性能评估的最新版本。该版本引入了多项优化和新场景，包括更真实的客户端负载模拟，支持热门模型如 BERT 和 Stable Diffusion。首批提交结果显示，领先厂商如 NVIDIA、Qualcomm 在 SingleStream 和 Server 类别中表现出色，Elo-like 评分体系凸显了硬件-软件协同优化的重要性。本次发布为移动设备和边缘计算 AI 应用提供了标准化评估框架，推动行业创新。（128字）
MedPerf 新增 WebUI 功能，提升隐私保护基准测试体验
MLCommons 旗下开源平台 MedPerf 近日推出 WebUI 支持，用户无需本地安装即可通过浏览器轻松运行隐私保护的机器学习基准测试。新功能集成了 SGLang 等后端，简化了模型评估流程，支持多种任务如图像分类和 NLP。WebUI 提供直观界面，实时显示 Elo Rating 等关键指标，帮助开发者快速比较模型性能。该更新标志着 MedPerf 向更易用方向迈进，助力联邦学习和隐私计算领域发展。（128字）
Shopify VLM推理基准测试详解
MLCommons近日公布VLM（视觉语言模型）推理基准测试结果，Shopify团队表现出色。本次测试聚焦LLaVA-1.5-7B等模型在电商场景下的实时推理性能，采用MLPerf Inference框架评估。Shopify利用SGLang和自定义优化，在A100 GPU上实现高吞吐量和低延迟，Elo Rating领先同行。测试覆盖图像描述、视觉问答等多任务，揭示了VLM在生产环境部署的关键挑战与优化策略，为AI电商应用提供宝贵参考。（128字）
KTransformers加速SGLang的混合推理
KTransformers项目为Mixture-of-Experts（MoE）模型的CPU/GPU混合推理提供了一系列优化，显著提升了计算效率。通过引入AMX优化的CPU内核和高效的设备协调机制，KTransformers解决了传统混合推理中的协调开销和计算资源未有效利用的问题，使得在单机上部署万亿参数模型成为可能。
SGLang-Diffusion 两个月的进展
自2025年11月初发布以来，SGLang-Diffusion在社区中引起了广泛关注和应用。我们非常感谢开源开发者的反馈和贡献。经过两个月的优化，SGLang-Diffusion的速度提升了2.5倍。本文总结了我们在模型支持、LoRA支持、并行性、硬件兼容性等方面的进展，并详细介绍了关键的技术改进和性能基准测试结果。