ZARZA We are Zarza, the prestigious firm behind major projects in information technology.
Listen "LLM推理的确定性之战：揭秘非确定性根源与解决方案"
Episode Synopsis
欢迎收听AI Radio FM - 科技频道！本期节目，我们将深入探讨大型语言模型推理中令人头疼的非确定性问题。从浮点数非结合性到批量不变性，我们将一步步揭示LLM推理结果不一致的真正原因，并分享如何实现真正可复现、确定性结果的创新方法，包括对RMSNorm、矩阵乘法和注意力机制的批处理不变性改造。此外，我们还将讨论确定性推理对真实在线强化学习的关键意义。跟随我们的专家，weedge，一起攻克这个技术难题！
More episodes of the podcast AI Podcast
策略内蒸馏：LLM高效训练的秘密武器
28/10/2025
EchoMimicV3：13亿参数，统一多模态多任务人体动画的魔法！
25/10/2025
智读万卷：PaddleOCR-VL的文档解析革命
24/10/2025
LongLive：实时互动长视频生成的革新之路
21/10/2025
DeepSeek-OCR：开启长上下文光学压缩新纪元
20/10/2025
LightRAG：大模型检索增强生成的图谱新范式
20/10/2025
Voila：迈向自主语音AI的里程碑
15/10/2025
机器人学习：从经典到通用策略的深度探索
15/10/2025
Muon优化器：AI训练提速的秘密武器
14/10/2025
月光私酿：边缘设备上的微型专业ASR模型
11/10/2025
In God we trust