再创新,可能比较准确,Re-innovation
- 胡延平E-Rambler
- 2025-02-15 08:09:18
再创新,可能比较准确,Re-innovation。
这段时间以来,一直尝试对DeepSeek的技术产品进步实质,做一个准确概括。无论说DeepSeek没创新还是很创新,都有点不太对位。无论强化学习、混合专家模型MoE、知识蒸馏模型蒸馏、多头注意力机制、多Token预测、FP8混合精度训练、PTX指令级算力调度,包括V3-Zero-R1模型训练闭环、开源......没有一项是DeepSeek的源创新,但每个部分DeepSeek都进行了再创新,而且是系统性的再创新。
再创新也是创新。系统性的再创新,其实在一个技术周期之内是非常重要的进化能力。就像Transformer本身,尤其基础原理层级的关键技术,不在于谁首创,而在于谁能够以再创新把这种技术与相关产品带到发展奇点,进入DeepSeek式的引爆时刻。
如果升维到另一个技术周期,范式变了,可能需要另当别论。
这段时间以来,一直尝试对DeepSeek的技术产品进步实质,做一个准确概括。无论说DeepSeek没创新还是很创新,都有点不太对位。无论强化学习、混合专家模型MoE、知识蒸馏模型蒸馏、多头注意力机制、多Token预测、FP8混合精度训练、PTX指令级算力调度,包括V3-Zero-R1模型训练闭环、开源......没有一项是DeepSeek的源创新,但每个部分DeepSeek都进行了再创新,而且是系统性的再创新。
再创新也是创新。系统性的再创新,其实在一个技术周期之内是非常重要的进化能力。就像Transformer本身,尤其基础原理层级的关键技术,不在于谁首创,而在于谁能够以再创新把这种技术与相关产品带到发展奇点,进入DeepSeek式的引爆时刻。
如果升维到另一个技术周期,范式变了,可能需要另当别论。