发布时间:2024-10-23 已有: 位 网友关注
其次,昨晚Anthropic发布的3.5新版本操作computer,其实也是agent。详细的可以去看昨晚流传的。
更不用说,老黄在BG2上的对话,也提到“我们很快会看到可用的agent”
Agent下的推理需要多少的算力量级?某外资Broker昨天给了一个非常好的测算
结论就是,训练可能比较难看到每年数倍的算力提升,但推理的ROI、可用性、稳定性一旦被证明,推理的算力依然可以每年数倍成长,大胆点,即“指数式成长”,当然推理的成本以光速通缩,但这是好事。
这也就理解了,OpenAI融资材料中给出的收入预测,如果从成本加成来看,也不是不可能...
最后,结合昨天我们提到的英伟达新高:
“最近星球内更新了很多眼花缭乱的英伟达产品线。说明什么问题?从NVL2到NVL4到NVL8、36、72、144、288,甚至还有512、576。英伟达拉出了一长串的pipeline,面向明年开始的推理浪潮。推理场景本就非常多样化,ok,下游各取所需。这不就是所谓的PMF,product market fit....”