普发真空助力CMS半导体应用
06-06
豆宝通用模型lite-4k/32k，推理输入每千个代币定价0.3分；通义千问qwen龙，售价0.5美分数千代币推理输入 百度文信ERNIE Speed和ERNIE Lite宣布免费。
针对近期大机型降价狂潮，科技博主兰兮发文称：业界谈千元Token价格。
仅靠低价格是不够的。
如果吞吐量太小，无论多便宜，也不会被太多使用。
如果只是降低价格，吞吐量仍然是一根小水管，这将是一个非常孤独的下降。
以下为兰溪微博要点： 大豆包款价格战打响已经一周了，即将下雨的影响还是比较明显的。
同行们要么效仿开始降价，要么开始写阴阳短文，热闹非凡。
对于着急的人，我计算了之前云雀型号的限流指标和型号单价，并偷偷地说，豆袋的实际价格更高。
当火山引擎官网把不同版本、不同规格的销售方案全部曝光出来的时候，无论是预付费还是后付费，确实是穿透地板的最低价格标准，瞬间就被打脸了。
豆袋模型定价最值得关注的是，TPM（每分钟代币数）提升至 800,000，比同行（一般为 100,000 至 300,000 个代币）高出数倍。
如果对话文本较小，RPM（每分钟请求数）上限为10000，可支持的并发量是同类产品的几十倍（轻量版一般为60到10000）。
你希望其他大牌模特效仿吗？ 在行业中，当谈到每千个Token的价格时，仅靠低价是不够的。
如果吞吐量太小，无论多便宜，也不会被太多使用。
如果只是降价的话，吞吐量还是一根小水管，真的会很寂寞。
（关于免费）大模型的算力主要是训练方面要花钱的。
推理端的成本其实每年还有几十倍的优化空间。
但无论如何优化，都不可能优化到0。
它足够便宜，但仍然有利可图，这促进了应用/商业市场的增长。
包括OpenAI在内的主流大型模型开发者都有这样的想法。
武德不用讲，但商业法则还是要尊重的。
无论如何，大型模式toB仍处于把蛋糕做大的阶段。
如果更多的企业共同努力解决企业进入的成本门槛，也算是一种双赢。
雷锋网（公众号：雷锋网）雷锋网版权文章未经授权禁止转载。
详情请参见转载说明。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-06
06-18
06-17
06-17
06-18
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟，Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车？
更新鸿蒙3后，文杰允许你在车里做PPT了
新起亚K3试驾体验：追求“性价比”，韩系汽车仍不想放弃
阿维塔15登场！汽车配备了增程动力，理想情况下会迎来新的对手吗？
马斯克宣布创建 ChatGPT 竞争对手！ OpenAI的CEO给他泼了冷水， GPT-5可能会发生巨大变化
骁龙无处不在，是平台也是生态