第四百一十五章 API开放(2/2)
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。
“谁允许你叫宝宝了?叫姐姐。”
顾司玥笑着说。
……
几天后的上午九点。
汤圆API正式对外开放访问。
没有发布会,也没有媒体投放,只在起源官网发了一篇公告,并在汤圆模型页面补充了一些说明。
汤圆模型的开发者文档早已挂在官网;大家都传说,一些高校、研究所和商业研究机构此前已经拿到汤圆API权限,只是还没对公众开放。
现在终于开放了。
凡在官网注册过的账号,都可自主生成APIKey,再用它调用汤圆模型接口;接口支持SSE流式输出,并把工具调用作为API的一级参数特别支持,表达了起源官方对智能体这种调用方式的推荐与支持。
API调用价格方面,开放前三天为折扣价:折后输入15元/百万词元,输出45元/百万词元。
汤圆1.0作为顶级模型,这个价格跟排位相近的几个模型——如OpenAI和Nex的旗舰模型——比起来,都算便宜。
甚至跟小了几十倍的轻量模型价格相近。
因为国内厂商定价比较卷,跟雕龙、坤元、糖包几家比,这个价格不算有优势。
可模型能力说一句遥遥领先也不为过。
所谓“比你强的模型还比你便宜”,就是汤圆1.0定价出来之后的状态。
更让大家惊奇的是:调用时如果授权数据用于改进产品和后续训练,直接半价。
这可是顶级模型!半价之后,直接成了白菜价。
这消息一开始只在技术群里口耳相传,后来逐渐被各平台AI赛道的博主做成了新闻。
两个小时后,消息登上各家科技媒体的头版头条。
《千呼万唤始出来,汤圆1.0API终于开放》
《起源集团的顶级模型定价问世,模型市场是否会迎来新一轮的价格战?》
《汤圆模型怎么调用?小编给你提供完整教程》
哦,最后这个不是科技媒体。
此时此刻,起源集团总部五楼的一间会议室里,韩路一、苏念念、江松然和几个直接负责此次发布的高管正聚在一起,看着投在大屏幕上的监控数据。
这次发布没有大规模宣传,其实是韩路一特意决定的。
按市场部门此前的调查,市面上对汤圆API开放已经期待已久,其中个人开发者和中小企业开发者的呼声最高。
他们大部分已是汤圆Chat和御风的用户,都很期待汤圆API开放后,这种能力能给他们的产品带来多大提升。
反而是大企业,反应慢、流程多,即使汤圆API正式发布后想加入采购清单,也至少要经过几轮测评和审批。
按一般产品的发布逻辑,他们会先让技术销售部门提前跟潜在的大企业客户打招呼,给对方留足时间做商业决策;等大企业这边卖得差不多了,才把剩余算力拿到市场上直接销售。
不仅是销售顺序,定价逻辑也不太一样:大企业采购量大,往往能拿到批发价。
但韩路一完全没跟潜在的大企业客户打招呼,也没宣传,直接把API放给公众——大家一起抢额度,先到先得。
现在离API发布才过去两个小时,网上舆论热度刚起来,新开放的API调用量已从每秒一千多涨到每秒两万。
“老江,我们留给API的算力,能支持的最大QPS是多少?”韩路一问道。
自从江松然和姜亦心都当上副总裁,韩路一就决定用老江和小姜称呼两人,免得叫Jiang总时弄混,直接叫名字又显得生疏。
江松然起身汇报:“韩总,各位,昨天压力测试时最高能到六万QPS;超过这个数就会产生等待,还会引发流量分配、上下文丢失的问题。所以我们现在的策略是在达到限度前直接限流,避免过大的流量把正在运行的任务冲垮。”
最高六万,刚开放两个小时就到两万了。
这个数据让在座众人喜忧参半。
苏念念看着数据,忽然想到什么,问道:“我记得第一次做上线计划时,最高并发是四万多?什么时候提到六万了?我们又有新算力了?”
江松然看了韩路一一眼,答道:“苏总,显卡资源还是那些。不过前几天韩总提了个新的优化方向,我们带团队试过,能把并发量提高三分之一左右。这个优化刚上线,昨天压测已经看到效果,只是还没来得及跟大家同步。”
众人都松了口气。
提升三分之一之后还这么紧张,若仍是四万多的状态,岂不是开放当天就要限流?
韩路一想了想,说道:“现在是开放第一波,肯定有不少人抱着试用心态在用,第一波过后不一定会持续使用。而且这个时候,我猜大部分人还没把汤圆API接入产品,流量还不太稳定。老江,你带队继续监控,尽量保证前几天不出现限流;御风和汤圆Chat的调用模式已经比较固定,可以把那边集群用不到的算力暂时调拨到API这边做冗余。”
江松然领命,点了点头。
韩路一又看向监控面板。
即使提前做了准备,硬件资源也就这些;这波流量冲过来时究竟能不能扛住,真不好说。
韩路一又问:“现在使用的用户里,选择共享数据的大概有多少?”
这个数据监控面板是苏念念做的。她操作了一下,把面板投上屏。
“占到80%多。”苏念念答道。
这就是个人开发者和企业用户的区别。
企业用户没得选:里面有用户数据,按法律法规也不能共享。
个人开发者可不关注这些。
汤圆1.0可是现在全球排名第一的模型,本来价格就不算贵,共享数据又直接半价,谁还管隐私不隐私,买来猛用就是了。
反正大家明知道这些数据会共享;真有隐私或商业机密,自己注意别往里放就好。
不过,很多人可能不知道:即使公司承诺不拿用户数据训练模型,也会对用户发言抽检,主要是看有没有不安全、不合规的内容。所以,把痔疮照片传给AI聊天助手问病情这件事,未必每个人都知道自己暴露了什么风险。
韩路一想了想,尴尬的地方就在这儿——价格定低了。
按经济学基础理论,价格不由成本和利润空间决定,而由需求决定。
价格便宜也不全是好处。
以现在这个定价,大家不管什么用途都想拿来用一下;于是,那些消费者愿意支付更高价格来满足的需求,和一般需求混在一起,被埋掉了。那些不想排队、不想被限流的用户,愿意花更多钱保证自己的需求,却没有付钱的机会。
这个价格是韩路一和苏念念商量后定的,本来打算作为永久定价;但由于韩路一有半价策略,苏念念提出前三天算折扣价。
这样也给后续涨价留出了空间。
用户们,不是我们涨价啊,只是折扣到期了。
江松然把投屏切回流量监控。就在开会的这一小会儿,QPS已从两万再次涨到两万一。
第一天的流量高峰还没到,最后究竟会用掉多少算力,大家心里都没底。
这时,韩路一的手机亮了。
这个手机号知道的人不多。韩路一看了看来电显示,是郑晓波。
他向众人示意,走出会议室,接起电话。
同时在心中暗想:
鼎盛啊——
汤圆API刚发布,郑晓波这个时候打电话,是想干什么?