首页 > 都市言情 > 首富从AI浪潮开始

首富从AI浪潮开始 第485节

  而且更让大家惊奇的是,调用时如果授权数据用于改进产品和后续训练的话,直接半价。

  这可是顶级模型!半价之后直接成了白菜价了。

  这个消息最一开始只是在技术群里口耳相传,然后逐渐在各个平台的AI赛道的博主那里变成了新闻。

  两个小时之后,这个消息登上了各个科技媒体的头版头条。

  《千呼万唤始出来,汤圆1.0 API终于开放》

  《起源集团的顶级模型定价问世,模型市场是否会迎来新一轮的价格战?》

  《汤圆模型怎么调用?小编给你提供完整教程》

  哦,最后这个不是科技媒体。

  此时此刻,在起源集团总部五楼的一个会议室里,韩路一、苏念念、江松然,对这次发布直接负责的几个高管正聚在一起看着投放在大屏幕上的监控数据。

  这次发布之所以没有进行大规模宣传,其实是韩路一特意决定的。

  按照市场部门提前的调查,市面上对汤圆API的开放已经期待已久,其中尤其是个人开发者和中小企业的开发者呼声最高。

  他们大部分已经是汤圆Chat和御风的用户,都非常期待汤圆API开放之后,这种能力能给他们的产品带来多大提升。

  反而是那些大企业,因为反应慢,流程多,即使在汤圆API正式发布之后他们想要加入采购清单,也需要至少经过几轮测评和审批之后才行。

  按照一般产品的发布逻辑,他们会先由技术销售部门提前去和潜在客户的大企业们打招呼,给他们留足充足的时间来做商业决策,等到大企业这边卖的差不多了,才会把剩余的算力拿出来在市场上直接销售。

  不仅是销售顺序,定价逻辑也不太一样,大企业由于采购量大,往往能够拿到批发价格。

  但是韩路一这是完全没有和潜在的大企业客户们打招呼,也没有宣传,直接把API放给公众了,大家一起抢额度,先到先得。

  现在离API发布仅仅过去了两个小时,网上的舆论热度刚刚开始,新开放的API调用量已经从每秒一千多涨到了每秒两万。

  “老江,我们留给API的算力,能支持的最大QPS是多少?”韩路一问道。

  自从江松然和姜亦心都当上了副总裁,韩路一就决定用老江和小姜来称呼两人了,避免叫Jiang总两个人弄混,直接叫名字又显得生疏。

  江松然起身汇报:“韩总,各位,昨天我们压力测试时,最高能达到六万的QPS,超过这个数字之后就会产生等待,还有会引发流量分配、上下文丢失的问题,所以我们现在的策略是在达到这个限度之前就直接限流,避免太大的流量把已经在运行的任务冲垮。”

  最高六万,刚开放两个小时就两万了。

  这个数据让在座的众人喜忧半掺。

  苏念念看着数据,突然想到了什么,问道:“我记得第一次我们做上线计划的时候,最高的并发是四万多?什么时候提到六万了?我们又有新的算力了?”

  江松然看了韩路一一眼,回答道:“苏总,显卡资源还是那些,但是前几天韩总提出了一个新的优化方向,我们带着团队试过了,能够把并发量提高三分之一左右,这个优化才刚刚上线,昨天压测的时候已经看到效果了,但是还没来得及和大家同步。”

  众人都觉得松了一口气。

  提升三分之一之后还觉得这么紧张,要是还是四万多的状态,岂不是开放当天就要限流了?

  韩路一想了想,说道:“现在是开放的第一波,肯定有很多人都是抱着试用的心态在用,第一波用过之后不一定会持续使用的。而且现在这个时候,我猜大部分人还没有把汤圆API接入他们的产品,这个流量还不太稳定,老江,你带队继续监控,尽量保证前几天不要出现限流,而且现在御风和汤圆Chat的调用模式已经比较固定了,我们可以把那边的集群用不到的算力暂时调拨到API这边来做冗余。”

  江松然接到指示,点了点头。

  韩路一再次看向监控面板。

  即使已经提前做好了准备,但是硬件资源就是这些,这波流量冲过来的时候,究竟能不能抗住,真不好说。

  韩路一又问道:“现在使用的用户里,选择共享数据大概有多少?”

  这个数据监控的面板是苏念念做的,她操作了一下,把面板投屏上来。

  “占到了80%多。”苏念念答道。

  这就是个人开发者和企业用户的区别了。

  企业用户是没得选,里面有用户数据,按照法律法规来说,也是不能共享的。

  个人开发者可不关注这个。

  汤圆1.0可是现在世界上排名第一的模型,本来价格就不算贵,共享数据又是直接半价,那我还管你隐私不隐私的,直接买来猛用。

  反正大家是明着知道这些数据会共享的,真有隐私或者商业机密,自己注意不要往里面放就好了。

  不过可能很多人不知道的是,即使是承诺不会拿用户给出的数据进行模型训练的公司,他们也会对用户的发言进行抽检的,主要是为了看里面有没有什么不安全和不合规的内容,所以把痔疮照片传给AI聊天助手询问自己病情这件事,可能不是每个人都知道暴露的风险是什么。

  韩路一想了想,这就是尴尬的地方了,价格定低了。

  按照经济学的基础理论,价格不是由成本和利润空间决定的,价格是根据需求决定的。

  价格便宜也不完全是好处。

  以现在这个定价,大家不管什么用途都会想要来用一下,于是那些消费者愿意支付更高价格来满足的需求和一般的需求混在一起,被埋掉了。那些不想排队,不想被限流的用户,他们愿意花更多的钱来保证自己的需求,但是他们没有付钱的机会。

  这个价格是韩路一和苏念念商量之后确定的,本来打算作为永久定价,但是由于韩路一半价的定价策略在,苏念念提出了前三天算作折扣价格的建议。

  这样也给后续涨价留出了空间。

  用户们,不是我们涨价啊,只是我们折扣到期了。

  江松然把投屏切回到流量监控,就在开会这么短短的一会,QPS已经从两万再次涨到了两万一。

  第一天的流量高峰还没到,究竟最后会用掉多少算力,大家心里都没有底。

  这时,韩路一的手机亮了起来。

  这个手机号知道的人不多,韩路一看了看来电显示,是郑晓波。

  他向众人示意了一下,走出会议室,接起了电话。

  同时在心里想道:

  鼎盛啊����

  汤圆API刚刚发布,郑晓波这个时候打电话,是想干什么?

请个假

  31号正常更新。

  从9月1日开始请假两周,9月15日复更。

  这本书最近因为前期部分章节需要集中修改,暂时下榜了。

  我本来打算边更新边修改前文,直到重新上榜,但是坚持了两周,发现确实顾不过来。

  最近我本职工作比较忙,加上修改前文和写更新,每天只能睡四五个小时,身体撑不住了,新章节的更新量和质量也受了影响。

  所以我决定请假两周,集中把前面的章节修改完,我自己估算了一下,两周应该够了。

  请读者放心,这是我的第一本书,我肯定不会让它以太监结尾的。

  感谢大家的一路支持,我们9月15日见。

第四百一十六章 这才是新时代的API

  韩路一把电话接了起来。

  “韩总,恭喜啊!”郑晓波爽朗的笑声传了过来。

  “郑总,喜从何来啊?竟然值得郑总百忙之中特意给我打电话?”韩路一问道。

  “韩总,汤圆API开放这么大的事,整个行业都在讨论,我自然是为这个事情来的。”郑晓波说道,“我听说起源之前一直在为算力的事情困扰,现在API能开放出来,想必是这个瓶颈已经解决了吧?”

  “承蒙郑总关心,确实有一些进展。”韩路一回答道。

  郑晓波说的都是些废话。

  起源缺算力这件事,在全行业都不是秘密。

  而且因为实体清单的限制,起源是完全买不到英伟达的显卡,韩路一也不打算买,所以才另辟蹊径,把资源全投在算力国产化上。

  这个方向究竟要多久才能出成果,之前没人能打包票,直到起源突然冒出来,借着官方的名义组织起了国产算力联盟,大家才反应过来:

  还真给他们做出来了。

  现在算力联盟里既有鼎盛的全资子公司,也有鼎盛参与投资的公司,起源在推国产算力联盟就是为了解决算力不足的问题,这个事大家都心知肚明,郑晓波更没理由不知道。

  甚至连起源手里到底有多少卡,多少算力,都能从业内人士那拼凑出来。

  所以他打电话来肯定不是担心算力的。

  “郑总还有什么别的提点?”韩路一问道。

  郑晓波又哈哈大笑了几声:“韩总真是敏锐,我确实是无事不登三宝殿,这次是有个不情之请。”

  “郑总请讲。”

  “汤圆的市场反响这么热烈,韩总就算手里有多余的算力,应该也快到顶了吧?”郑晓波的声音严肃起来,“不知道韩总考不考虑把模型部署到鼎盛云上来,由我们来卖?你有模型,我有算力,你有市场,我有客户基础,这是合则两利的事情。”

  韩路一冷冷一笑。

  “郑总的算盘打得不错,只是和贵司合作,我心里不是很有底。上次的事情,如果不是吕总亲自出面,恐怕不会结束得那么简单吧?”

  这鼎盛还真是好了伤疤忘了疼,上次汤圆0.9在鼎盛云上跑的训练,标注数据被他们偷去训练坤元,这才过去没两个月,还想故技重施?

  谁能保证你们不会再偷一次?

  把模型部署在别人的计算卡上,显存里的东西一目了然,模型的参数和权重基本上是全开放的。

  为什么Nexus AI敢把自己的模型放在谷歌云上?为什么OpenAI把自己的模型都部署在微软的Azure云上?就是因为他们之间不只是合作伙伴,还有直接的投资关系。

  不然的话,他们也怕参数被偷。

首节上一节485/513下一节尾节目录txt下载

上一篇:这个导演不讲规矩

下一篇:我在中东造军火,被全球通缉?

推荐阅读