快訊
光電融合芯片有望讓Token成本降50%國產算力集群或成降本關鍵
7月19日,當前,隨著AI智能體在各行業的應用深入,Token的調用量一直保持著高速增長態勢。未來如何能讓算力成本進一步下降,成為各方發力的重點。業內人士介紹,他們正通過算力平台來協調多個主流大模型的使用,綜合降低詞元成本。同時,還在全國範圍加快大規模算力集群的建設。而國產算力芯片支撐的超大規模算力集群,被業內視作是下一步降本的關鍵。此外,未來三五年內,光芯片等更前沿的新技術落地,也有望成為降低算力成本的另一探索方向。「光電融合的芯片相比電芯片的話,核心在於它的計算延遲更低、功耗也會更低。每單位Token成本會相應下降50%,甚至更多。」(金十)