8月29日,百度搜索AI助手已全量上線極速大模型,其自研技術(shù)能夠大幅提升搜索結(jié)果生成速度。對(duì)比DeepSeek V3.1,在效果持平情況下,生成速度是其5倍,而調(diào)用成本僅為70%。
據(jù)悉,該技術(shù)聚焦大模型中最耗時(shí)、最燒錢的推理環(huán)節(jié),全面優(yōu)化百度AI助手的生成速度、調(diào)用成本和使用效果。在該技術(shù)加持下,百度AI助手的首token返回時(shí)間縮短39%,回答吐字速度加快500%,為行業(yè)最快。