9月5日,騰訊全球數(shù)字生態(tài)大會(huì)在深圳舉辦。騰訊集團(tuán)副總裁、云與智慧產(chǎn)業(yè)事業(yè)群COO兼騰訊云總裁邱躍鵬在會(huì)上發(fā)布騰訊云RAG解決方案,支持企業(yè)用多種技術(shù)“量身定制”AI大模型應(yīng)用。
(騰訊集團(tuán)副總裁、云與智慧產(chǎn)業(yè)事業(yè)群COO兼騰訊云總裁邱躍鵬)
據(jù)悉,騰訊云RAG解決方案包含兼容Elastic開(kāi)源生態(tài)的騰訊云智能搜索(騰訊云Elasticsearch Service )、以及騰訊云自研的向量數(shù)據(jù)庫(kù),便于企業(yè)根據(jù)自身架構(gòu)、數(shù)據(jù)類(lèi)型、技術(shù)生態(tài)靈活選擇。
其中,騰訊云智能搜索提供從模型管理、向量生成、向量存儲(chǔ)、混合搜索、結(jié)果重排到LLM大模型集成的一站式RAG能力,企業(yè)僅用Elastic一套技術(shù)棧就能快速構(gòu)建AI應(yīng)用。
騰訊云智能搜索成功支持了微信讀書(shū)“AI問(wèn)書(shū)”功能上線,為億級(jí)用戶(hù)提供毫秒級(jí)別的檢索服務(wù),同時(shí)相比傳統(tǒng)單點(diǎn)解決方案降低了90%的機(jī)器成本。
針對(duì)數(shù)據(jù)規(guī)模大、數(shù)據(jù)類(lèi)型多樣的企業(yè),騰訊云向量數(shù)據(jù)庫(kù)提供2倍于業(yè)界平均水平的吞吐能力,毫秒級(jí)的響應(yīng)延遲,以及千億級(jí)的單表存儲(chǔ)規(guī)模,構(gòu)建企業(yè)的AI數(shù)據(jù)中臺(tái),打造RAG應(yīng)用基礎(chǔ)設(shè)施。
借助騰訊云向量數(shù)據(jù)庫(kù)的極致能力,學(xué)而思實(shí)現(xiàn)了在億級(jí)的資料庫(kù)中毫秒級(jí)完成檢索,同時(shí)檢索的準(zhǔn)確率達(dá)到了95%,大大提升了學(xué)而思學(xué)習(xí)機(jī)的語(yǔ)音檢索體驗(yàn)。