字節(jié)跳動(dòng)豆包大模型團(tuán)隊(duì)宣布開(kāi)源一項(xiàng)針對(duì)混合專家模型（MoE）架構(gòu)的關(guān)鍵優(yōu)化技術(shù)——COMET。這項(xiàng)創(chuàng)新技術(shù)能夠?qū)⒋竽Ｐ陀?xùn)練效率提升1.7倍，同時(shí)節(jié)省40%的成本，已經(jīng)在字節(jié)跳動(dòng)的萬(wàn)卡集群訓(xùn)練中得到應(yīng)用，累計(jì)節(jié)省了數(shù)百萬(wàn)GPU小時(shí)的訓(xùn)練算力。?

MoE架構(gòu)作為當(dāng)前大模型的主流架構(gòu)，通過(guò)將模型劃分為多個(gè)專家子網(wǎng)絡(luò)，每個(gè)輸入僅動(dòng)態(tài)激活部分專家，從而顯著減少計(jì)算量，實(shí)現(xiàn)了“大模型容量、小計(jì)算開(kāi)銷”。然而，在分布式訓(xùn)練過(guò)程中，MoE架構(gòu)面臨著大量跨設(shè)備通信開(kāi)銷的問(wèn)題，嚴(yán)重制約了訓(xùn)練效率和成本。以海外主流模型 Mixtral-8x7B為例，其訓(xùn)練過(guò)程中通信時(shí)間占比可高達(dá)40%。?

字節(jié)跳動(dòng)COMET計(jì)算-通信重疊技術(shù)通過(guò)多項(xiàng)創(chuàng)新，有效壓縮了MoE專家通信的空轉(zhuǎn)時(shí)間，大幅降低了MoE流水線上的通信延遲。這一技術(shù)使得計(jì)算和通信能夠更加緊密協(xié)同工作，顯著提高了訓(xùn)練效率。同時(shí)，COMET技術(shù)的應(yīng)用成功將大模型訓(xùn)練成本降低了40%，為大模型研發(fā)帶來(lái)了顯著的經(jīng)濟(jì)效益。?

與DeepSeek近期開(kāi)源的DualPipe等MoE優(yōu)化方案相比，COMET具有更好的兼容性和易用性?？梢韵癫寮粯又苯咏尤胍延械腗oE訓(xùn)練框架，支持業(yè)界絕大部分主流大模型，無(wú)需對(duì)訓(xùn)練框架進(jìn)行侵入式改動(dòng)。此外，COMET還可以與DualPipe方案聯(lián)合使用，進(jìn)一步壓縮模型訓(xùn)練成本。?

COMET技術(shù)的優(yōu)勢(shì)不僅體現(xiàn)在訓(xùn)練效率和成本的優(yōu)化上，還在于其靈活的部署方式。該技術(shù)支持多種MoE并行模式，能夠適應(yīng)不同的訓(xùn)練需求。目前，COMET的核心代碼已經(jīng)開(kāi)源，并向開(kāi)發(fā)者提供了一套友好的Python API，方便開(kāi)發(fā)者集成和使用。未來(lái)，COMET還計(jì)劃兼容Triton等編譯生態(tài)，進(jìn)一步提升其性能和應(yīng)用范圍。?

人工智能搜索引擎Perplexity AI正積極布局新領(lǐng)域，計(jì)劃推出一款名為Comet的網(wǎng)絡(luò)瀏覽器。2月24日，該公司在X平臺(tái)發(fā)布帖子，明確表示這款瀏覽器“即將推出”，并在回復(fù)中向用戶發(fā)出邀請(qǐng)。

回顧過(guò)往，去年10月，Perplexity方面稱其搜索引擎每周處理查詢次數(shù)超1億次。當(dāng)時(shí)，Perplexity首席執(zhí)行官Aravind Srinivas在X平臺(tái)發(fā)文：“Perplexity目前每周處理查詢超1億次，下一個(gè)目標(biāo)是實(shí)現(xiàn)日處理查詢超1億次?！?/p>

在融資與估值方面，去年12月，Perplexity完成了一輪5億美元的融資，公司估值增長(zhǎng)兩倍，達(dá)到90億美元。據(jù)悉，其支持者包括軟銀、英偉達(dá)以及亞馬遜創(chuàng)始人杰夫?貝索斯。而在2024年初，Perplexity的估值僅為5.2億美元，同年夏天，估值漲至30億美元。

在產(chǎn)品拓展上，去年11月，Perplexity面向美國(guó)消費(fèi)者推出了一款人工智能購(gòu)物助理——Buy With Pro。通過(guò)該功能，購(gòu)物者能夠便捷研究和購(gòu)買產(chǎn)品。Perplexity稱：“這是我們服務(wù)用戶的重大突破，從提供答案邁向支持無(wú)縫原生操作，讓網(wǎng)上購(gòu)物變得更加輕松有趣?！?/p>

目前，該功能僅對(duì)美國(guó)Perplexity Pro用戶開(kāi)放，用戶可在Perplexity網(wǎng)站或應(yīng)用上結(jié)賬，購(gòu)買指定商家的特定產(chǎn)品。在門(mén)戶網(wǎng)站保存了送貨和賬單信息的消費(fèi)者，還能享受一鍵結(jié)賬服務(wù)。此外，Perplexity還推出了視覺(jué)搜索工具Snap to Shop，助力消費(fèi)者通過(guò)上傳照片尋找商品。根據(jù)相關(guān)帖子內(nèi)容，該工具無(wú)需用戶提供產(chǎn)品描述或名稱，僅依據(jù)照片就能展示相關(guān)產(chǎn)品。

在搜索引擎市場(chǎng)格局方面，美國(guó)銀行全球研究近期的報(bào)告顯示，盡管ChatGPT、Perplexity和Claude等人工智能聊天機(jī)器人數(shù)量不斷增加，但谷歌搜索的全球每日訪問(wèn)量依舊保持 “穩(wěn)定”。1月份，谷歌全球日均訪問(wèn)量相比12月增長(zhǎng)1%，達(dá)27億次，同比僅下降1%，這一數(shù)據(jù)涵蓋了桌面和移動(dòng)搜索。與此同時(shí)，人工智能聊天機(jī)器人的熱度也在持續(xù)攀升，上個(gè)月，ChatGPT的全球訪問(wèn)量環(huán)比增長(zhǎng)4%，同比增長(zhǎng)148%，達(dá)到1.28億次。