對抗谷歌、OpenAI,微軟憋大招?自研AI大模型“MAI-1”,參數5000億 - SL886 日誌

對抗谷歌、OpenAI,微軟憋大招?自研AI大模型“MAI-1”,參數5000億

By admin
2024-05-07

雖然投了OpenAI 100多億美元成為“最大金主”,但微軟在人工智能上的野心並不滿足於此。

據悉,微軟準備推出新款自研AI大模型——“MAI-1”,這將成為迄今為止最大的微軟AI模型。新模型將擁有約5000億個參數,這個規模足以和谷歌、Anthropic以及OpenAI相抗衡。

目前,該模型尚未正式公佈,微軟可能會在本月晚些時候的Build開發者大會上有所透露。


MAI-1,微軟的野心?


新模型 MAI-1 的開發由微軟AI首席執行官穆斯塔法·蘇萊曼(Mustafa Suleyman)領導。

這個蘇萊曼的來頭不小。他曾是谷歌DeepMind聯合創始人,在DeepMind被谷歌收購後,他在2022年從谷歌離職,並創辦了人工智能初創公司Inflection

今年3月的時候,Inflection 被微軟以 6.5 億美元收購了大部分員工和知識產權。

所以市場猜測,MAI-1可能建立在 Inflection 的技術之上。

不過據媒體援引內部人士爆料稱,MAI-1是微軟構建的全新大型語言模型 (LLM),雖然可能會利用 Inflection 的一些訓練數據和技術。

據悉,MAI-1 擁有大約5000億個參數,這比微軟之前的開源模型要大得多,同時也在目前市場上算是名列前茅。

微軟在3月推出的Phi-3 Mini 只有 38 億個參數,而 Meta 的 Llama 2 模型的參數為700 億個,OpenAI 的 GPT-4 則有1萬億個參數。

雖然比ChatGPT-4的參數要低,但這也將意味着微軟的推理成本更低。

另外,微軟還擁有龐大的數據資源和計算能力,包括配備英偉達圖形處理單元的大型服務器集羣。

這些應該在培訓和支持 MAI-1 的發展中,將發揮至關重要的作用。


瘋狂“砸錢”


眼下,AI大模型的主導地位爭奪戰如火如荼。

面對谷歌等科技巨頭的“角逐”,微軟在人工智能領域也一直瘋狂“砸錢”

除了重金投資OpenAI 之外,微軟還在“廣撒網”AI獨角獸。

回顧來看,自2019年以來,微軟在OpenAI上的投資已超過130億美元,今年2月微軟與法國開源AI初創公司Mistral AI達成深度合作,3月又收購了Inflection AI等等。

目前,微軟已經是 OpenAI 和法國初創公司 Mistral的大投資者,那為什麼還要從頭開始創建一個新模型呢?

微軟可能是兩面下注。

當下,微軟現在正在追求 AI 的雙軌道發展,旨在開發既關注移動設備本地運行的小型語言模型,又關注由雲支持的大型最先進模型。

這也意味着,微軟願意獨立於OpenAI 在 AI 領域重新開闢一條新路。

雖然,目前MAI-1 的確切用途尚未確定微軟也未對此作出迴應。

 但微軟首席技術官 凱文·斯科特(Kevin Scott)週一 在社交媒體上表示,OpenAI使用微軟構建的超級計算機來訓練人工智能模型,然後兩家公司都將其應用於產品和服務中, 微軟研究院和該公司的產品組也構建了人工智能模型。

他表示,微軟幾乎每一項產品、服務和操作流程都使用了人工智能模型,製作和操作產品的團隊有時需要進行自己的定製工作,無論是從頭開始訓練模型,還是微調模型別人已經建造了。未來還會有更多這樣的事情。其中一些模型的名稱包括 Turing 和 MAI。

顯而易見的是, MAI-1 的即將問世代表微軟又向前邁出了一步,也標誌着正在進行的人工智能軍備競賽進入了關鍵時刻。