目錄
近期微軟的高層人員調動以及新工具的推出，可能暗示着其AI戰略的轉向。
微軟已經有一段時間沒有向外界透露任何有關GenAI的訊息了。
在減少對OpenAI技術依賴的過程中，GenAI本該是微軟的重要戰略，但科技媒體The information瞭解到的微軟組織變革表明：
微軟在自主開發和訓練生成式人工智能上遇到了瓶頸。
而同期微軟推出的AI相關的新工具，也佐證了其在生成式人工智能業務上的戰略轉向。
前途未卜的合成數據與蒸餾模型
今年的早些時候，微軟似乎在對先前內部的一個名為「蒸餾」項目加倍投注。
這個項目的內容大致為先使用OpenAI的模型生成大量數據，然後再利用這些數據來訓練類似ChatGPT的模型。
微軟的目標是讓這些模型在某些任務上幾乎能達到與OpenAI模型相同的表現，這樣微軟就可以根據自身的需要，對自己開發的模型進行「公平市場價格」的定價和自由出售。
在人工智能的開發中，業內幾乎都會使用某種形式的人工智能生成的訓練數據，即合成數據。
作為OpenAI的主要資助者，微軟擁有充分的自由來使用OpenAI的模型。
因此，微軟的研究人員能夠要求GPT-4生成數百萬段與教科書質量類似的文本段落，包括文章和教科書風格的練習，這些練習附有解釋的問答內容。
隨後，微軟便可以利用這些數據來訓練一個較小但其性能表現與GPT-4相似的模型。
而大約從一年前開始，微軟就通過提煉OpenAI的模型開發了Phi。
Phi不僅開源，運行成本也更低。
微軟研究人員在他們的論文中表示，雖然Phi的規模要小得多，但其性能幾乎可以與OpenAI的主要旗艦模型相媲美。
微軟CEO納德拉將Phi形容為微軟在AI領域「掌握自己命運」的一種方式。
他向股東們表示，Phi在Azure上與投資公司貝萊德、阿聯酋航空以及醫療軟件公司Epic等客户進行了合作。
在某些情況下，特別是當問題相對簡單、不需要複雜解答時，微軟用Phi替代了OpenAI 的模型，例如在Bing等產品中取代GPT-4作為AI聊天機器人。
在Phi初步成功之後，今年一月，微軟將負責Phi的首席研究員Sébastien Bubeck從微軟研究部門調往一個專注於構建蒸餾模型的新組織。
同年三月，微軟以6.5億美元的協議聘請了Inflection的CEO 穆Mustafa Suleyman並讓他負責公司的消費者AI業務後，Bubeck被調到了蘇萊曼所管理的微軟AI團隊。
據兩位知情人士稱，他負責的是使用OpenAI的大型模型來生成訓練數據。
然而，最近Bubeck已從Suleyman的團隊離職，重新回到微軟研究部門，並再次向研究主管Peter Lee彙報工作。
而在八月，負責將Phi模型添加到Azure和其他微軟產品中的Misha Bilenko也離職前往了谷歌的DeepMind AI團隊。
一位微軟AI研究員認為，這些突如其來的人員變動可能表明，Suleyman將不再把合成數據和蒸餾視為部門的發展方向以及微軟的首要目標。
另一方面，今年五月被寄予期望的大型模型MAI-1毫無消息，且Suleyman團隊之後也再也沒有公開發布過任何模型的情況，也佐證了這一戰略轉向。
微軟現如今依然要依靠OpenAI的模型來支持自己的人工智能服務，據一些金融機構的預測，微軟今年有望在Azure上通過轉售OpenAI的模型獲得超10億美元的收入。
值得在意的是，微軟近期推出了一項在Azure AI上的新服務——
「校正」：人工智能幻覺的糾正工具
現階段阻礙生成式人工智能在現實中更廣泛地應用落地的最大缺陷，就是「幻覺」（hallucinations）。
幻覺是指缺乏基礎數據支持的內容的生成，輸出誤導性的信息。
這種現象尤其與大型語言模型（ LLMs ）相關。
在醫學、自動駕駛等高風險領域，準確的信息至關重要。
雖然人工智能有潛力改善對重要信息的獲取，但幻覺可能會導致誤解，造成嚴重的後果。
雖然業內可以通過「過濾」來解決幻覺問題，但這種方法在輸出的文本因內容被刪減或屏蔽而變得不連貫時，會導致用户體驗不佳。
而微軟認為，在Azure AI內容安全的接地檢測（groundedness detection）中引入的一項新功能——校正（correction），能夠突破上述侷限。
今年三月，微軟在Azure AI引入了接地檢測。它能夠將人工智能的輸出與原文檔進行比較，以識別生成過程中的幻覺內容。
但在用户實際體驗這項服務的過程中，一個疑問也隨之產生：「對這些檢測到的幻覺內容除了屏蔽之外，我們還能做什麼？」
為了解決這個問題，微軟在接地檢測中引入了校正功能，讓使用GenAI程序的用户能夠遇到幻覺之前，實時識別和糾正幻覺。
但校正的運作，需要程序連接到用於文檔摘要和給予RAG的接地文檔。
之後，Azure AI上的接地檢測將通過以下幾步運行：
檢測：首先，Azure AI內容安全會掃描AI生成內容中的無根據部分。
幻覺現象並不是一個完全有或完全無的問題，大多數無根據的輸出實際上也包含了一些有根據的內容。
這就是為什麼有根據性檢測可以精確找到無根據內容的具體部分。
當無根據的內容被識別出來後，模型會高亮顯示具體不正確、不相關或虛構的文本。
推理：在識別出無根據的段落後，模型會生成解釋説明，説明為什麼某些文本被標記。
這種透明性非常重要，因為它可以讓用户明確無根據的點，並評估其不接地的嚴重性。
修正：一旦無根據的內容被標記，系統會實時啓動改寫過程。被標記為不準確的部分會被修改，以確保與相關數據源保持一致。
但如果該句子缺少任何與基礎文件相關的內容，則可能會被完全過濾掉。
而在用户看到最初的無根據內容之前，修正就已經完成。
輸出：最後，修正後的內容將返回給用户。
但微軟強調，該工具提高的是人工智能生成的內容和源材料之間的一致性，它並不能保證生成的內容可以到達完美的準確性。
畢竟最根本的是數據來源的真實性和客觀性。或許，這也是微軟決定內部戰略轉向的原因。
而在構建值得信賴的人工智能的道路上，業界的開發者們還需要更多不同的嘗試。
參考資料：
https://the-decoder.com/microsoft-unveils-ai-hallucination-correction-tool/
