太平洋科技要聞

大模型落地，要追求極致的務(wù)實主義

鈦媒體整合編輯：太平洋科技發(fā)布于：2024-10-28 14:34

“能夠像人類一樣操作電腦。”這一堪稱革命性的新技能來自10月23日Anthropic最新推出的升級版Claude 3.5 Sonnet模型，據(jù)介紹該模型不僅各項性能指標(biāo)上取得顯著提升，并在多項測評中超過OpenAI的GPT-4o、谷歌的Gemini 1.5 Pro，以及自家的Claude 3 Opus。

目前，升級版Claude 3.5 Sonnet已經(jīng)在Amazon Bedrock平臺可用，與此同時，新模型Claude 3.5 Haiku發(fā)布，預(yù)計將于本月晚些時候在平臺上推出。Anthropic的產(chǎn)品經(jīng)理Michael Gerstenhaber曾表示，Anthropic正致力于每隔幾個月大幅度改進(jìn)性能、速度和成本之間的權(quán)衡曲線。此前，今年3月Claude 3系列發(fā)布、6月Claude 3.5 Sonnet發(fā)布時，都是在Amazon Bedrock上同步上線。這意味著當(dāng)客戶用上Amazon Bedrock服務(wù)時就已經(jīng)拿到了最領(lǐng)先AI大模型的鑰匙。

Amazon Bedrock已經(jīng)成為過去十年中增長最快的亞馬遜云科技服務(wù)之一。這也反映出亞馬遜提供多種領(lǐng)先基礎(chǔ)模型和廣泛功能的策略正在引起客戶的共鳴，目前數(shù)以萬計的活躍客戶正在使用Amazon Bedrock，包括Intuit、豐田和紐約證券交易所。

當(dāng)越來越多的客戶開始嘗試生成式AI，這場市場競速，就已經(jīng)不單單是看誰能夠最快構(gòu)建最領(lǐng)先的大模型應(yīng)用，而是誰能更好滿足客戶需要。

沒有一個大模型可以一統(tǒng)天下

以往觀點認(rèn)為，生成式AI的競賽是看誰能夠最快構(gòu)建最領(lǐng)先的大模型及應(yīng)用。

能做到這一點，不但要有技術(shù)實力更要有持續(xù)燒錢的魄力。為此你能看到，很多跑得快的大模型企業(yè)基本都會搭上擁有強(qiáng)大算力的云計算大佬的“快車” ，為了“省錢”。

投行Jefferies分析師Brent Thill在一份報告中援引亞馬遜云科技的數(shù)據(jù)顯示，只有3%的企業(yè)只使用一個語言模型，34%的企業(yè)使用兩個，41%的企業(yè)使用三個，22%的企業(yè)使用四個。

回頭再來看，這與Amazon Bedrock亮相之初的市場預(yù)判基本吻合：沒有一個模型可以適用于所有場景，企業(yè)需要各種模型來解決其在實際業(yè)務(wù)中遇到的問題。

2023年之后，Amazon Bedrock便持續(xù)接入Anthropic、Stability AI、AI21 Labs、Meta、Cohere、Mixtral等第三方主流AI廠商的四十幾款領(lǐng)先基礎(chǔ)大模型服務(wù)，并推出一系列配套功能，以便企業(yè)在實現(xiàn)簡化開發(fā)的同時確保隱私性和安全性。

極致的技術(shù)務(wù)實主義

但并非所有企業(yè)都能快速跟上時代步伐，與客戶的交流中，亞馬遜云科技頻繁發(fā)現(xiàn)一件事情：在尋找合適的大模型過程中投入的試錯時間、資源等各方面成本頗高。

一位中國企業(yè)CIO表達(dá)了一個觀點，就目前企業(yè)對生成式AI的嘗試，還需要時間持續(xù)解決。他的建議是，一是低成本試錯的能力，如果成本太高就等不到場景跑出來；二是長期系統(tǒng)性的思考能力，一定要把技術(shù)結(jié)合到業(yè)務(wù)流程和場景中。

亞馬遜云科技大中華區(qū)產(chǎn)品總經(jīng)理陳曉建近期就生成式AI價值化分享表示，企業(yè)應(yīng)該將注意力集中在少數(shù)的幾個能實現(xiàn)業(yè)務(wù)價值的Use Case（用例）上，而不是先花太多時間深入技術(shù)細(xì)節(jié)。

而Amazon Bedrock就是降低試錯成本最好的“雙向門”：在Bedrock上，模型和場景不匹配，就退出去，重選一個。

Amazon Bedrock已經(jīng)成為客戶使用基礎(chǔ)模型構(gòu)建和擴(kuò)展生成式AI應(yīng)用程序的最簡單方法，降低了所有開發(fā)者的使用門檻。這種優(yōu)勢正在不同行業(yè)、不同場景上體現(xiàn)出來。

全球最大的對沖基金橋水基金（Bridgewater Associates）很早就開始涉足生成式AI應(yīng)用。橋水基金長達(dá)50年的全球市場投資經(jīng)驗，使其深入理解了市場運(yùn)作的核心驅(qū)動因素，并將這些知識編寫成復(fù)雜的專家系統(tǒng)，通過每天接收并處理大量外部數(shù)據(jù)，生成市場觀點。隨著AI技術(shù)的日益成熟，橋水基金意識到，通過AI和機(jī)器學(xué)習(xí)可以進(jìn)一步優(yōu)化這一過程。

2023年，在聯(lián)席首席投資官Greg Jensen的主導(dǎo)下，橋水基金構(gòu)建了全新投資邏輯生成系統(tǒng)人工智能投資助手（AIA）。以前需要人工初步處理的問題可以交給AIA全面處理，然后再進(jìn)行人工審查。整體來說，分析師可以更聚焦精力處理20%有難度的問題，剩下80%的基礎(chǔ)問題交給AIA智能投資助手處理，節(jié)省了大量時間。

在構(gòu)建AI投資助手的過程中，Amazon Bedrock成為了一個至關(guān)重要的工具。通過Amazon Bedrock中不同模型的分析特性，靈活調(diào)用，以適應(yīng)從基礎(chǔ)的推理任務(wù)到更高階的市場分析等不同場景。今年7月，橋水基金做出了新的嘗試，發(fā)行了一支完全由AI操盤的規(guī)模20億美金的基金。

另一個案例是智能語音助手服務(wù)商Poly AI，主要服務(wù)各行各業(yè)的企業(yè)客服中心，包括旅游、住宿、零售、金融服務(wù)等，比如 Poly AI的AI語音客服可以解答賬戶管理問題、安排交貨、零售比價等。

Poly AI的AI語音客服可以模仿人工客服人員，有助于減少用戶等待時間并提高用戶滿意度和保留率，并針對不同企業(yè)客戶的行業(yè)屬性和場景需求進(jìn)行個性化定制。這種定制不僅體現(xiàn)在語音助手的內(nèi)容上，更深入到語調(diào)、語速等細(xì)節(jié)，根據(jù)目標(biāo)群體的特性調(diào)整交流方式、專業(yè)表述的程度、熱情程度、關(guān)切程度等，比如在針對老年群體或教育的場景會調(diào)整語氣、語調(diào)、語速、音色，確保客戶體驗的最佳化。

Poly AI還在基于Amazon SageMaker平臺進(jìn)行大規(guī)模語音克隆和合成算法的訓(xùn)練。這個過程中，Poly AI為企業(yè)構(gòu)建的解決方案可以將企業(yè)品牌個性融入其中，更有識別度，使語音助手不僅僅是一個工具。

今年8月，Poly AI宣布與亞馬遜云科技達(dá)成戰(zhàn)略合作協(xié)議，增強(qiáng)了Poly AI在大模型和生成式AI上的應(yīng)用深度。

初創(chuàng)公司NinjaTech AI是一家智能體（Agent）系統(tǒng)開發(fā)商。該公司面臨的現(xiàn)實挑戰(zhàn)之一是算力問題。由于英偉達(dá)H100的高成本和短缺，NinjaTech AI選擇了亞馬遜云科技自研的兩款A(yù)I芯片——Trainium和Inferentia。經(jīng)過雙方努力和協(xié)作，NinjaTech AI目前基于亞馬遜自研芯片成功訓(xùn)練AI模型，并構(gòu)建AI智能體。與傳統(tǒng)GPU解決方案相比，NinjaTech在使用Trainium和Inferentia時，成本節(jié)約達(dá)82%-89%。這一顯著的成本優(yōu)勢使得他們能夠以更具競爭力的價格為客戶提供高效、經(jīng)濟(jì)實惠的AI服務(wù)。

除了芯片，NinjaTech還利用Amazon SageMaker進(jìn)行生成式AI模型的微調(diào)和優(yōu)化。在復(fù)雜的AI模型訓(xùn)練中，NinjaTech需要處理不同的上下文、內(nèi)存管理、數(shù)據(jù)存儲等挑戰(zhàn)，而SageMaker的按需服務(wù)模式，使其能夠快速進(jìn)行實驗、訓(xùn)練，并在不浪費資源的前提下高效部署AI應(yīng)用。

作為一款生產(chǎn)力工具，Goodnotes通過生成式AI應(yīng)用提高用戶在電子文檔處理和學(xué)習(xí)過程中的體驗�；贏mazon Bedrock，Goodnotes將生成式AI服務(wù)無縫集成進(jìn)現(xiàn)有產(chǎn)品，包括手寫筆記識別、自然語言與筆記互動、文檔分析助手等功能。為了確保用戶數(shù)據(jù)隱私及教育合規(guī)，Goodnotes利用Guardrails功能確保安全性與合規(guī)性，防止用戶惡意使用AI生成有害內(nèi)容

不難看出，每家企業(yè)構(gòu)建生成式AI應(yīng)用推動業(yè)務(wù)創(chuàng)新，對于模型或工具平臺的選擇，往往會從可靠性、經(jīng)濟(jì)性、準(zhǔn)確性等維度入手。與此同時，大模型仍在快速升級，不斷進(jìn)行算法優(yōu)化、參數(shù)擴(kuò)增。而通過Amazon Bedrock，讓各種技能水平的開發(fā)人員和各種規(guī)模的組織都有機(jī)會使用生成式AI進(jìn)行創(chuàng)新，新的浪潮正加速到來。

本文來源：鈦媒體

大模型生成式AI Amazon Bedrock

鈦媒體

原創(chuàng)欄目