7月11日,亞馬遜云科技紐約峰會(huì)上,有兩個(gè)數(shù)字相當(dāng)驚人: 1. 96%的 AI 獨(dú)角獸,業(yè)務(wù)跑在亞馬遜云科技上; 2. 2024 福布斯 AI 50 榜單中,90% 的企業(yè)用的是亞馬遜云科技; 這家云計(jì)算領(lǐng)頭羊企業(yè),已經(jīng)積累了太大的競(jìng)爭(zhēng)優(yōu)勢(shì)——他們?cè)谶^去是云計(jì)算馬太效應(yīng)的最大受益者,如今又拿下了最多的新興企業(yè)。如果不是甲方企業(yè)成熟的多云架構(gòu),多少做出了稀釋,今天的云計(jì)算市場(chǎng)恐怕已無懸念可言。 這一切都源于 18 個(gè)月來,亞馬遜云科技近乎瘋狂的產(chǎn)研迭代速度。亞馬遜云科技自己的數(shù)據(jù)顯示:從2023 年至今,他們已經(jīng)正式發(fā)布了 326 項(xiàng)生成式 AI 功能;同期機(jī)器學(xué)習(xí)和生成式 AI 服務(wù)的 GA數(shù)量,超過其他供應(yīng)商兩倍。對(duì)比一下,這一階段的第二梯隊(duì)云計(jì)算企業(yè),可能半年召開一場(chǎng)會(huì)議,僅僅是為了宣布產(chǎn)品降價(jià)。 從 Amazon Q 這一項(xiàng)服務(wù)出發(fā),能更深切地體驗(yàn)亞馬遜云科技程序員的工作強(qiáng)度:2023 年12 月 re:Invent 官宣,2024 年 4 月正式推出,而到了今天,Amazon Q 已經(jīng)融入了亞馬遜云科技最為人矚目的 Amazon SageMaker 服務(wù)。 “傻瓜式”服務(wù)來了 關(guān)于Amazon Q,過去已知的內(nèi)容是其由三部分組成,包括:Amazon Q Developer,服務(wù)技術(shù)同學(xué)的研發(fā)工作;Amazon Q Business ,幫助企業(yè)員工做企業(yè)內(nèi)部的數(shù)據(jù)挖掘和決策;Amazon Q Apps,基于 Amazon Q Business ,幫助員工構(gòu)建生成式AI 應(yīng)用程序,自動(dòng)化日常工作。 但在獨(dú)立服務(wù)客戶的范疇外,Amazon Q 也在快速深入亞馬遜云科技自己的 GenAI 產(chǎn)品體系。從這一點(diǎn)上,亞馬遜云科技真是把“吃自己的狗糧”貫徹到了極致。 在 7 月 10 日的亞馬遜云科技紐約峰會(huì)上,亞馬遜云科技官宣 Amazon SageMaker Studio 已經(jīng)內(nèi)置了 Amazon Q Developer,可以通過自然語言交互,提供構(gòu)建、訓(xùn)練機(jī)器學(xué)習(xí)模型的分步指導(dǎo)、生成入門代碼,拆解復(fù)雜任務(wù),檢索文檔以及直接提供故障排除幫助。 翻譯過來就是,現(xiàn)在基于亞馬遜云科技的服務(wù)做機(jī)器模型訓(xùn)練,其實(shí)并不需要有 JD 中常見的“熟悉相關(guān)工具的使用”,你需要的只是表達(dá)想要做什么,然后按步驟行事就可以了。 而類似的功能,雖然在過往整個(gè)數(shù)字化轉(zhuǎn)型工程中頻頻出現(xiàn),但最終在實(shí)際的使用體驗(yàn)上并不好。負(fù)面的反饋?zhàn)钤绮⒎窃醋詷I(yè)務(wù)人員,而是來自研發(fā)人員。 原因是,每個(gè)企業(yè)的研發(fā)團(tuán)隊(duì)幾乎都有自己的代碼規(guī)范,以及可復(fù)用的代碼庫。讓 AI 基于自己的風(fēng)格重寫一個(gè)功能,有時(shí)只會(huì)起到反效果。所以過往大部分的 AI 工具可以提供建議,可以檢索文檔,但卻不能生成代碼。 亞馬遜云科技顯然已經(jīng)考慮到這個(gè)問題,因此昨天的另一項(xiàng)發(fā)布是,允許使用私有代碼庫自定義 Amazon Q Developer。簡(jiǎn)單來說,就是 Amazon Q Developer 會(huì)先學(xué)習(xí)企業(yè)自己代碼庫中的示例代碼,而后再開始寫。 這就很有意思了。過去的AI被叫做感知型 AI,它要么進(jìn)行感知或檢索,要么進(jìn)行簡(jiǎn)單的重復(fù)工作;而今天的 AI 叫做認(rèn)知型 AI,它具備了認(rèn)知和學(xué)習(xí)能力。二者的差別就在一個(gè)細(xì)微卻十分重要的功能上得以體現(xiàn),并直接改變了 AI 進(jìn)入業(yè)務(wù)流程,創(chuàng)造代碼和文檔的實(shí)現(xiàn)難度。 云計(jì)算行業(yè),時(shí)常將自己比喻為信息時(shí)代的“自來水龍頭”,意思是使用云端資源和服務(wù),就像打開水龍頭一樣簡(jiǎn)單,隨處可得,簡(jiǎn)單可用。 但老實(shí)說,過去這“水龍頭”的說明書可有點(diǎn)難懂。到了今天,以自然語言 24 小時(shí)同 AI 交互的使用方式,才真正改變了這種狀況。 帶著這樣的認(rèn)知,再看本次紐約站 Amazon Q Apps 和 Amazon App Studio 的更新,就很容易理解了。 Amazon Q Apps 在 4 月已經(jīng)發(fā)布過預(yù)覽,在昨天官宣全面推出。它的功能雖然被描述為用自然語言構(gòu)建應(yīng)用程序,但核心場(chǎng)景其實(shí)是基于企業(yè)數(shù)據(jù)源,用應(yīng)用替代表格和文檔,改變企業(yè)員工間的信息傳遞模式。 這里必須要聊聊,所有大型企業(yè)都面臨的溝通效率低下的問題。文檔是一個(gè)讓人又愛又恨的東西,如果太短,意味著沒什么內(nèi)容;如果太長(zhǎng),則意味著學(xué)習(xí)成本很高。甚至曾經(jīng)有一批程序員的主要工作之一,就是寫文檔——只為了讓這玩意的可讀性更高些,降低協(xié)作成本。 某種程度上,這變成了企業(yè)級(jí)的“亞健康狀態(tài)”:如果你讀不懂文檔,或者文檔本身寫的有不好,就只能聯(lián)系文檔作者,期待他分出時(shí)間為你答疑。有時(shí)跨部門的配合并不容易,有時(shí)則是這位同事已經(jīng)離職,查無此人。 “亞健康狀態(tài)”存在太久,就會(huì)變成真正的病癥:明明是一個(gè)重復(fù)了五年的老項(xiàng)目,但每次啟動(dòng)都像是重新來過。項(xiàng)目經(jīng)理既不了解過往經(jīng)驗(yàn),也很難找到一個(gè)顧問。大家對(duì)復(fù)盤逐漸失去興趣——都知道同樣的問題,接下來還會(huì)再次出現(xiàn)。 允許 Amazon Q Apps 將這些文檔,變成一個(gè)應(yīng)用,以 ChatBot 級(jí)的體驗(yàn)保持智能交互,恐怕是目前最有前景的解決方案。 而 Amazon App Studio 在功能上看起來和 Amazon Q Apps 很像,都是通過自然語言構(gòu)建應(yīng)用程序。但 Amazon App Studio實(shí)際上是干掉了過去的眾多“無代碼”服務(wù)。 “無代碼”構(gòu)建工具,有著生成式AI爆發(fā)前,獨(dú)特的尷尬——簡(jiǎn)單說就是,智能了,但沒完全智能。允許使用者不懂編程,但不能一點(diǎn)不懂。 原始的編程可以籠統(tǒng)的分為四個(gè)步驟:以簡(jiǎn)易代碼或程序框圖的形式,構(gòu)建架構(gòu);基于某種編程語言實(shí)現(xiàn)該架構(gòu);撰寫測(cè)試用例,并進(jìn)行測(cè)試;部署上線。 “無代碼”類工具通常可以實(shí)現(xiàn) 2-4 步,但需要用戶以拖曳的形式,直接或間接的完成第一步。而第一步通常是最難的,看似復(fù)雜的編程語言反倒只是工具。加上組織往往都有慣性,致使該類工具過去的應(yīng)用情況并不好。 Amazon App Studio 在架構(gòu)搭建上著實(shí)發(fā)了大力,得益于生成式 AI 的進(jìn)步,完全可以實(shí)現(xiàn)從需求到產(chǎn)品的轉(zhuǎn)化。 同樣,Amazon Bedrock 的 Agent 現(xiàn)在支持內(nèi)存保留和代碼解釋了,意思就是在已經(jīng)可以托管,高度自動(dòng)化的 Amazon Bedrock 服務(wù)上,加上了對(duì)每一個(gè)使用者的“定制記憶”。此前訂機(jī)票你記不得的信息,AI 會(huì)幫你記住,并在最新的交互中做出提醒。 Agent、托管、深入業(yè)務(wù)流,一切都在向全新的智能體驗(yàn)撒腿狂奔。曾經(jīng)所有推進(jìn)數(shù)智化轉(zhuǎn)型的企業(yè),都在思考,去哪里招聘一個(gè)既懂業(yè)務(wù)、又懂技術(shù)、還懂產(chǎn)品的業(yè)務(wù)架構(gòu)師。但從現(xiàn)在看來,這個(gè)崗位的員工,很可能是數(shù)字化的。 安全是個(gè)不性感,但很重要的議題 當(dāng) 2023 年 4 月亞馬遜云科技最早推出 Amazon Bedrock 時(shí),一個(gè)“大模型貨架”的概念出現(xiàn)在企業(yè)服務(wù)領(lǐng)域。這基于兩個(gè)基本的概念:
而在“貨架”的陳列中,最耀眼的可選模型,其實(shí)是 Anthropic 的 Claude3.5 Sonnet。 一則,其發(fā)布時(shí),就在各項(xiàng)指標(biāo)評(píng)測(cè)中超越了 Gemini 1.5 pro;二則,亞馬遜將向 Anthropic 投資高達(dá) 40 億美元,并持有其部分股權(quán)。有“血緣關(guān)系”加持,相信配套服務(wù)也更完善。 果不其然,就在昨天,亞馬遜云科技宣布推出 Fine-tuning for Claude 3,幾個(gè)步驟就可以完成對(duì)Claude 3 模型的調(diào)優(yōu)。 不過,發(fā)生在 7 月 10 日的另一項(xiàng)重要更新,筆者認(rèn)為更加值得關(guān)注——Guardrails for Amazon Bedrock 現(xiàn)在可以檢測(cè)幻覺,并覆蓋到第三方模型構(gòu)建的應(yīng)用程序。 安全問題始終是個(gè)沒有多少科幻色彩,但能打開客戶錢包的要素。 但過去行業(yè)對(duì)此類問題的態(tài)度是高傲的。 一則,安全功能等于讓客戶為“未來風(fēng)險(xiǎn)”預(yù)付費(fèi),本身就是有一定難度的。 二則,幻覺問題,生成式 AI 與生俱來的技術(shù)特性,甚至不能被稱為問題。越是高段位的技術(shù)專家,越喜歡推薦客戶在低精度要求的業(yè)務(wù)場(chǎng)景中使用大模型,而不是在金融、醫(yī)療等場(chǎng)景下,期待大模型不出現(xiàn)幻覺。 但對(duì)于云計(jì)算來說,服務(wù)和技術(shù)本身就是兩碼事;糜X問題,可以在一定程度上被解決,大量的金融客戶樂見其成。 這也是為什么 Guardrails 的本次更新,如此引人關(guān)注。 亞馬遜云科技在官網(wǎng)上提到,Guardrails for Amazon Bedrock 可以過濾掉 75% 以上的幻覺反應(yīng),以應(yīng)對(duì) RAG 和匯總工作負(fù)載。 Guardrails 新引入了一種上下文檢查機(jī)制,會(huì)在情景下設(shè)置兩個(gè)過濾參數(shù),一個(gè)基于信息參考源進(jìn)行置信度打分,一個(gè)基于查詢相關(guān)性進(jìn)行置信度打分。二者低于閾值會(huì)導(dǎo)致回答被阻止,客戶可以根據(jù)實(shí)際業(yè)務(wù)對(duì)幻覺的容忍程度,調(diào)整閾值。 西班牙最大的保險(xiǎn)公司 MAPFRE 已經(jīng)是 Amazon Bedrock 的客戶了,納斯達(dá)克則是另一個(gè)重要客戶。 毫無疑問,兩者所在行業(yè),都對(duì)大模型幻覺問題高度敏感,也間接表明 Guardrails for Amazon Bedrock 目前的客戶滿意度相當(dāng)不錯(cuò)。 在這種良性反饋的激勵(lì)下,亞馬遜云科技順勢(shì)推出了 Guardrails API,進(jìn)一步擴(kuò)展了這種安全功能的服務(wù)外沿,使其不僅局限在 Amazon Bedrock 服務(wù)內(nèi)部。 向低效說再見 這種不斷的服務(wù)外擴(kuò),像是 Amazon App Studio ,像是 Guardrails API,在過去一年,亞馬遜云科技的發(fā)布會(huì)上實(shí)在是太常見了。 亞馬遜云科技正在殺死的比賽,不僅是關(guān)于云計(jì)算的,也是關(guān)于企業(yè)服務(wù)的。 過去存在大量企業(yè)協(xié)作工具,其實(shí)提供的核心價(jià)值之一是知識(shí)庫——相比于一些企業(yè)級(jí)的聊天軟件,這需求更加剛性。 但今天,這種知識(shí)庫其實(shí)更像是大模型的“糧食”,它先吃下去,再以你需要的方式呈現(xiàn)出來。 比如昨天發(fā)布的 Expeanded data connectors for Knowledge Base,亞馬遜云科技新增了多個(gè)數(shù)據(jù)源,包括 Salesforce、Confluence 等,你甚至可以添加一些自己找的 Web 鏈接——還記得將一大堆外部參考鏈接,復(fù)制粘貼在 Teambition 里留檔的日子嗎?可以說再見了。 應(yīng)該說,所有規(guī)定用戶必須重復(fù)某些低效操作的應(yīng)用,在今天都有被這樣的云服務(wù)革命的風(fēng)險(xiǎn)。從商業(yè)層面來看,過往一切具有較高學(xué)習(xí)成本的應(yīng)用,都只是暫時(shí)的形態(tài)。 智能化、自動(dòng)化、簡(jiǎn)單化以及促進(jìn)信息傳遞,這可能是 2024 云端 GenAI 服務(wù),最主要的演化任務(wù)了。 本文來源:虎嗅 |
原創(chuàng)欄目
IT百科
網(wǎng)友評(píng)論
聚超值•精選
在經(jīng)歷了2018-2020年“蔚小理”的上市潮后,隨著國(guó)內(nèi)新能源汽車市場(chǎng)競(jìng)爭(zhēng)日益激烈,以及全球EV需求放緩,IPO的大門正在向造車新勢(shì)力們緩緩關(guān)閉。極氪的成功上市既是對(duì)新勢(shì)力的一次激勵(lì),也是一次警示——后來者必須面對(duì)越來越嚴(yán)苛的上市條件。留給哪吒汽車、廣汽埃安們的機(jī)會(huì)可能不多了。