在AIGC時(shí)代,云計(jì)算是不可或缺的算力參與者。如何為企業(yè)大模型應(yīng)用護(hù)航,幫助他們以更強(qiáng)的性能、更低的成本完成部署,是每個(gè)底層能力廠商都在思索的難題。
本次中國(guó)AIGC產(chǎn)業(yè)峰會(huì)上,亞馬遜云科技大中華區(qū)產(chǎn)品部技術(shù)總監(jiān)王曉野分享了企業(yè)如何抓住時(shí)代的機(jī)遇,以及應(yīng)對(duì)生成式AI的關(guān)鍵步驟。
為了完整體現(xiàn)王曉野的思考,在不改變?cè)獾幕A(chǔ)上,量子位對(duì)演講內(nèi)容進(jìn)行了編輯整理,希望能給你帶來更多啟發(fā)。
中國(guó)AIGC產(chǎn)業(yè)峰會(huì)是由量子位主辦的行業(yè)峰會(huì),20位產(chǎn)業(yè)代表與會(huì)討論。線下參會(huì)觀眾近千人,線萬,獲得了主流媒體的廣泛關(guān)注與報(bào)道。
,并不是迎接的“迎”,想傳達(dá)的是:我們今天離生成式AI這個(gè)時(shí)代已經(jīng)開始了,并不是未來將發(fā)生的事情。
根據(jù)麥肯錫的調(diào)研結(jié)果,全球生成式AI將帶來2.6-4.4萬億美元的市場(chǎng)商機(jī)。對(duì)超過五千人的企業(yè)進(jìn)行調(diào)查,結(jié)果顯示,80%的被調(diào)研CEO認(rèn)為生成式AI將在18個(gè)月之內(nèi)顛覆所有產(chǎn)業(yè),同時(shí)也有 30%的企業(yè)已經(jīng)在今天部署生成式AI相關(guān)的。所以說在各個(gè)行業(yè),生成式AI是幾乎所有人都認(rèn)為會(huì)發(fā)生的,或者說正在發(fā)生的一件大事。
亞馬遜云科技從電商起家,到云計(jì)算、云助手,一直在以技術(shù)和AI顛覆原有產(chǎn)業(yè)并不斷創(chuàng)新。
首先,Alexa語(yǔ)音助手背后的模型正在全面更新,將采用生成式AI新模式。其次,在亞馬遜云科技整個(gè)產(chǎn)品列表中,我們通過生成式AI為產(chǎn)品列表添加更有用的信息。
第三,在廣告領(lǐng)域,亞馬遜云科技為電商賣家提供了眾多產(chǎn)品上架和展示工具,其中包括生成式AI一鍵式生成產(chǎn)品和營(yíng)銷素材的功能。
第四,亞馬遜云科技在無人商鋪中使用掌紋識(shí)別技術(shù)來識(shí)別顧客身份,該技術(shù)需要大量數(shù)據(jù)進(jìn)行模型訓(xùn)練,而亞馬遜通過生成數(shù)據(jù)集的方式來幫助提高掌紋識(shí)別的準(zhǔn)確性。
第五,針對(duì)電商評(píng)論,我們的電商平臺(tái)上有非常多的評(píng)論。如何通過這些評(píng)論快速了解一款產(chǎn)品是否符合自己的購(gòu)買期望呢?我們可以通過生成式 AI 快速進(jìn)行內(nèi)容總結(jié)。
第六,亞馬遜云科技也有視頻平臺(tái),針對(duì)一些比賽我們通過生成式AI進(jìn)行整個(gè)比賽的解說,增強(qiáng)用戶體驗(yàn)。
第七無人商店人流預(yù)測(cè)上面,我們進(jìn)行快速驗(yàn)證,包括亞馬遜云科技在藥店場(chǎng)景下幫助店員使用生成式AI快速的解釋某一款藥針對(duì)某一種類型是否更加適合。
最后一個(gè)也是最近的用例,我們?cè)陔娚唐脚_(tái)上推出了導(dǎo)購(gòu)助手Shopping Assistant。當(dāng)你明確想買iPhone17 Pro時(shí),可能會(huì)直接使用檢索功能;而當(dāng)你的購(gòu)買目的不那么明確,或者只是想簡(jiǎn)單地進(jìn)行戶外郊游時(shí),你可能希望 AI 助手能夠推薦適合的產(chǎn)品,比如除了帳篷和燒烤爐,還需要什么東西。
想通過這些給大家展示的是不僅僅是調(diào)研,亞馬遜云科技作為全球領(lǐng)先的科技公司已經(jīng)在全面的擁抱生成式AI,每個(gè)地方都在進(jìn)行嘗試。亞馬遜云科技一直致力于通過科技為企業(yè)賦能,我們?cè)谏墒紸I領(lǐng)域的定位是為云計(jì)算賦能產(chǎn)業(yè)提供未來的巨大機(jī)會(huì)。
最下層是加速層,專注于模型訓(xùn)練到推理的加速,提供更好的框架,幫助模型優(yōu)化的人員實(shí)現(xiàn)加速。
中間層是應(yīng)用構(gòu)建層,我們不直接投入模型或AI本身的能力,而是提供核心產(chǎn)品 Amazon Bedrock,讓客戶可以直接利用AI的能力構(gòu)建自己的專屬應(yīng)用。除了模型能力外,還提供Agent和知識(shí)庫(kù)等功能。
最上面一層是應(yīng)用層,我們知道有些企業(yè)希望直接使用開箱即用的應(yīng)用,因此我們會(huì)挑選亞馬遜云科技最擅長(zhǎng)的應(yīng)用場(chǎng)景,包括Amazon Q和企業(yè)知識(shí)庫(kù),提供智能助力。此外,我們還提供Amazon Quicksight,這是一款生成式BI產(chǎn)品;以及Amazon Connect,它可以幫助訓(xùn)練客服人員快速總結(jié)客戶電話溝通的需求;還有Amazon CodeWhisperer,它通過智能生成代碼助力的形式,提供開箱即用的應(yīng)用。
亞馬遜云科技希望通過這三層架構(gòu),為客戶提供抓住生成式AI浪潮的核心能力。企業(yè)應(yīng)對(duì)生成式 AI 的關(guān)鍵步驟
亞馬遜云科技在與客戶溝通的過程中,幫助企業(yè)總結(jié)了抓住生成式AI關(guān)鍵的幾個(gè)步驟:
選對(duì)工具或提供工具的合作伙伴:選擇合適的工具或與提供工具的合作伙伴合作,以支持生成式AI的應(yīng)用。
數(shù)據(jù)的重要性:在生成式AI時(shí)代,如果所有人能夠掌握的模型能力相同,那么數(shù)據(jù)將成為每個(gè)企業(yè)最核心的競(jìng)爭(zhēng)力和差異化所在。因此,企業(yè)對(duì)數(shù)據(jù)的重視程度應(yīng)該與以往有所不同。
人才培養(yǎng)和監(jiān)管治理:在落地過程中,培養(yǎng)相關(guān)人才以及對(duì)生成式AI進(jìn)行監(jiān)管和治理至關(guān)重要。
對(duì)于第一點(diǎn),如何找到合適的應(yīng)用場(chǎng)景?我們根據(jù)客戶經(jīng)驗(yàn),總結(jié)出當(dāng)前生成式AI非常適合的六大場(chǎng)景。
首先,是和服務(wù)客戶有關(guān)的場(chǎng)景。在中國(guó)企業(yè)大量出海的背景下,許多業(yè)務(wù)都是全球化的,因此在多國(guó)文化和語(yǔ)言之間建立橋梁,生成式AI可以發(fā)揮非常重要的作用。其次,是商業(yè)決策和洞察場(chǎng)景。
第四,是整體運(yùn)營(yíng)效率方面,在辦公工具和軟件自動(dòng)化方面,大模型生成式 AI 為我們提供了前所未有的能力。
最后兩個(gè)專業(yè)知識(shí)的支持,以及剛才提到的產(chǎn)品側(cè),顛覆我們產(chǎn)品前所未有的體驗(yàn),這都是正在發(fā)生的生成式AI比較適合應(yīng)用的六大領(lǐng)域。
今天的大模型存在幾個(gè)無法回避的問題:首先,實(shí)時(shí)性支持在模型中無法實(shí)現(xiàn);其次,用戶隱私數(shù)據(jù)也不可能在模型中循環(huán)使用;最后,模型仍然會(huì)產(chǎn)生幻覺,很多回答正確的情況只是一種恰到好處的巧合。如何真正完全避免幻覺,只有一個(gè)方式,就是用你絕對(duì)確定的答案去引導(dǎo)它,這些都是在中間做RAG應(yīng)該做的事情。
什么時(shí)候進(jìn)行微調(diào)呢?如果對(duì)角色的理解存在特殊的引導(dǎo)性,或者對(duì)格式的理解有特定需求,那么就可以進(jìn)行微調(diào)。我們希望模型具備這樣的能力。
關(guān)于持續(xù)預(yù)訓(xùn)練,對(duì)于產(chǎn)業(yè)術(shù)語(yǔ)和行業(yè)術(shù)語(yǔ),我們建議在最原始的預(yù)訓(xùn)練階段,將整個(gè)數(shù)據(jù)集中加入相應(yīng)的資料。
我們認(rèn)為,企業(yè)最重要的是構(gòu)建自己的數(shù)據(jù)飛輪,實(shí)現(xiàn)從應(yīng)用模型到數(shù)據(jù)的真正打通。應(yīng)用產(chǎn)生的數(shù)據(jù)越來越多,有助于企業(yè)更好地定制自己的模型,從而充分發(fā)揮模型的作用。
亞馬遜云科技提供端到端全棧的數(shù)據(jù)能力,希望客戶關(guān)注我們用數(shù)據(jù)做什么,而不是我們用什么做數(shù)據(jù)這件事情。
首先回顧去年,大家對(duì)AIGC的概念還停留在文生圖和文生視頻,而如今提到的多模態(tài)輸入、文本理解或者全模態(tài)、多模態(tài)輸入輸出等概念尚未普及。
在去年,最常見的應(yīng)用場(chǎng)景包括:創(chuàng)意類內(nèi)容生成,如文生圖,以及企業(yè)內(nèi)部的內(nèi)容設(shè)計(jì),如游戲公司的素材設(shè)計(jì);ToB的營(yíng)銷生成,如為品牌商提供營(yíng)銷素材;將生成式AI能力嵌入設(shè)計(jì)類軟件,如Adobe將其嵌入工具中。
而中間這一類APP則僅局限于一些較小且有趣的場(chǎng)景,如妙鴨相機(jī)提供一些個(gè)性化的照片和頭像等。至于聊天機(jī)器人,雖然在各個(gè)領(lǐng)域都有應(yīng)用,但主要局限于企業(yè)內(nèi)部知識(shí)庫(kù)、售后客服、游戲NPC等相對(duì)簡(jiǎn)單的場(chǎng)景。
我們總結(jié)主要原因在于模型能力和成本這兩個(gè)核心因素,只有真正了解產(chǎn)品目標(biāo)客群以及大模型相應(yīng)能力的產(chǎn)品經(jīng)理,才能找到所謂的產(chǎn)品市場(chǎng)契合點(diǎn)(PMF),并在有限的場(chǎng)景中加以應(yīng)用。
在這一階段,我們也有一些優(yōu)秀的案例。例如,易點(diǎn)天下是我們服務(wù)的一家廣告行業(yè)的公司,他們抓住了這一波機(jī)遇,推出了KreadoAI營(yíng)銷素材生成平臺(tái)。該平臺(tái)在營(yíng)銷素材電商領(lǐng)域?qū)崿F(xiàn)了50%的增效。
這一波如果重新定義的話,我想借著Amazon Bedrock中間平臺(tái)層這款產(chǎn)品的更新跟大家做一個(gè)解讀,為什么現(xiàn)在跟剛才我提的文生圖、文生文那一波又不一樣。
最核心首先介紹一下Amazon Bedrock作為工具,我們會(huì)提供不同的模型能力,同時(shí)以API的方式用云最安全的方式,隱私保護(hù)的機(jī)制來去保障用戶使用到最好的一些大模型。不會(huì)有一個(gè)模型統(tǒng)治全天下,我們會(huì)在相對(duì)比較好的一些模型里,為大家提供模型的API的調(diào)用,事實(shí)也證明,我們現(xiàn)在看到模型能力是此消彼漲,大家互相競(jìng)爭(zhēng)的狀態(tài),與Anthropic的 Claude也是在近期吸引到了大家的眼球。
亞馬遜云科技跟Anthropic是戰(zhàn)略關(guān)系,Anthropic在加速層會(huì)嘗試使用亞馬遜云科技的芯片,以及類似模型微調(diào)的功能也會(huì)優(yōu)先在亞馬遜云科技平臺(tái)上提供。
首先是成本。今天調(diào)用一個(gè)大模型的成本,通過模型提供商以及云廠商的優(yōu)化,能做到什么程度?
Haiku是Claude 3系列最小的模型,速度非???,在價(jià)格上也有一個(gè)質(zhì)的飛躍,低到已經(jīng)可以挑戰(zhàn)傳統(tǒng)機(jī)翻如Google translate的成本。
在這一基礎(chǔ)上,語(yǔ)言翻譯的場(chǎng)景將得到拓展。過去,大模型客戶主要嘗試批量翻譯,而現(xiàn)在,許多人開始嘗試實(shí)時(shí)翻譯。這是因?yàn)樾碌姆椒ㄒ呀?jīng)達(dá)到了SOTA,并且比原有的方法更經(jīng)濟(jì)實(shí)惠。
此外,Claude模型的特點(diǎn)在于其出色的語(yǔ)義理解能力和對(duì)自身角色個(gè)性的識(shí)別能力。在今天的角色扮演場(chǎng)景中,它被置于首位。情感陪伴機(jī)器人、AI男女友等提供情緒價(jià)值的APP大量涌現(xiàn)。首先,這些APP的擬人化交互效果出色。更重要的是,收費(fèi)方面,許多公司已找到平衡點(diǎn),可通過用戶付費(fèi)實(shí)現(xiàn)盈利。
多模態(tài)已經(jīng)是未來的一個(gè)趨勢(shì),Claude 3系列三個(gè)模型都是朝著多模態(tài)輸入的方向發(fā)展。同時(shí)對(duì)語(yǔ)義的理解和對(duì)圖和文字背后的意義的理解方面都有很好的基礎(chǔ)。
多模態(tài)解鎖了哪些不同的能力呢?例如,通過物體檢測(cè)來判斷是否有老人跌倒或嬰兒從嬰兒床里掉出來。同時(shí),這種多模態(tài)能力也為新興的短劇提供了支持。在短劇里,如何在適當(dāng)?shù)那楣?jié)和最關(guān)鍵的地方進(jìn)行識(shí)別,然后插入廣告,直接實(shí)現(xiàn)盈利回報(bào)。
基于這個(gè)新的模型能力,游戲公司沐瞳科技正在使用新興的SOTA多模態(tài)大模型替代傳統(tǒng)的作戰(zhàn)類游戲內(nèi)容審核。這是因?yàn)樵谟螒蜻^程中可能會(huì)出現(xiàn)一些臟話、辱罵和不正當(dāng)言論。
這種變化悄然發(fā)生,表面上看起來沒有變化,但背后的實(shí)現(xiàn)方式已經(jīng)發(fā)生了改變。
最后,我們來談?wù)勅瞬乓约叭绾卧趯?shí)踐中用好AI并進(jìn)行負(fù)責(zé)任的監(jiān)管與治理。這一點(diǎn)非常重要。如果企業(yè)在推出產(chǎn)品時(shí)稍有疏忽,可能會(huì)對(duì)其聲譽(yù)造成影響,甚至可能損害之前與客戶建立的信任關(guān)系。在人才和相關(guān)方面,亞馬遜云科技投入了大量資源,致力于幫助客戶共同打造和諧的環(huán)境,推動(dòng)負(fù)責(zé)任的AI應(yīng)用。
每年,亞馬遜云科技的創(chuàng)始人或CEO都會(huì)寫一封致股東的信,信中會(huì)解釋公司在過去一年中取得的成績(jī)以及未來的方向。在今年的信中,“Primitives”這個(gè)詞被使用了41次。
如果用一個(gè)比喻來解釋這個(gè)詞,它可以被直譯為原子原件原力量。以機(jī)械設(shè)備為例,杠桿和滑輪就是原子的力量。在電商領(lǐng)域,支付能力和物流能力就是原子力量,它們幫助第三方買家接入亞馬遜平臺(tái)。
同樣,對(duì)于云計(jì)算,從誕生的第一天起,它就是為企業(yè)提供原子能力,幫助他們構(gòu)建大型分布式系統(tǒng),實(shí)現(xiàn)更好的數(shù)據(jù)治理。在生成式AI的時(shí)代,我們正在構(gòu)建或持續(xù)投入的下一個(gè)領(lǐng)域就是關(guān)于生成式AI的三層原子能力。我們希望與客戶一起,共同贏得生成式AI的時(shí)代。
Llama3是預(yù)訓(xùn)練和精調(diào)的生成式文本模型,目前有8B和70B兩種參數(shù)尺寸,上下文長(zhǎng)度為8K,適用于推理、代碼生成和指令執(zhí)行等多種使用場(chǎng)景。
它采用了僅解碼器的Transformer架構(gòu)和新的tokenizer,提供了128K大小的改進(jìn)模型性能。此外,Meta改進(jìn)了后訓(xùn)練程序,大幅降低了錯(cuò)誤拒絕率,提高了對(duì)齊性,增加了模型響應(yīng)的多樣性。
波蘭總統(tǒng):已準(zhǔn)備好接受北約部署核武器!佩斯科夫回應(yīng)!俄外長(zhǎng):西方在核大國(guó)直接沖突邊緣試探
黑色30秒!76人慘遭翻盤0-2尼克斯 大帝空砍34+11馬克西35+10
微軟Surface Pro 10全球首發(fā)!驍龍X Plus現(xiàn)身跑分網(wǎng)站
華為HDC 2024開發(fā)者大會(huì)售票網(wǎng)站上線,鴻蒙星河版將開啟Beta測(cè)試
vivo X100 Ultra 手機(jī)相機(jī)曝光:藍(lán)圖影像 + 蔡司+ 潛望式攝像頭米樂 M6米樂 M6
電話:13644723777
傳 真:+86-173-4169
手 機(jī):13644723777
郵 箱:mile@nmgdp.net
地 址:內(nèi)蒙古包頭市昆區(qū)昆工路光彩商業(yè)街99號(hào)