亞馬遜云科技助力客戶加速采用生成式AI
模型擴展規模空前,并新增推理優化工具及額外的數據功能,為客戶提供了更大的靈活性和控制力,更快構建和部署生產級生成式AI
北京2024年12月6日 /美通社/ -- 亞馬遜云科技在2024 re:Invent全球大會上,宣布推出Amazon Bedrock的多項創新功能。Amazon Bedrock是亞馬遜云科技一項完全托管的服務,旨在利用高性能基礎模型構建和擴展生成式人工智能(AI)應用程序。此次發布進一步彰顯了亞馬遜云科技對模型選擇的承諾,同時優化了大規模推理的執行方式,幫助客戶從數據中挖掘更多價值。
在新模型目錄中探索Amazon Bedrock Marketplace模型和Amazon Bedrock完全托管的模型
亞馬遜云科技人工智能和數據副總裁Swami Sivasubramanian博士表示:"Amazon Bedrock服務持續快速增長,因其廣泛而領先的模型選擇、可輕松基于自身數據進行定制的工具、內置的負責任的AI功能以及開發復雜智能體的能力成為越來越多客戶的選擇。為了讓客戶充分釋放生成式AI的潛力,Amazon Bedrock一直致力于解決開發人員當前面臨的最大挑戰。通過此次新發布的一系列新功能,我們將幫助客戶開發出更智能的AI應用程序,讓他們為其最終用戶創造更大價值。"
匯集領先AI公司的廣泛模型選擇
Amazon Bedrock為客戶提供豐富的完全托管的模型選擇,這些模型來自領先的AI公司,包括AI21 Labs、Anthropic、Cohere、Meta、Mistral AI以及Stability AI等。此外,Amazon Bedrock是客戶使用新發布的Amazon Nova模型的唯一渠道。Amazon Nova是新一代基礎模型,以行業領先的性價比為廣泛的任務提供先進的智能能力。通過此次發布,亞馬遜云科技在Amazon Bedrock上新增更多行業領先的模型,進一步擴展Amazon Bedrock的模型選擇范圍。
通過Amazon Bedrock Marketplace訪問100多個熱門、新興和專業模型
盡管Amazon Bedrock中的模型能夠支持眾多任務,許多客戶仍希望將新興的專用模型融入到他們的應用程序中,為其獨特的用例,如分析財務文檔或生成新型蛋白質等提供支持。借助Amazon Bedrock Marketplace,客戶如今能夠輕松地從100多個模型中進行查找與選擇,這些模型可部署在亞馬遜云科技上,并能通過Amazon Bedrock中的統一體驗進行訪問。這涵蓋了諸如Mistral AI的Mistral NeMo Instruct 2407、Technology Innovation Institute的Falcon RW 1B以及NVIDIA NIM微服務等熱門模型,以及眾多專業模型,如用于金融行業的Writer的Palmyra-Fin、用于翻譯的Upstage的Solar Pro、Camb.ai的文本轉音頻MARS6以及用于生物學的EvolutionaryScale的ESM3生成模型等。
客戶一旦找到他們想用的模型,就能依據自身擴展需求選擇合適的基礎設施,并通過完全托管端點輕松將其部署在亞馬遜云科技上。客戶隨后可將該模型與Amazon Bedrock的統一應用程序編程接口(API)安全集成,從而使用諸如Guardrails和Agents等工具,并受益于內置的安全和隱私功能。
Zendesk是一家全球服務軟件公司,服務于覆蓋全球10萬個品牌的多元文化客戶群體。該公司可在Amazon Bedrock中使用如用于翻譯的Widn.AI等專用模型,通過電子郵件、聊天、電話以及社交媒體對客戶服務請求進行個性化和本地化處理。這將為客服人員提供其所需的數據,比如客戶母語表達中的情緒或意圖等,最終提升客戶服務體驗。
提示詞緩存和Intelligent Prompt Routing幫助客戶大規模處理推理問題
在選擇模型時,開發人員需要權衡多種因素,如準確性、成本和延遲。針對其中任一因素進行優化,都可能意味著在其他因素上做出讓步。為了在將應用程序部署到生產環境時平衡這些考量因素,客戶會采用多種技術,例如緩存常用提示詞或將簡單問題分配給較小模型。然而,運用這些技術既復雜又耗時,需要專業知識來反復測試不同的方法,以確保終端用戶獲得良好的體驗。正因如此,亞馬遜云科技新增了兩項功能,幫助客戶更有效地大規模管理提示詞信息。
Amazon Bedrock知識庫的兩項新功能助力客戶最大程度發揮數據價值
無論自身數據存儲于何處、采用何種格式,客戶都希望利用它們為終端用戶構建獨特的由生成式AI驅動的體驗。知識庫是一項全托管功能,客戶借助檢索增強生成(RAG),能夠輕松利用上下文相關及關聯數據自定義基礎模型的響應。雖然知識庫已能便捷地連接至諸如Amazon OpenSearch Serverless和Amazon Aurora等數據源,但許多客戶還希望將其他數據源和數據類型融入其生成式AI應用程序中。基于此,亞馬遜云科技為知識庫新增了兩項功能。
Amazon Bedrock Data Automation將非結構化多模態數據轉換為結構化數據,用于生成式AI和分析
如今,大多數企業數據都是非結構化的,這些數據包含在文檔、視頻、圖像以及音頻文件等內容中。許多客戶希望利用這些數據挖掘見解或為客戶打造新體驗,但將其轉換為便于分析或RAG所需的格式往往是一個艱難的手動過程。例如,銀行在處理貸款業務時可能會接收多個PDF文檔,需要從每個文檔中提取詳細信息,對姓名、出生日期等特征進行標準化以保證一致性,然后將結果轉換為文本格式,再輸入數據倉庫進行分析。借助Amazon Bedrock Data Automation,客戶能夠使用單個API從非結構化內容中大規模自動提取、轉換并生成數據。
Amazon Bedrock Data Automation能夠快速且經濟高效地從文檔、圖像、音頻以及視頻中提取信息,并將其轉換為結構化格式,適用于智能文檔處理、視頻分析以及RAG等用例。該功能可以使用預定義的默認設置生成內容,例如視頻片段每個場景的描述或音頻的轉錄內容,客戶也可以根據自身的數據架構生成定制化的輸出內容,并將其輕松加載到現有的數據庫或數據倉庫中。通過與Knowledge Bases的集成,Amazon Bedrock Data Automation還可以解析內容以支持RAG應用程序,通過整合嵌入在圖像和文本中的信息,提升結果的準確性和相關性。同時,該功能提供置信度評分,并基于原始內容生成響應,有助于降低生成"幻覺"風險并提高透明度。
Symbeo是一家隸屬于CorVel的公司,提供自動化應付賬款解決方案。Symbeo計劃利用Amazon Bedrock Data Automation,從復雜的文檔(如保險理賠、醫療賬單等)中自動提取數據。這將幫助Symbeo的團隊更快速地處理理賠事務,并縮短向客戶回復的周轉時間。數字資產管理平臺Tenovos正在使用Amazon Bedrock Data Automation在大規模語義搜索中提升內容的復用率,復用率提高了50%以上,節省了數百萬美元的營銷費用。
Amazon Bedrock Marketplace現已正式可用,同時Amazon Bedrock Knowledge Bases中的推理管理功能、結構化數據檢索、GraphRAG以及Amazon Bedrock Data Automation均已預覽可用。此外,Luma AI、poolside和Stability AI的模型也即將上線。
了解更多詳情,請訪問: