Amazon Bedrock 開發人員體驗
Amazon Bedrock 讓開發人員能輕鬆使用各種高效能基礎模型從領先的 FM 中進行選擇
Amazon Bedrock 採用一系列基礎模型 (FM),使得建置工作就像呼叫 API 一樣簡單。Amazon Bedrock 提供了領先的模型訪問,包括 AI21 Labs 的 Jurassic,Anthropic 的 Claude,Cohere 的 Command 和 Embed,Meta 的 Llama 2 和 Stability AI 的 Stable Diffusion,以及我們自己的 Amazon Titan 模型。使用 Amazon Bedrock,您可以選擇最適合您的使用情境和應用需求的 FM。
![展示 Amazon Foundation 模型,凸顯其主要功能和設計元素](https://d1.awsstatic.com/products/bedrock/Bedrock-developer-experience-choose-fms.eb16a20a9b2d935e1f53b87a92405e47964376f3.png)
嘗試利用 FM 進行不同任務
可以使用具有各種模式 (包括文本,聊天和圖像) 的交互式遊樂場輕鬆實驗不同的 FM。遊樂場讓您可以根據您的使用案例嘗試各種模型,以了解模型對於特定任務的適用性。
![Titan 影像產生器遊樂場](https://d1.awsstatic.com/products/bedrock/Bedrock-experiment-with-fms.79ecbfbba4d96e7aa408af46aba03d3768a58fd1.png)
評估 FM 以選擇最適合您的使用場景的模型
Amazon Bedrock 上的模型評估可讓您使用自動和人工評估,為特定使用案例選擇 FM。自動模型評估使用精選資料集,提供預先定義的指標,包括準確性、穩定性和毒性。對於主觀指標,您可以使用 Amazon Bedrock,只需完成幾個簡單步驟即可設定人為評估工作流程。透過人工評估,您可以使用自己的資料集,定義自訂指標,例如相關性、風格和品牌聲音的一致性。人工評估工作流程可以使用您的員工作為審核者,或者您可以邀請 AW 管理的團隊執行人工評估,AWS 會聘請熟練的評估人員並代表您管理整個工作流程。閱讀部落格以進一步了解。
![自動模型評估](https://d1.awsstatic.com/products/bedrock/Bedrock-developer-experience-evaluate-fms.35c3c39023ef82bc6543189bd4fa26a45ce0fcac.jpg)
使用您的資料私下定製 FM
只需完成幾個簡單步驟,Amazon Bedrock 就可以讓您從一般型號轉換為針對您的業務和使用案例而客製化的模型。 要為特定任務調整 FM,您可以使用稱為微調的技術。指向 Amazon Simple Storage Service (Amazon S3) 中的幾個標記範例,Amazon Bedrock 就會製作基本模型的副本,使用您的資料進行訓練,並建立僅供您存取的微調模型,以獲得自訂回應。 微調可用於指令、Llama 2、Amazon Titan Text Lite and Express、Amazon Titan Image Generator,以及 Amazon Titan Multimodal Embeddings 模型。 您在 Amazon Bedrock 中調整 Amazon Titan Text Lite 和 Amazon Titan Express FM 的第二種方式為持續預先訓練,這種技術使用您的未標記資料集為您的領域或產業自訂 FM。 透過微調和持續的預先訓練,Amazon Bedrock 會為您建立一個私人、自訂的基礎 FM 副本,而您的資料不會用於訓練原始基礎模型。用於定製模型的資料會透過 Amazon Virtual Private Cloud (Amazon VPC) 進行安全傳輸。閱讀部落格進一步了解。
![組態頁面顯示微調模型的設定](https://d1.awsstatic.com/products/bedrock/Bedrock-privately-customize-fms.d6c07a0de41ba492fec33466f744cf583bebc9d8.png)
Converse API
Converse API 為開發人員提供一致的方法來調用 Amazon Bedrock 模型,消除了調整模型特定差異 (例如推論參數) 的複雜性。
![圖像說明發出 API 請求的過程,展示兩個實體之間的通信](https://d1.awsstatic.com/products/bedrock/bedrock_devexp_P3singleapi_square_med.a7404e7ddb46f3156a7828234bf20111b53f479c.jpg)