解決方案
經由訓練，Amazon SageMaker 可提供最快速、最能輕鬆使用這些執行個體類型
的方式。您可以一鍵部署模型至多個可用區域中可自動調整規模的 Amazon ML
執行個體上，從而獲得高備援。Amazon SageMaker 將啟動執行個體、部署模型
並為應用程式設定安全的 HTTPS 端點。此外，Amazon SageMaker 可提供軟體創
新，以可擴展且具成本效益的方式進一步最佳化基礎設施。Amazon SageMaker
多模型端點讓您只要在單一端點上按一下，即可部署多個模型，然後使用單一服
務容器為其提供服務。
可惜的是，ML 模型的準確度可能會隨著時間衰退，也就是所謂的模型漂移現象。
許多因素可能導致模型漂移，例如模型特徵變更。ML 模型的準確度也可能受概
念漂移影響，也就是用於訓練模型的資料與在推論期間使用的資料之間的差異。
Amazon SageMaker Model Monitor 可協助您即時偵測模型和概念漂移，並傳送
提醒以便您立即採取行動，藉此維護高品質的 ML 模型。
Amazon SageMaker 是一項全受管服務，可供存取基礎設施並提供 99.99% 的公
有服務可用性 SLA。該服務負責進行基礎設施設定、管理、修補及更新。只需按
一下，該服務即可輕鬆將經過訓練的模型部署至生產環境中，以便您開始產生即
時或批次資料的預測。您可以一鍵部署模型至多個可用區域中可自動調整規模的
Amazon ML 執行個體上，從而獲得高備援。Amazon SageMaker 將啟動執行個
體、部署模型並為應用程式設定安全的 HTTPS 端點。
Amazon SageMaker 可協助您使用 Amazon SageMaker Pipelines，將模型部署
擴展至成千上萬個模型。因為 Amazon SageMaker Pipelines 是針對機器學習目
的而建置，所以可協助您自動執行 ML 工作流程的不同步驟，包括資料載入、資
料轉換、訓練與調校，以及部署。透過 Amazon SageMaker Pipelines，您一週可
以建置數十個 ML 模型，以及管理大量資料、數千個訓練實驗和數百個不同的模
型版本。您可共用並重複使用工作流程來重建或最佳化模型，進而協助您擴展貴
組織的 ML。
Autodesk 使用 (AWS) Inferentia 讓採用 AI 技術的虛擬助
理 Autodesk Virtual Agent (AVA) 的 認 知 技 術 提 升。 試 驗
Inferentia，我們就能夠針對我們的 NLU (自然語言理解 ) 模型，
取得超過 (Amazon EC2) G4dn 4.9 倍的更高輸送量，而我們期
待在 Inferentia 型 (Amazon EC2) Inf1 執行個體上執行更多工作
負載。」
⁹
Binghui Ouyang，Autodesk 資深資料科學家
⁹ Amazon EC2 Inf1 執行個體
「
17
