2
Realize Superior Business Outcomes, Developer Efficiency, and Accelerated Innovation
with High-Performance, Cost-Efficient, and Easy-to-Use ML Infrastructure
IDC White Paper, sponsored by Amazon Web Services
October 2021 | Doc. #US48194621
Executive Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
Situation Overview . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
AI/ML Adoption Trends . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
Challenges with AI/ML Adoption . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
How Cloud Helps Scale AI Adoption . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
AWS for ML Application Development and Deployment at Scale . . . . . . . . . . . . . . . . . . . . 10
Habana Gaudi Accelerator-Based DL1 Instances: A Quick Look . . . . . . . . . . . . . . . . . . . . . .11
Future Outlook . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
Increased Adoption of Cloud-Based ML Infrastructure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
Opportunities and Challenges for AWS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
Opportunities: Meeting Where the Customer Is . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
Challenges: Complexity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
Recommendations for the Technology Buyer . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
Start with Business Use Cases . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
Leverage Cloud to Scale and Iterate . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
Tame the Heterogeneity Through a Unified Life-Cycle Management Platform . . . . . . . 16
About the Analyst . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
Table of Contents
Click on titles or page numbers to navigate to each section.
