Alibaba Cloud が AI アプリケーションを加速

Analytics Zoo と bfloat16 が、第 7 世代 Alibaba Cloud ECS インスタンスでの AI アプリケーションのパフォーマンスを向上させます。

概要:

  • 第 7 世代 Alibaba Cloud の高周波 ECS インスタンスは、第 3 世代 X-Dragon アーキテクチャーと第 3 世代インテル® Xeon® スケーラブル・プロセッサー・ファミリーを使用しています。

  • 第 3 世代インテル® Xeon® スケーラブル・プロセッサー・ファミリーは、内蔵の人工知能 (AI) アクセラレーション機能である、強化されたインテル® ディープラーニング・ブースト (インテル® DL ブースト) を使用して、業界をリードする、ワークロードに最適化されたプラットフォームを実現します。強化されたインテル® DL ブーストは、業界初の bfloat16 向け x86 サポートを提供し、AI 推論とトレーニングのパフォーマンスを向上させます。

author-image

投稿者:

概要

このペーパーでは、Analytics Zoo と Brain Floating Point 16 ビット (bfloat16) を使用して、第 7 世代 Alibaba Cloud Elastic Compute Service (ECS) インスタンスで実行される人工知能 (AI) アプリケーションのパフォーマンスを向上する方法について説明します。

第 7 世代 Alibaba Cloud ECS インスタンスは、第 3 世代インテル® Xeon® スケーラブル・プロセッサー・ファミリーを搭載し、bfloat16 のサポートを提供します。

第 3 世代インテル® Xeon® スケーラブル・プロセッサー・ファミリーは、複雑なAI ワークロードを処理できます。第 3 世代インテル® Xeon® スケーラブル・プロセッサー・ファミリーは、強化されたインテル® DL ブーストを使用することで、AI トレーニング・パフォーマンスを最大 1.93 倍向上し、1 画像分類で最大 1.87 倍の AI 推論パフォーマンスを向上、2 自然言語処理 (NLP) で最大 1.7 倍の AI トレーニング・パフォーマンスが向上、3 および旧世代のプロセッサーと比較して NLP で AI 推論パフォーマンスが最大 1.9 倍向上。4 ヘルスケア、金融、小売などの業界セクターの AI トレーニング・ワークロードの多くは、これらのプロセッサーが提供する bfloat16 のサポートからメリットを得ることができます。

ホワイトペーパーを読む - Analytics Zoo と Bfloat16 により、Alibaba Cloud での AIアプリケーションを加速