Solution Performance

Neusoft is one of the largest software solution & service providers in China. CareVault is a Smart Medical Cloud Platform, providing AI tools to assist medical and scientific research. One of the major applications of CareVault is Down's Syndrome medical image classification. The application is based on Intel® Optimization for Caffe* and customized Alexnet to predict Down's Syndrome, and the medical image inference processing runs offline.

Visit Neusoft.com ›

Challenges

Image recognition and classification applications are often compute-bound. This negatively impacts deep learning inference throughput, thereby resulting in less than optimal user experiences.

Solution

For medical imaging, a customized Alexnet model was optimized on Intel® Optimization for Caffe*. Compared to FP32, Intel® Deep Learning Boost (Intel DL Boost) (delivered by Vector Neural Network Instructions (VNNI)/INT8) optimizations helped increase deep learning inference throughput by 2.02X (see chart)1 2 3, while meeting Neusoft’s accuracy requirements.

Value

Significantly improved deep learning inference throughput, while meeting accuracy requirements, thus delivering better user experience.

免責事項

1

パフォーマンス実績は、2018/12/20 にインテルおよび Neusoft が実施したテストに基づくもので、公開されているセキュリティー・アップデートが一部適用されていない可能性があります。絶対的なセキュリティーを提供できる製品やコンポーネントはありません。

2

Neusoft* Medical Image Classification* (自己定義ワークロード) - OS: Red Hat* Enterprise Linux* 7.5 カーネル 4.19.3-1.el7.elrepo.x86_64。テストはインテルと Neusoft が 2018年12月20日に実施。バリアント 1、2、3、および L1TF に対する適切なセキュリティー緩和あり。

テストシステムの構成: 第 2 世代インテル® Xeon® Platinum 8260L プロセッサー (2.30GHz、24 コア、ターボ有効、HT 有効)、BIOS 1.0180、メモリー総容量 768GB (12 スロット / 64GB / 2666 MT/秒 / DDR4 LRDIMM)、インテル® SSD データセンター (インテル® SSD DC) S4500 480GB x 1、Caffe* 向けインテル® オプティマイゼーション。

3

パフォーマンス・テストに使用されるソフトウェアとワークロードは、パフォーマンスがインテル® マイクロプロセッサー用に最適化されていることがあります。SYSmark* や MobileMark* などのパフォーマンス・テストは、特定のコンピューター・システム、コンポーネント、ソフトウェア、操作、機能に基づいて行ったものです。これらの要因のいずれかを変更すると、結果が異なることがあります。製品の購入を検討される場合は、ほかの製品と組み合わせた場合の本製品のパフォーマンスなど、ほかの情報やパフォーマンス・テストも参考にして、パフォーマンスを総合的に評価することをお勧めします。詳細については、http://www.intel.co.jp/benchmarks (英語) を参照してください。