平均的なインターネット・ユーザーが、1 日 7 時間近くをオンラインに費やしている現在1、お気に入りのサイトを閲覧する消費者は、従来のターゲット設定されたポップアップやバナー広告に対してますます耐性を持つようになっています。広告主にとって、ユーザー体験を遅延させることなく、このコンテンツを可能な限り正確にターゲティングし、飽きている訪問者のエンゲージメントを維持することが重要です。
だからこそ、多くの企業が AI 主導型のコンテンツのレコメンド・エンジンに注力し、最も適切なコンテンツを選定して表示させています。マシンラーニング・アルゴリズムは、最近閲覧したコンテンツ、流行のトピック、さらには場所や時間帯など、多数のコンテキスト・データを使用して、オンラインの消費者にとって最も興味深いと思われるものをパーソナライズされた基準で予測します。
Taboola は、2007年からこの分野において世界をリードしており、エッジで AI ベースの予測エンジンを使用し、各訪問者の独自の嗜好に最も関連するターゲット化されたコンテンツと推奨事項を提供します。Taboola のソリューションは、12,000 台のサーバーと 10 のデータセンターにより、毎月世界中の 10 億人超の顧客と、Honda や Adidas などの広告主とを結びつけています。その結果、毎日、数百億件のパーソナライズされたお勧めコンテンツが、USA Today や MSN などのパブリッシャーのページにシームレスに統合されています。
広告主と小売業者は、Taboola のようなパートナーに頼り、ターゲット化され、関連性が高く、視覚的に魅力的な推奨事項を即座に提供し、消費者のモバイル体験を満足させます。「当社は、広告主が、インターネットからより豊かな体験を実現するサービスを提供することで、一般のユーザーを購買客に転換する支援を行っています」と、Taboola の情報技術＆サイバー担当副社長である Ariel Pisetzky 氏は述べます。
Taboola のソリューションの中心となるのは、オープンソースの TensorFlow Serving (TFS) フレームワークに基づくニューラル・ネットワークです。
Taboola の 10 のデータセンターのうちの 1 つでの Taboola 情報技術＆サイバー担当副社長 Ariel Pisetzky 氏。
TFS は、TensorFlow 上に構築されており、クライアントとサーバー間のワークフローを採用して、推奨事項を提供します。TFS サーバーは、クライアントからリクエストを取得すると、事前トレーニング済みの Taboola ニューラル・ネットワーク・モデルによりクライアントのデータを実行し、その結果を返します。
Taboola は、効率を犠牲にすることなくアプリケーション・スループットを向上したいと考えていたため、インテルと第 4 世代インテル® Xeon® プロセッサーに目を向けました。
課題
Taboola は、1 日当たり約 40 億のウェブページで、ページ当たり平均 10 件のお勧めコンテンツを提供しています。「これらの数字は、増加し続けています」と Pisetzky 氏は述べます。「こうしたお勧めコンテンツをすべて作成し提供するには、コスト面だけでなく、環境への影響の面でも、エネルギー使用の面でも超効率的になる必要があります」
「当社は、顧客向けのクラウドであり、複数のジョブを実行できるよう、柔軟性、汎用性、効率性がある CPU を必要としています」と、Pisetzky 氏は言います。「電力使用量に関して、1 日を通してスケールアップおよびスケールダウンでき、高速に完了する必要のあるインメモリー計算を行うのに十分なメモリーを持つ必要があります」
「Taboola は、比較的小さな企業であるため、テクノロジー・スタックを慎重に活用して、電力とコストのバランスを取り、機器の寿命全体にわたって効率とパフォーマンスを最適化する必要があります。コア当たり最大のパフォーマンスを抽出することが重要なのです」
「大企業とは異なり、独自のソリューションを設計したり、独自のチップを作成したり、独自のオペレーティング・システムを書いたりする余裕はありません」、Pisetzky 氏は述べます。「研究開発コストを、広告主とパブリッシャー両方の成功のために最適化することに費やしたいと考えています」
Taboola は、より多くのお勧めコンテンツを提供するため、AI 主導型のレコメンドエンジンにおけるスループットを向上したいと考えていました。スループットは、ユーザーにとって最も興味深く、関連性の高いブランドや記事とマッチングする機能を拡張するために重要です。クライアントのレイテンシーを 100 ms 以下に維持しながら、これを実現するのが理想的です。
Taboola のソリューションは、10 のデータセンターと 12,000 台のサーバーからなるネットワークによりサポートされており、毎月世界中で 10 億人超の顧客への接続を促進しています。
ソリューション
インテルは、Taboola と協力して、第 4 世代インテル® Xeon® プロセッサーでの予測アルゴリズムの最適化とベンチマーク評価を行いました。その結果、全体的なパフォーマンスが向上しました。インテル® Xeon® 8480 プロセッサーでの平均最大スループットは、インテル® Xeon® 8380 プロセッサーよりも 1.74 倍高いものでした。2
パフォーマンス向上の一部は、CPU で AI 機能を改善させるアクセラレーター、インテル® アドバンスト・マトリクス・エクステンション (インテル® AMX) によるものです。これにより、画像認識、レコメンドシステム、自然言語処理などのワークロードが最適化されます。また、インテル® Xeon® 8480 プロセッサーの高いコア数とメモリー帯域幅を活用するために、インテルのプロセッサー向けに最適化した、最新の TFS を採用しました。
また、インテル® AVX-512 アクセラレーターは、CPU のレジスターのサイズを拡張させ、プロセスも高速化した、と Pisetzky 氏は述べています。「インテル® AVX-512 により、CPU ごとにコアおよび 1 秒当たりより多くのリクエストを実行することができ、サーバーにより多くを読み込むことができます」。競合企業は、チップ当たりより多くのコアを提供している可能性があるにもかかわらず、インテル® AVX-512 命令セットがなければ、同じレベルのパフォーマンスを得るのにより高いコア数が必要となります。「つまり、コア数だけでなく、これらのコアができることを検討する必要があります」
「ノウハウとエンジニアリング能力があり、多くのソリューションを提供するインテルのようなハードウェア・パートナーと、このハードウェアを今後何年にもわたって最大限に活用するための知識を持てることは素晴らしいことです」と、Pisetzky 氏は述べます。最新世代のインテル® プラットフォームでの最適化は、Taboola が応答時間を短縮し、モデルの精度を向上させ、サーバーの効率が向上するにつれて運用コストを最小限に抑えるのに役立っています。
「当社のビジネスモデルは、パブリッシャーが成功し、広告主が成功した場合にのみ機能します」と Pisetzky 氏は述べています。「当社は顧客を成功させたいと考えており、インテルとの連携は、ビジネスを顧客中心に構築するのに非常に役立ちます」。
インテル® テクノロジーの特長
- 第 4 世代インテル® Xeon® プロセッサーでの最適化により、応答時間を短縮し、モデルの精度を向上
- インテル® アドバンスト・マトリクス・エクステンションズが CPU の AI 機能を向上
- インテル® AVX-512 が、コア当たりの 1 秒当たりのリクエスト数を増加