AI 開発を加速する OpenVINO™ ツールキットとは
AI 推論を活用するアプリケーション開発を手軽に始められる汎用的な推論エンジン。
AI を加速するインテルの開発者支援
インテルは長年にわたり CPU や GPU、AI アクセラレーターなどを、効率的かつ最適に使用してアプリケーションやソフトウェアを開発できる開発環境や開発ソフトウェアなどの、開発者向けソリューションをオープンソースを中心に提供しています。社会のあらゆる場面で活躍する AI については、簡単に利用可能な推論エンジンである OpenVINO™ ツールキットを無償で提供し、コンピューター・ビジョン、画像関係をはじめ、自然言語処理や音声処理など、幅広いディープラーニング・モデルによる推論の最適化や高速化を実現しています。
AI アプリケーションの推論部分に OpenVINO™ ツールキットを使用する事で、サービスやソリューションの開発者は、インテル製の CPU や GPU、AI アクセラレーターなどのパフォーマンスを最大限に活用して、AI パフォーマンスを加速できます。
OpenVINO™ ツールキットの概要
OpenVINO™ ツールキットは、シンプルなコード記述で動作するため、AI の導入や保守を簡素化することができます。インテルの CPU や GPU、VPU、FPGA などの各種デバイスで共通したコードを使用でき、優れた推論エンジンにより AI アプリケーションのパフォーマンスをそれぞれのデバイスに最適化して展開可能です。最適化された事前学習済みモデルを提供する Open Model Zoo (OMZ) や TensorFlow、PyTorch、Caffe* などの一般的なフレームワークを使用してトレーニングしたモデルを変換し、最適化する Model Optimizer を使用できます。
OpenVINO™ ツールキットの
ダウンロードはこちら
インテルの AI ポートフォリオ
インテルが AI 活用を推進するために提供しているハードウェアからソフトウェアまでをカバーする AI に関する製品ポートフォリオをご紹介します。
インテル® Xeon® プロセッサー・ファミリー
幅広いポートフォリオで、データセンターのパフォーマンスと密度の目標を実現。インテル® Xeon® 6 テクノロジーは、プロセッサーのオプションを備えるシングル・プラットフォームです。AI および高負荷のワークロードに対応する優れたパフォーマンス、卓越した効率性、クラウドのスケーラビリティーを提供します。
インテル® Gaudi® AI アクセラレーター
インテル® Gaudi® AI アクセラレーターとインテル® Gaudi® ソフトウェアは、データセンターにおける生成 AI において新たなレベルの生産性の優位性と選択肢をもたらすように設計されています。
インテル® Arc™ GPU
新しい AI 体験を提供するインテル® Arc™ GPU は、臨場感あふれるビジュアル体験、AI 推論とビデオ制作、メディア・トランスコーディング、ストリーミングなどを強化し、コンテンツ制作やエッジでのワークロードをレベルアップします。
インテル® oneAPI ツールキット
oneAPI はオープンで標準ベースののクロスアーキテクチャー ・プログラミング ・ モデルを作成し、GPU、CPU、FPGA を含む複数のアーキテクチャタイプをサポートして幅広いデータセントリックなワークロードの開発を簡素化します。ISO C++ と Khronos の SYCL ベースのクロス・アーキテクチャー言語であるデータ並列 C++ (DPC++) に加えて、高度なライブラリーやパフォーマンス解析ツールが含まれます。
インテルの AI ソリューション
インテルで AI の取り組みを効率化
AI 開発のソフトウェア
インテルの専用デベロッパー・リソースをチェックし、AI の取り組みを効率化する方法をご覧ください。
エッジ AI リファレンス・キット
具体的なユースケースを開発するための Jupyter Notebook やハウツービデオ、具体的なチュートリアルをまとめて確認できる開発支援キット。
AI PC 向けの開発者ツール
AI 開発者、独立系ソフトウェア・ベンダー、独立系ハードウェア・ベンダー向けのツールとリソースで、パフォーマンスを最適化し、ワークフローを合理化し、ビジネスを構築します。
インテルの AI コミュニティー
インテルは開発者向けに、さまざまなコミュニティー・サイトで AI 関連のコミュニティーを展開しています。
馴染みのあるコミュニティー・サイトを選んでご参加ください。
インテル® デベロッパー・ゾーン: Qiita
エンジニアにとって再利用性・汎用性の高い他のユーザーにとっても役にたつ、学びのある情報が多く集まるコミュニティーサイト「Qiita」に展開している、開発者向けコミュニティーです。
インテル® デベロッパー・ゾーン: Zenn
誰かのために、自分のために知見を共有する、エンジニアのための新しい情報共有コニュニティー Zenn に展開している、インテルの開発プラットフォームに関する開発者向けの最新技術情報や開発 Tips を発信するコミュニティーです。OpenVINO™ ツールキットや、インテル® Geti™ プラットフォームなど AI アプリケーション開発を加速させる開発ツールを中心にお届けします。
エッジ AI 推論開発者向けインテル® アーキテクチャー活用セミナー
エクセルソフト株式会社によるエッジでの AI やディープラーニングを活用したアプリケーション開発者向けのオンラインセミナーです。エッジ AI 推論開発を迅速化できる、インテルが無償で提供している OpenVINO™ ツールキットの導入から、展開、活用方法まで幅広く学習できます。
費用: 無料 (要事前登録)
AI 活用を動画で学ぶ
インテルのエキスパートたちが、ソフトウェアやハードウェア、AI ソリューションに関してのノウハウを動画で解説します。
データ準備
AI が学習しやすいように「データを加工する」 AI 開発に必要な、データ準備 (データの前処理) の工程を紹介します。
インテル® Xeon® プロセッサーが提供する 最新 AI ソリューション
インテル® Xeon® プロセッサーを活用した AI ソリューション、および 内蔵 AI アクセラレーターの概要とその開発方法について解説します。さらに NEC 様の FireDucks による AI のデータ準備を高速化する取り組みについても紹介します。
学習
ニューラルネットワークを使用して AI が自らデータの特徴を自ら習得するディープラーニングをはじめとした、データの中から特徴や法則性を見つけ出す機械学習について紹介します。
インテル® Gaudi® AI アクセラレーターを活用した生成 AI / LLM 開発
インテル® Gaudi® AI アクセラレーターの概要、および生成 AI と大規模言語モデル (LLM) の開発手法について解説。さらに、次世代製品であるインテル® Gaudi® 3 AI アクセラレーターの最新情報を紹介します。
AI が提供する非定型の生成 AI ソリューションとは
Articul8 AI では、生成 AI の可能性を活用することで、企業に計り知れない価値をもたらすと考えており、そのためにはリスクとセキュリティの懸念を慎重に考慮する必要があります。私たちの使命は、プロセスの簡素化、コストの削減、制御とセキュリティーを重視することで、責任ある生成 AI の導入を支援します。この講演では各導入企業独自のニーズや価値観に合わせて、生成 AI の可能性を最大限に引き出す方法を紹介します。
ファインチューニング
学習済みのニューラルネットワーク・モデルの一部や全体を、独自データを追加して再度学習し直すことで、汎化性能を高める方法を紹介します。
CPU によるファイン・チューニング
インテル® AMX とインテル® エクステンション・トランスフォーマーによる CPU ファイン・チューニング高速化
ファイン・チューニングは、既存の大規模言語モデル (LLM) に、追加のデータセットを学習させることで、独自性や専門性の高い生成 AI を作成するテクニックです。動画では、インテル® Xeon® プロセッサーを利用したファイン・チューニングの方法とデモを紹介します。
推論 / エッジ推論
学習によって作成された推論モデルのエッジへの実装や、効率的な推論の実行など、推論に関して紹介します。
クラウドでも使えるインテル® Xeon® プロセッサーの AI を加速するインテル® AMX
AI の活用と進展と共に、サーバー CPU の AI ワークロード処理能力も重要性を増してきており、インテル® Xeon® プロセッサーは AI を高速化する拡張命令、インテル® AMX を搭載しています。サーバー向け CPU の新機能は、クラウドで利用可能な環境が増加しています。ここでは、インテル® Tiber™ デベロッパー・クラウド上で、インテル® AMX を利用した簡単なコードを実行するデモンストレーションを紹介します。
インテル® Xeon® プロセッサーによる大規模言語モデル (LLM) パフォーマンスの加速化
大規模言語モデル (LLM) の用途全てにおいて高価な GPU が唯一の選択肢なのでしょうか?用途やコストによっては汎用的なインテル® Xeon® プロセッサーがバランスの良さで最適な選択肢になります。このセッションでは、インテル® Xeon® プロセッサーでの LLM 運用を実現するために有効な、PyTorch 向けインテル® エクステンションがサポートしている LLM 向けの最適化について紹介します。
AI 推論でインテル® Xeon® プロセッサーのインテル® AMX を活用する方法
インテル® Xeon® プロセッサーは AI ワークロード処理を高速に行える拡張命令、インテル® AMX が搭載されています。このビデオでは、なぜインテル® AMX 命令で AI 処理が高速化されるのか、インテル® AMX 命令を利用して推論を高速化する方法などについてご紹介いたします。
インテル® Gaudi® 2 AI アクセラレーターで LLM 動かしてみた
インテル® Gaudi® 2 AI アクセラレーターって本当に動くの?移植大変そう、パフォーマンス出るの?といった疑問にお応えするため、LLM の推論を動かしてみました。想像以上に簡単に始められて、ハイパフォーマンスな推論結果がえられることを紹介します。
エッジ推論ソリューション: OpenVINO™ ツールキットの最新動向とエッジ LLM ソリューション
エッジ推論を高速化する、OpenVINO™ ツールキットの最近のアップデートをまとめて紹介します。また、盛り上がりを見せているローカル LLM を OpenVINO™ ツールキットを使用して実現する方法についても紹介します。
第 12 世代インテル® Core™ プロセッサーを活用した AI 推論構築事例
OpenVINO™ ツールキット+産業用 PC を活用した実際の採用事例をもとに、ベンチマーク結果や組み込み用の AI 推論用ハードウェアとしてインテルの CPU を使用するメリットについてご紹介します。
エッジ AI ソリューション: OpenVINO™ ツールキットの活用の幅を広げる関連ツールと活用法
OpenVINO™ ツールキットには推論エンジン以外にもさまざまな周辺ツールが用意されています。学習ソリューションや推論サーバーなどのツールから、OpenVINO™ ツールキットを活用したソリューションまで幅広くご紹介いたします。
エッジ AI ユースケース: インテル AI プラットフォームの最新活用事例
製造業からスマートシティーまで、OpenVINO™ ツールキットを活用した CPU セントリックでの開発事例をパートナーの AI リーディング・カンパニーより紹介します。建築現場での大サイズ画像 AI 推論を CPU 活用により分割なくハイパフォーマンスを実現。トンネル採掘におけるビデオ解析で OpenVINO™ ツールキットを活用して 8 倍のパフォーマンス向上。
開発環境
ソフトウェア開発ツールである oneAPI、推論エンジンやモデルの最適化を提供する OpenVINO™ ツールキットなど、インテルが AI 開発向けに提供しているツールやソリューションを紹介します。
OneAPI って何?
パフォーマンスと生産性を高め、異種システムに対応する革新的なソリューションの oneAPI を紹介します。インテルのソフトウェア・ツールや開発ツール、実際の事例をはじめ、CUDA から SYCL への移行デモも紹介します。
分散学習をインテル® Xeon® プロセッサーで
インテル® oneAPI コレクティブ・コミュニケーション・ライブラリー
巨大化している AI モデルを手持ちのサーバー群を利用して学習を行う手段として分散学習があります。このセッションでは分散学習の仕組みと性能の鍵となる通信ライブラリーとしてインテル® oneAPI コレクティブ・コミュニケーション・ライブラリーを紹介します。
エッジ向け AI ポートフォリオ
エッジ AI 向け AI ポートフォリオの概要を紹介します。オープンソースの oneAPI とインテル・ディストリビューションのインテル® oneAPI ベース・ツールキットの AI ツールについて説明します。CUDA から SYCL への移行デモをご覧ください。
セキュリティー
AI を設計する上で社会に与えるリスクを低減し、メリットを最適化することを推進してきたインテルが「責任ある AI」を実現させるために実施している取り組みや、提供しているソリューションについて紹介します。
AI on インテル® Xeon® プロセッサー の利点
コンフィデンシャル AI について
AI の利用拡大によって、個人のプライバシー情報や企業秘密などの機密情報の漏えいリスクに対しての懸念も広がってきています。今回の動画では、AI 利用における情報漏洩リスクに対しての一つの対策である、コンフィデンシャル AI という技術について説明します。
導入事例
動画や画像分析だけでなく、さまざまなディープラーニング推論を最適化できる OpenVINO™ ツールキットは、幅広い分野で導入されています。OpenVINO™ ツールキットを使用して、AI サービスやソリューションを導入、開発している事例を紹介します。
OpenVINO™ ツールキットを活用し画像検査装置のサイズ制約やコスト増の課題を解消
東京エレクトロン デバイス株式会社は、医療や製造業などで利用される画像検査用の産業向け PC での AI 推論に OpenVINO™ ツールキットを使用して筐体サイズの制約やコスト増の課題解消に貢献しています。
ローカル 5G と OpenVINO™ ツールキットを採用した「外観異常判定システム」を新工場で連携
沖電気工業株式会社は、新工場でローカル 5G と OpenVINO™ ツールキットを採用した「外観異常判定システム」などの連携を導入し、製造現場の省力化と効率化を実現しました。
AI 外観検査を低コスト、短期間で実現し、生産性向上に貢献
株式会社大紀アルミニウム工業所は、欠陥品の誤出荷を防ぎ、検査担当者の負担を軽減するために、アルミインゴットの外観検査の自動化に向けて、OpenVINO™ ツールキットを採用している東京エレクトロン デバイス株式会社の AI 外観検査プラットフォーム「TAiVIS (タイビス)」を導入しました。
AI 外観検査装置 – 未来の外観検査を自動化
OpenVINO™ ツールキットを採用した Musashi AI 株式会社による AI 外観検査装置が変革する、製造業の外観検査プロセス。
回診用 X 線撮影装置に AI 技術を搭載
株式会社島津製作所の「遺残確認支援ソフトウェア Smart DSI」は、外科手術時の遺残物を強調表示して患者の身体的リスクと医療従事者の負担を軽減します。ハードウェアの追加や変更なしで、すでに病院に導入されている X 線装置にも導入可能な「Smart DSI」は、推論モデルの最適化に OpenVINO™ ツールキットを採用することで、推論時間を 3 分の 1 に短縮し、15 秒以内で確認画像を表示できるようになりました。
千葉市動物公園にてエッジ AI の実証実験を実施
千葉市が運営する千葉市動物公園は、サービス向上や運営効率化などを目的に、入退場ゲートなどに設けたカメラの映像から来園者の属性を抽出し分析する実証実験を実施しました。推論エンジンに OpenVINO™ ツールキットを採用し、映像をインターネットに送信せずにエッジノード上で処理する「エッジ AI」としてシステムを構成しました。
医用画像のマルチモーダル推論や化合物とタンパク質の相互作用予測を最新世代のプロセッサーが加速する
ディープラーニングを活用した医療データの解析や創薬技術の開発に取り組む理化学研究所の種石 慶 氏をお招きし、研究の概要や展望を伺いました。第 3 世代インテル® Xeon® スケーラブル・プロセッサー・ファミリーを使った性能ベンチマークについてもお話しいただきました。
AI を活用したインタラクティブ・サイネージで顧客応対の自動化と高度化を目指す
株式会社ココカラファインヘルスケアが展開する店舗を舞台に、複数のメーカーが参加して AI 活用の実証実験が行われています。その開発環境と実行環境に OpenVINO™ ツールキットが採用され、安価で迅速な開発と、安定的で高速な推論処理を実現しています。
在宅輸血患者の体位や行動を AI で検知
和歌山県立医科大学附属病院は、在宅輸血中の起き上がりや肘の曲げなどの好ましくない行動を、インテルの OpenVINO™ ツールキットと 2D 人物姿勢推定モデルを用いて判定し、遠隔の医師に通知するシステムの研究を進めています。
ディープラーニングを用いて X 線画像から疾患を推定するシステムの性能評価に OpenVINO™ ツールキットを利用
ディープラーニングを用いて胸部 X 線画像から疾患を推定するシステムを対象に、最適化と量子化を適用した性能評価を実施したところ OpenVINO™ ツールキットによって大きな性能向上を得られることがわかりました。
OpenVINO™ ツールキットで眼底写真から目の疾患を類推する AI システムを構築
帝京大学医学部附属病院は、眼底写真から疾患を類推するディープラーニングの評価システムにおいて、インテルの OpenVINO™ ツールキットを活用してパソコン上で認識処理を実行する環境を構築しました。
作業員の装備や行動の安全性をディープラーニングで確認
株式会社日立ソリューションズによる「作業員安全確保支援ソリューション」は、開発環境と実行環境に OpenVINO™ ツールキットを採用し、建築現場などでの作業員の安全装備装着の有無や特定の危険な行動をディープラーニングでチェックできます。
協力企業による
OpenVINO™ ツールキットの活用テクニック
OpenVINO™ ツールキットの開発や活用事例などについて、インテルの協力企業に解説いただいた記事やコンテンツをご紹介します。
OpenVINO™ ツールキットでゼロから学ぶディープラーニング推論
JellyWare 株式会社
ディープラーニングの概要、OpenVINO™ ツールキットのインストール方法、プログラミングの基礎を学べる初心者向け学習コンテンツです。カメラ映像を入力とした「顔領域検出」「感情分類」「グラフィックス描画」の方法を学習しながら、最終的に「リアルタイム感情分析アプリ」の完成を目指します。ディープラーニングの技術を基礎から確実に理解して、オリジナルの AI アプリを作れるようになります。(本コンテンツの利用にはリンク先でユーザー登録が必要です)
OpenVINO™ ツールキットで i-PRO カメラを使ってみる (Ubuntu 編)
i-PRO 株式会社
i-PRO カメラと Linux OS の PC を HTTP で接続して、OpenVINO™ ツールキットで JPEG 画像を連続して処理するプログラムを Python で作成する方法を、OpenVINO™ ツールキットのインストールから、プログラムの動作確認まで順を追って説明しています。
ロボットの認識の向上に OpenVINO™ ツールキットを活用する
ugo 株式会社
OpenVINO™ ツールキットでリアルタイム推論処理を行うことで、遠隔操作と AI ⾃動モードのハイブリッド制御を採⽤した次世代型アバターロボット "ugo" が自動で対応できるようになる機能をご紹介します。
エッジ AI カメラ「SCORER Traffic Counter Edge」の映像解析ノウハウを解説!
株式会社フューチャースタンダード
2022年10月にリリースされた交通量を自動計測する AI デバイス「SCORER Traffic Counter Edge」は、映像解析のビジネスを専業で行っている株式会社フューチャースタンダードがこれまでに培った交通量計測のノウハウが多数投入されている製品です。この記事では、そのノウハウの一部が技術面から解説されています。
エッジからクラウドまでシームレスにディープラーニングを活用する OpenVINO™ ツールキットでの研究開発紹介
三菱電機株式会社
OpenVINO™ ツールキットを使用したディープラーニング技術の高速化に取り組んだ結果得られた、エッジからクラウドまで精度劣化せずに高速化する手法をご紹介します。
Google Compute Engine を使った TensorFlow ビルド手順
株式会社日立製作所
Google Cloud Platform の Compute Engine で AVX 命令を使用しない TensorFlow をビルドし、Intel Atom® プロセッサー搭載の日立制御エッジコンピュータ CE50-10A (Ubuntu モデル) で、OpenVINO™ ツールキットを使用した最適化と、推論実行するまでの手順を解説します。
OpenVINO™ ツールキットによる競走馬の健康管理 AI 開発
富士ソフト株式会社
体内に存在しているすべてのタンパク質の状態を網羅的かつ俯瞰的に見るプロテオミクス (proteomics) 技術を使用して、すべてのタンパク質の状態を 1 枚の絵画のように画像化し、その画像を AI を使用して判別する「AI プロテオミクス*」を、競馬の競走馬が罹患する「屈腱炎」の判別に適用したソリューションについて、その技術的背景を含めて解説します。
OpenVINO™ ツールキットをもっと詳しく
OpenVINO™ ツールキットに関する技術資料やインテルのソリューションをご紹介します。YouTube では、活用事例などを動画でご紹介しています。
エッジ AI リファレンス・キット
インテルは、OpenVINO™ ツールキットを使用したエッジでの AI 開発をサポートする、「エッジ AI リファレンス・キット」を提供しています。このキットでは、具体的なユースケースを開発するための Jupyter Notebook やハウツービデオ、具体的なチュートリアルをまとめて確認できます。
エッジでのディープラーニング推論アプリケーション開発
インテル・アーキテクチャーの CPU、内蔵 GPU、インテル® FPGA、インテル® Movidius™ ビジョン・プロセッシング・ユニット (VPU) といった、インテルが提供するさまざまなハードウェアでディープラーニング推論をより高速に実行するためのソフトウェア開発環境 / ライブラリー・スイートです。高性能な AI 推論アプリケーションを短期かつコストを最適化して開発できる理由をご確認ください。