• プロセッサ
  • インタビュー
  • AI
  • IPU

GPUを超える!?処理能力の向上を低コストで実現するAI専用プロセッサとは


                                                                        graphcore_article.jpg

近年、急速な勢いでAI(人工知能)が実用化されています。高度で詳細なデータ分析や、業務効率化による労働力不足の解消、ロボティクス(ロボット工学)による自動化と生産性の向上などを可能にしてくれるはずのAIですが、実態はその多くが“中途半端なAI”になっていると話すのは、グラフコア・ジャパン株式会社(以下、グラフコア・ジャパン)の中野社長です。AIを動かすためのハードウェアプラットフォームには主にGPU(Graphics Processing Unit)が採用されていますが、内部コアリソースを使い切っていないことも“中途半端なAI”となる一因だと中野氏は指摘します。2016年にイギリスで創業したGRAPHCORE Limited(以下、グラフコア)は、AI活用上の課題を根本的に解決するためにAI専用の次世代型プロセッサ「IPU(Intelligent Processing Unit)」を開発し、業界から熱い注目を集めています。そこで今回は、なぜAIにはGPUではなく「IPU」が適しているのか、「IPU」を活用したAI導入の最新情報などについて中野氏に話を伺いました。


グラフコア・ジャパン株式会社
代表取締役社長
中野 守 氏

SCSK株式会社
プラットフォーム事業グループ
プラットフォーム事業グループ統括本部
営業推進部 第一課
吉田 由佳梨

この記事のポイント

  1. 「IPU」という革新的なプロセッサを生み出したグラフコアとは
  2. “品質とスピードが両立したAI”を実現するための課題とは
  3. 「IPU」とCPU、GPUの違い、「IPU」の優位性
  4. AIでの学習・分析・計算を高速、高効率で実現し、予測の精度を向上する「IPU」
  5. 人手不足の業界の自動化に不可欠なAIを支える「IPU」の可能性

「IPU」という革新的なプロセッサを生み出したグラフコアとは

吉田:まず初めに、中野社長ご自身の経歴についてお教えください。

中野氏:私は、三菱重工株式会社横浜研究所で研究員を務めた後、DEC(Digital Equipment Corporation)にてプロセッサである「Alpha」の立ち上げに従事しました。また、Cray Incの日本法人代表を15年務め、気象庁や京都大学などのスパコン(以下、スーパーコンピュータ)導入と保守を担いました。その後、2021年1月にグラフコア・ジャパンの代表取締役社長に就任しました。

吉田:続いて、AI専用プロセッサ「IPU」を開発したグラフコアについてお聞かせください。

中野氏:グラフコアはAI計算に特化したプロセッサをゼロから設計・開発し、製造・販売する目的で2016年イギリス・ブリストルに設立されました。設立からまだ6年足らずですが、本社を含むヨーロッパ、アメリカをはじめ、中国、韓国を含むアジア、そして日本にオフィスを構え、全世界で650名以上の社員が働いています。

吉田:短期間に急成長されているのですね。

中野氏:はい。当社の開発コンセプトに賛同してくれたDeepMind Technologiesの共同創業者やUberの元チーフサイエンティストなどAIコミュニティの有力者を始め、セコイア・キャピタル、BMW、マイクロソフトなどから総額7億1,000万ドル以上の投資を受け、現在の企業価値は27億7,000万ドルに達しています。AI専用のプロセッサを開発する企業は世界に数十社存在しますが、その中でも受けた投資額は1~2位を争う規模です。

“品質とスピードが両立したAI”を実現するための課題とは

吉田:グラフコアはAI活用における課題を根本的に解決するためにAI専用の次世代型プロセッサ「IPU」を開発したと伺いましたが、AI活用における課題とは何でしょうか。

中野氏:一言でいうと“品質とスピードが両立したAI”の実現には膨大な投資が必要になってしまうということです。
吉田さんをはじめ多くの方は、AIというとiPhoneの音声アシスタント機能「Siri」や車の音声ナビゲーションなどを思い浮かばれると思います。それだけAIは身近になったということです。しかし、時に正しく聞き取ってくれないという戸惑いを感じたことはありませんか。

吉田:確かに、スマートスピーカーに複雑な問いかけをした際、「もう一度お話し下さい」と繰り返されると、少しがっかりすることもあります。

中野氏:そうした利用者の意図を汲み取ってくれないAIを、私たちは“中途半端なAI”と呼んでいます。精度が低いAIが要因の場合もありますが、日本語の特殊性も無関係ではありません。日本語はエモーショナルな表現や助動詞も豊富なので、他言語よりも比較的複雑な構造になっています。そのため、現在一般に実用化されているレベルのAIではうまく理解してくれない場合があるのです。今求められているのは、顧客の要望に対して適切な回答を素早く返す“品質とスピードが両立したAI”なのです。しかし、現在の汎用的なAIはまだそうした品質やサービスレベルに達していません。なぜなら、それを実現するにはさらに膨大なデータをAIが学習しなければならず、最先端のAIでしか実現することができないからです。

吉田:しかし、最先端のAIを活用するには膨大な投資が必要になるということでしょうか。

中野氏:はい。2020年に発表された自然言語処理モデルのGPT-3(Generative Pre-Training-3)というクラスでは約1,750億個のパラメータを使用して学習するといわれています。現在日本で実用化されているAIのパラメータは2,500万~3,000万程度なので、GPT-3クラスになるためにはハードウェアだけでも大規模な投資が必要になります。

「IPU」とCPU、GPUの違い、「IPU」の優位性

吉田:なぜ、ハードウェアに膨大な投資が必要なのでしょうか?

中野氏:AIの頭脳であるプロセッサを作るには非常にお金がかかるため、以前はインテル社のx86に代表される汎用品を共有するのが一般的でした。しかし、汎用品ではエネルギー効率が悪く、費用に対して思ったほど性能が出ないこともあります。必要な処理能力を揃えるためには、沢山のプロセッサを用意する必要があり、投資額が大きくなるということです。

吉田:なるほど、そこでグラフコアではAI専用のプロセッサ「IPU」を開発したのですね。

中野氏:はい。実は、ドメインスペシフィックといって、領域に特化した専用のプロセッサを使用する動きは広がりを見せつつあります。最近ではAppel Inc.に代表されるように、自社の事業に合致するドメインスペシフィックなプロセッサを開発し、使用する企業が増えているのです。特にAIの領域ではそのニーズが高いです。そこで、グラフコアではAI専用のプロセッサである「IPU」を開発しました。

吉田:では、「IPU」についてお伺いします。AI専用のプロセッサ「IPU」と、AIで一般的に使われるCPUやGPUとの違いは何でしょうか。

中野氏:まず、みなさんご存知のCPUはパソコンで使われていますし、GPUはグラフィックスやゲームで使われています。そしてAIはというと、ほとんどのAIでもこのCPUかGPUのいずれかが使われています。その他のプロセッサは現実的にはほとんど使われておりません。そんななか、なぜグラフコアは「IPU」を作ったかというと、プロセッサの性能を最大限に活用できるようにするためです。

吉田:CPUやGPUではプロセッサの性能を最大限に活用できていないということでしょうか?

中野氏:はい、その通りです。あくまでもAIの観点だけで見るとですが、例えばAIにおいてGPUを使用した場合、GPUの能力からするとおよそ半分のリソースが使われていません。CPUに至ってはおよそ70%程度のリソースが使われていません。一方、「IPU」はAI専用に作られているので、ほぼ100%リソースを使い切ることができます。

吉田:CPUやGPUはAIのプロセッサとして、もったいない使われ方をされているのですね。

中野氏:はい、非常にもったいない使われ方をしています。決して効率的とは言えない汎用プロセッサを、求める性能が得られるまで用意するにはとてもお金がかかります。「IPU」は、より少ないコストで汎用プロセッサと同等の性能を得ることができるのです。「IPU」のメリットはそれだけではありません。電力の消費量を格段に抑えることが可能です。「IPU」は計算機とメモリが近接しているので、データをほとんど移動させずに計算することができます。メモリと計算機のデータ移動には膨大なエネルギーがかかりますが、「IPU」はこの点に着目し電力消費を抑えるシステムデザインにしました。

吉田:電力消費量を抑えられるのは素晴らしいですね。コストの面はもちろんカーボンニュートラルを推進するうえでも電力消費量を抑制できることは非常に意味のある効果ですね。その他に「IPU」を使用することで得られるメリットがあればお聞かせいただけますか。

中野氏:もちろんです。実は「IPU」は人間の脳の構造と同じデザインであり、それがAIにぴったりとはまるということです。「IPU」はメモリと計算機が一対になっており、それが小さなエレメントになっています。これが一つのプロセッサのなかに1,472個詰まっています。この構造は人間の脳のつくりとほぼ同じなのです。

図:IPU GC200の内部コア構造。メモリと計算機が一体となったIPUタイルが1,472個あり総数8,832スレッドを実現。

図:IPU GC200の内部コア構造。メモリと計算機が一体となったIPUタイルが1,472個あり総数8,832スレッドを実現。

吉田:なるほど、こうして伺うとAI専用のプロセッサが誕生したのは必然だったのですね。

AIでの学習・分析・計算を高速、高効率で実現し、予測の精度を向上する「IPU」

吉田:ここからは「IPU」を活用した事例をお教えください。

中野氏:海外では、ライフサイエンス分野や気象予測、金融分析など既に多くの活用例があります。

●ライフサイエンス分野

ライフサイエンス分野では、創薬の際の高分子タンパク質など複雑な構造解析をする時に「IPU」を利用しています。従来の数値解析ではスパコンを使いますが、物理方程式などの計算量が増えてしまい処理に限界がありました。「IPU」による機械学習の方がスパコンの数値シミュレーションに比べて圧倒的に安く・早く計算できる上に、2倍以上の精度を実現した事例もありました。スパコンへの投資は数十億円もかかるのに対し、「IPU」は1億円ほどなので、今後は様々な病理学研究への応用も期待されています。

●気象予測

一般的に気象予測は、スパコンで地球全体の計算をしながら地域の局所予報を行っていますが、空気や海流の流れ、太陽熱放射など、物理方程式が複雑に絡み合い、それらを全部投入しても予想精度を高めるのは至難の技です。それを「IPU」が過去の膨大な気象データを機械学習させて分析することで、比較的容易に局所予報を立てられるようになりました。ECMWF(欧州中期予報センター)が2021年9月に発表した内容では、「IPU」はGPUの30倍ほど速かったという結果も出ています。

●金融分析

従来使われていた分析モデルは単純化されているため粗く、金融市場の非線形や不安定な混沌状態を捉えることができませんでした。「IPU」を使うことでモデルを再学習し、分析、推論までの時間を短縮させて分解能を向上。予測がより正確になったといいます。

人手不足の業界の自動化に不可欠なAIを支える「IPU」の可能性

吉田:わずか6年足らずという短期間で世界に展開されているグラフコアですが、日本市場からの反応はいかがでしょうか。

中野氏:われわれグラフコア・ジャパンは日本企業のAIの取り組みを支援するために2020年12月に設立されました。日本は資源が少なく、労働人口も減少しています。今後日本が成長していくためには多くのことを機械化していく必要があると私は考えています。そして、そこにはAIは必須です。日本市場においても、AIに携わる多くの企業からお問い合わせをいただき、興味を持って迎えられていると日々感じています。

吉田:国内での活用の可能性はいかがでしょうか。

中野氏:日本ではロボティクスに注目しています。日本は少子高齢化が進み、労働人口も減少傾向で慢性的な人手不足に直面しており、それを補うあらゆるロボティクスが必要とされています。農業で活用される無人トラクターや、物流での自動運転トラック、リテールでの販売予測など、人手が足りない業界の自動化にもAIが活用できるので、「IPU」が貢献できる余地は膨大だと思っています。中でも日本の製造業は基盤が巨大なためロボティクスに率先して取り組む可能性が高いと考えます。

また、販売や顧客サービスの分野も有望です。海外の方向けに商品やサービスを案内する際、日本語で入力し、その意味をAIが理解して英語などの外国語に正しくアウトプットするまでの翻訳はできるようになりましたが、話す機能がまだ追いついていません。Text-to-Speech(人の声のパターンやイントネーションを再現して滑らかで自然なテキスト読み上げを実現する技術)という機械学習分野では、音声のアウトプット段階でもう一段ハードルが上がります。そこに「IPU」を活用すれば、自然でタイムラグのない同時翻訳システム実現の可能性が見えてきます。

吉田:最後にSCSKに期待することをお聞かせください。

中野氏:今後、日本でもお客様のAIのニーズは急速に拡大することが予測されます。SCSKは最先端のハードウェアやソフトウェア、アプリケーションなど、様々な製品やソリューションのノウハウはもちろん、全国のサービスネットワークをお持ちなので、AIでDXを推進するお客様も安心してご相談いただけると思います。AIは一朝一夕に形になるものではなく、技術評価やPoC(概念実証)などの試行錯誤を経なければなりませんが、グラフコア・ジャパンとSCSKがお互いに協力し合いながら、日本のAIの普及に少なからず貢献できればと考えています。

吉田:中野社長ありがとうございます。
「IPU」の製品に関する詳細は、SCSKが公開しております「IPU」製品サイトをご覧ください。
また、グラフコアや「IPU」についてのご質問やご興味をお持ちのお客様は、SCSKの営業担当までお気軽にお問い合わせください。

最新情報などをメールでお届けします。
メールマガジン登録