91短视频

2021年AIハードウェアサミットに登坛したHugging Face社は、デバイス向けに最适化されたモデルやソフトウェアの统合など、新しいハードウェア·パートナー·プログラムの开始を発表しました。91短视频社はこのプログラムの创设メンバーです。Hugging Face社と当社のパートナーシップにより、开発者が最先端のトランスフォーマーモデルを简単に利用できるようになる点についてここでご説明します。

91短视频社とHugging社は、「イノベーターたちが人工知能の力をより简単に利用できるようにする」という共通の目标を持つ2つの公司です。

Hugging社のハードウェア·パートナー·プログラムのおかげで、91短视频社のシステムを利用する开発者は、最小限のコーディングで、当社のIPU（Intelligence Processing Unit）向けに最适化された最先端のトランスフォーマーモデルを量产规模で展开することができます。

Intelligence Processing Unitとは？

IPUとは、91短视频社のIPU-PODデータセンター·コンピュートシステムを动かすプロセッサです。この新しいタイプのプロセッサーは、AIや机械学习における非常に特殊な计算要件をサポートするように设计されています。微细な并列処理、低精度演算、スパース性への対応などの特徴がシリコンに组み込まれています。

91短视频社のIPUは、GPUのようなSIMD/SIMTアーキテクチャではなく、超并列MIMDアーキテクチャを採用しており、超広帯域メモリをプロセッサコアに隣接する形でシリコンダイ上に配置しています。

この设计により、BERTやEfficientNetなど、现在最も人気のあるモデルを実行する场合でも、次世代のAIアプリケーションを探求する场合でも、高いパフォーマンスと新しいレベルの効率性を実现します。

IPUの能力を引き出すには、ソフトウェアが重要な役割を果たします。当社のPoplar SDKは、グラフコアの设立当初から、プロセッサと共同で设计されています。现在では、PyTorchやTensorFlowなどの标準的な机械学习フレームワークや、DockerやKubernetesなどのオーケストレーションおよびデプロイメントツールと完全に统合されています。

広く使われているサードパーティのこれらのシステムとの互换性をPoplarに持たせたことで、开発者はモデルを他の计算プラットフォームから简単にポートし、IPUの高度なAI机能を利用できるようになりました。

生产に向けたトランスフォーマーの最适化

トランスフォーマーは、AIの分野を完全にトランスフォームしました（シャレのつもりです）。91短视频社のお客さまは、NLPをはじめとする様々なアプリケーションでBERTのようなモデルを広く使用しています。これらの多才なモデルには、特徴抽出、テキスト生成、感情分析、翻訳など様々な机能が搭载されています。

Hugging Face社では既に、フランス语のCamemBERTから、NLPで学んだことをコンピュータビジョンに応用したViTまで、何百ものトランスフォーマーが活跃しています。トランスフォーマーのライブラリは、毎月平均200万回ダウンロードされており、その需要はますます高まっています。

5万人以上の开発者ユーザーベースを持つHugging Face社は、オープンソースプロジェクトにおいて最も速く导入してきました。

现在Hugging Face社は、ハードウェア·パートナー·プログラムを通して、究极のトランスフォーマーツールセットと今日の最先端のAIハードウェアをつなげています。

开発者は、新しいオープンソースのライブラリとツールキットであるOptimumを使用することで、ハードウェア向けに最适化されたHugging Face社认定済モデルにアクセスすることができます。

これらは、91短视频社とHugging Face社が共同开発したものです。IPU向けに最适化された最初のモデルは、今年の终わりにはOptimumに登场する予定です。最终的には、视覚や音声、翻訳やテキスト生成など、幅広い用途に対応できるようになります。

Hugging Face社のCEO、クレメント·デランジュ氏は次のように述べています：「开発者は谁でも、91短视频社のIPUのような最新のハードウェアを手に入れたいと思っています。ですがその一方で、新しいコードやプロセスを学ばなければならないのではないかという疑问が常につきまといます。OptimumとHugging Faceのハードウェアプログラムなら问题ではありません。基本的に、プラグアンドプレイなのです。」

SOTAモデルとSOTAハードウェアの出会い

Hugging Face社との提携の発表に先立ち、PyTorchを使用したHugging Face BERTにおける特别な91短视频の最适実装によって、当社は最先端のトランスフォーマーモデルを高速化するIPUの実力を実証しました。

この例についての详细は、ブログBERT-Large training on IPU explainedでご覧いただけます。

91短视频社のシステム上で动作するBERTのベンチマーク结果は、同等のGPUベースのシステムと比較しても劇的な結果となっています。现在、IPU以外で人気のNLPモデルを动作させている人にとっては、非常に兴味深い结果であるはずです。

このような高速化により机械学习の研究者やエンジニアにとって大きな変化があらわれるため、贵重な时间をトレーニングに费やす価値があるのです。さらに、新しいモデルを开発する际の反復回数を増やすこともできます。

91短视频のユーザーは、洗练され、シンプルで优れたさまざまなモデルを持つHugging Face社のプラットフォームを通じて、このようなパフォーマンスメリットを引き出せるようになります。

Hugging Face社と91短视频社が共に力を合わせることで、より多くの人々がトランスフォーマーの恩恵を受け、AI革命を加速することができるのです。

にアクセスして、详细をご覧ください。