このたび、ビジネス向けに構築されたIBMのオープンソースおよびプロプライエタリモデルのファミリーである Graniteモデルと、Red Hat InstructLabモデルアライメントツールが Docker Hubで利用できるようになったことをお知らせします。
現在、開発者チームは、開発者向けに特別に設計されたIBMのAIモデルを使用して、アプリケーションに簡単にアクセスし、デプロイし、スケーリングすることができます。
このニュースは、10月22日に開催されるIBM TechXchangeの基調講演のAIトラックで正式に発表されます。参加者は、Docker Hub上のIBMのGraniteモデルが、複数のプログラミング言語にわたるAI駆動型アプリケーション開発をどのように加速するかを独占的に見ることができます。
なぜDocker HubでGraniteなのか?
データの透明性、モデルの調整、セキュリティーに対する原則的なアプローチにより、IBMのオープンソースのGraniteモデルは、自然言語処理における大きな飛躍を表しています。 これらのモデルは Apache 2.0 ライセンスの下で提供されており、開発者チームはジェネレーティブAIをミッションクリティカルなアプリケーションやワークフローに導入することができます。
Granite モデルは、コーディングとターゲット言語タスクで優れたパフォーマンスを低レイテンシで実現すると同時に、必要なコンピューティングリソースの数分の一で、推論のコストを削減します。 この効率性により、開発者は、オンプレミスとクラウドの両方で、ジェネレーティブAIアプリケーションを実験、構築、スケーリングすることができ、すべて部門の予算制限内で行うことができます。
これが意味するところは次のとおりです。
- デプロイの簡素化: Docker Hub から Granite イメージをプルし、数分で稼働させることができます。
- スケーラビリティ: Docker は、人工知能および機械学習 (AI/ML) アプリケーションをスケーリングするための軽量で効率的な方法を提供します。 これにより、1 台のマシンで複数のコンテナを実行したり、クラスタ内の異なるマシンに分散したりして、水平方向のスケーラビリティを実現できます。
- 柔軟性: 特定のニーズに合わせてモデルをカスタマイズおよび拡張し、基盤となるインフラストラクチャを気にすることなく使用できます。
- ポータビリティ： Docker イメージを一度作成して任意の場所にデプロイすることで、互換性の問題を解消し、構成の必要性を減らすことができます。
- コミュニティー・サポート: Docker と IBM の広大なコミュニティーを活用して、サポート、拡張機能、コラボレーションを行うことができます。
IBM Granite モデルに加えて、Red Hat は InstructLab モデルアライメントツールも Docker Hub で利用できるようにしました。 InstructLabを使用する開発者は、他の方法論よりもはるかに少ない実世界のデータと計算リソースを使用して、事前学習済みのLLMを適応させることができます。 InstructLabはモデルに依存せず、追加のスキルと知識を提供することで、任意のLLMを微調整するために使用できます。
Docker Hubで利用可能なIBM Granite AIモデルとInstructLabにより、DockerとIBMは既存の環境とワークフローに簡単に統合できます。
Granite の使用を開始する
Docker Hub では、次のイメージを利用できます。
- InstructLab:InstructLabを探求したいデスクトップまたはMacユーザーに最適なこの画像は、特別なハードウェアを必要とせずにプラットフォームを簡単に紹介します。 スケールアップ前のプロトタイピングやテストに最適です。
- Granite-7b-lab: このイメージは、Granite-7B モデルを使用して、デスクトップまたは Mac 環境でのモデルの提供と推論に最適化されています。 GPUを必要とせずに効率的でスケーラブルな推論タスクが可能になるため、小規模なデプロイやローカルテストに最適です。
Docker Hub から IBM Granite イメージをプルして実行する方法
IBM Granite は、クラウドネイティブ・アプリケーションを構築および管理するためのツールセットを提供します。 Docker と CLI を使用して IBM Granite イメージをプルして実行するには、以下の手順に従います。Red Hat InstructLab イメージについても同様の手順を実行できます。
Docker Hub への認証
プロンプトが表示されたら、Docker のユーザー名とパスワードを入力します。
IBM Granite イメージのプル
Docker Hub から IBM Granite イメージをプルします。
redhat/granite-7b-lab-gguf:GPUをサポートしていないMac /デスクトップユーザー向け
コンテナ内のイメージの実行
IBM Granite イメージを使用してコンテナーを開始します。 コンテナは、CLI(デフォルト)とサーバーの2つのモードで起動できます。
コンテナを CLI モードで起動するには、次のコマンドを実行します。docker run --ipc=host -it redhat/granite-7b-lab-gguf
このコマンドは、コンテナ内で対話型のbashセッションを開き、ツールを使用できるようにします。
コンテナをサーバーモードで実行するには、次のコマンドを実行します。
docker run --ipc=host -it redhat/granite-7b-lab-gguf -s
IBM Granite モデルの使用の詳細については、 IBM Granite の資料 を参照してください。
IBM TechXchangeにご参加ください
Docker Hub上のGraniteは、10月21日から24日までラスベガスで開催されるIBM TechXchange Conferenceで正式に発表されます。テクニカル・アライアンスの責任者であるEli Aleynerが、IBM TechXchangeの基調講演のAIトラックでライブ・デモンストレーションを行います。 Docker のスタッフ開発者エバンジェリストである Oleg Šelajev が、アプリ開発者がローカル モデルを使用して GenAI アプリをテストする方法を示します。 さらに、Docker と Red Hat のコラボレーションにより、開発者の生産性がどのように向上しているかについても学びます。
Docker HubでGraniteを利用できるようになったことは、高度なAIモデルをすべての人が利用できるようにするための重要なマイルストーンです。 開発者チームが Granite の力を活用して、複雑な課題を革新し、解決する方法を見るのが楽しみです。
さらなるアップデートにご期待ください、そしていつものように、ハッピーコーディング!
さらに詳しく
- Docker Labs の GenAI シリーズをお読みください。
- Docker Newsletter を購読してください。
- InstructLabとは?
- 花崗岩モデルとは何ですか?
- IBM Granite AI Models and Docker による AI 開発の加速 — Eli Aleyner との IBM TechXchange セッション。
- AI によるアプリケーションの開発者の生産性 向上 – オレグ・シェラエフ氏との IBM TechXchange セッション。