Jarvis/HuggingGPT
![製品画像](/assets/product_img28-ce12f42fc7f379977532a51a49f3fe0e1b68e9558e9c9f912bc3c95d3b009cfb.jpg)
Jarvis/HuggingGPTとは?
JARVIS(ジャービス)は、Microsoftが開発したAIツールであり、言語モデルマネージャ(LLMs)を機械学習のコミュニティと連携させることができるサービスです。Jarvis/HuggingGPTの特徴・使用用途とは?
・言語モデルの公開とその検索機能
・現存する言語モデルの利用状況の確認
・LLMsとMLコミュニティとの対話の促進
Jarvis/HuggingGPTが向いている人・団体とは?
・言語モデルを開発している専門家
・機械学習に関する研究を行っている人
・言語モデルを利用したアプリの開発に関心を持つ方
Jarvis/HuggingGPTの使い方とは?
1. GitHubのmicrosoft/JARVISリポジトリにアクセスし、人工一般知能(AGI)の開発と最前線の研究をコミュニティに提供するための情報を確認しましょう。
2. 「README.md」を読むことで、JARVISシステムの全体像や迅速な導入手順を理解できます。また、「What's New」セクションで最新のアップデート情報も確認できます。
3. システムを稼働させるための環境を整えます。例えば、Ubuntu 16.04 LTSを使用し、12GB以上のRAMが必要です。デフォルトの推奨設定を使用する場合は、VRAMが24GB以上必要になります。
4. ローカルサーバーにJARVISを起動させるには、個人のOpenAIキーおよびHugging Faceトークンを`server/configs/config.default.yaml`に入力するか、環境変数`OPENAI_API_KEY`と`HUGGINGFACE_ACCESS_TOKEN`として設定してください。
5. 次に、サーバーのセットアップと環境構築のため、`cd server`、`conda create -n jarvis python=3.8`、`conda activate jarvis`、`conda install pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia`、`pip install -r requirements.txt`のコマンドを実行します。
6. モデルをダウンロードする必要があれば、`cd models`の後、`bash download.sh`コマンドを使ってモデルを入手します。この手順は、`inference_mode`が`local`または`hybrid`の場合に必要です。
7. サーバーを実行する際は、`python models_server.py --config configs/config.default.yaml`と`python awesome_chat.py --config configs/config.default.yaml --mode server`のコマンドでWeb APIを通じてJARVISのサービスに接続できます。
8. CLIモードでJARVISを利用するには、`cd server`の後、`python awesome_chat.py --config configs/config.default.yaml --mode cli`コマンドを実行して対話を開始します。
9. Webを介してJARVISと対話するには、最初に`cd web`、次に`npm install`、最後に`npm run dev`のコマンドを順に実行します。この作業にはNode.jsとnpmのインストールが前提です。
10. さらに研究や開発用にJARVISの論文を参照する際は、提供されたBibTeXエントリを利用して正しい形式で引用してください。
まだコメントが投稿されていません。
この製品・サービスのコメント第一号になりませんか?