2. Ollamaのインストールと利用方法

ここでは、Ollamaのインストール方法と利用方法を紹介します。

2.1 Ollamaのインストール

ダウンロードしたOllamaSetup.exeをダブルクリックして起動し、右下の[Install]ボタンを押下してインストールしてください。

インストールが完了したら、[Windows]キーを押下してメニューを開くと、Ollamaのアイコンが表示されます。見つからない場合は、検索画面で「ollama」と入力して探してください。

Ollamaアイコンが見つかったら、アイコンをクリックしてollamaを起動します。Ollamaは画面を持たないコマンドラインツールです。右下のシステムトレイにollamaが常駐するので、それで起動しているかどうかを確認できます。

ollamaが起動したら、コマンドプロンプトを起動し、以下のコマンドを実行してください。

ollama --version

バージョンが表示されていればインストール成功です。

2.2 Ollamaの利用方法

コマンドプロンプトからOllamaを利用します。

2.2.1 モデルを選ぶ
Ollamaのレジストリから、利用したいモデルを探します。今回はMeta社のllama3.2のモデルを選びます。



2.2.2 モデルをダウンロードする (pull)

ollama pull llama3.2

llama3.2をローカルにダウンロードします。既にダウンロード済みの場合、モデルの最新版との差分のみ更新されます。

ollama pull llama3.2:1b

公式ページを見ると、llama3.2は、パラメータが3bと1bの２つのモデルが提供されています。何も指定しないとデフォルトの3bモデルがダウンロードされますが、小さい1bモデルをダウンロードしたい場合は、コマンドの末尾に「:1b」とパラメータ数を指定します。

2.2.3 モデルを実行する (run)

ollama run llama3.2

モデルを実行します。コマンドプロンプトに、「>>>」と表示されたら、LLMモデルとチャット形式で会話できます。
チャット中は「/bye」で対話モードが終了します。「/clear」で、セッションの会話履歴をクリアできます。

2.2.4 Hugging Face Hub上のモデルを実行する (run)

ollama run hf.co/{ユーザー名}/{リポジトリ名}

Hugging Face Hub 上にある GGUF 形式のモデルも利用できます。Ollamaのレジストリで管理していないモデルを利用できます。
参考：Use Ollama with any GGUF Model on Hugging Face Hub

モデルを削除する (rm)

ollama rm llama3.2

ダウンロードしたモデルを削除します。

ダウンロード済みモデルを一覧表示する (list)

ollama list

ダウンロード済みのモデル一覧を表示します。

実行中のモデル一覧を確認する (ps)

ollama ps

現在実行中のモデルが一覧表示されます。

モデルを停止する (stop)

ollama stop llama3.2

現在実行中のモデルを停止します。

3. PythonからOllamaを動かす

OllamaをPythonから利用する方法を紹介します。

3.1 Pythonのインストール

Python 3.8 以降のpythonをインストールする。

3.2 Ollama-pythonのインストール

コマンドプロンプトから、下記のpipコマンドを実行して、Ollama Python Libraryライブラリをインストールします。

pip install ollama

Ollama本体は、HTTPサーバとして実装されており、ローカルで起動すると11434ポートでエンドポイントを公開します。Ollama Python Libraryは、ollamaサーバへのリクエストを包んだラッパーです。1-2行のコードで簡単にリクエストできます。

3.3 Ollamaを動かすPythonコードを作成する

以下のPythonコードをテキストエディタにコピペして、ollama_python.pyで保存してください。

from ollama import chat
from ollama import ChatResponse

response: ChatResponse = chat(
    model='llama3.2',
    messages=[
        {'role': 'user', 'content': 'なぜ空は青いのですか？'},
    ]
)

print(response['message']['content'])

まとめ