生成AIエンジニアLab

生成AIの最新技術を、ハンズオンで解き明かす実践ラボです。
次の一歩を描きながらAI時代のキャリアを模索する羅針盤を目指します。

カテゴリ: ローカルLLM

ローカルLLMを用いたリアル婚活アプリを作ってみました。

本アプリは Streamlitと Ollamaを組み合わせ、あなた(自分LLM)/相手(彼女LLM)/評価者(審判LLM)の3役を回すことで、状態(フェーズ/好感度/イベント)を持った“会話体験”を設計しています。

関連記事:Ollama×Streamlit×VoiceVoxで作るローカルLLM音声対話アプリ【完全ハンズオン】

どんなアプリ?

スクリーンショット 2025-08-14 224746
本アプリは、ローカルLLMを使って初デートを体験できる婚活シミュレーションアプリです。あなたが入力した「自分のプロフィール」や「相手のタイプ」に応じて、AIが恋人役として会話してくれるおしゃべりゲームです。

続きを読む

ローカルLLMの入門書を電子書籍で出版しました。

本書は、Ollamaの環境構築からPythonでの操作、VOICEVOXの読み上げ、Streamlitでの音声対話アプリ完成までを、ハンズオン形式で解説します。

本書で扱う内容
基礎:ローカルLLMとOllamaの概要 環境構築とモデル導入
実装:Pythonからの推論実行 プロンプト設計の基本
音声出力:VOICEVOX API でテキストを音声化
アプリ化:Streamlitで会話UI作成 音声再生までを一気通貫で実装

想定読者
・これからローカルLLMを触りたい初心者
・手早く動くサンプルと最短ルートの解説を求める実務者

販売先
BOOTHで販売中

「いまのスキルで将来食べていけるか不安」
「転職する / しないをどう判断したらいいか迷う」
そんなモヤモヤを抱えるエンジニア向けに、PC だけで動く「Career & Skill Advisor」を紹介します。

1. アプリの概要

このアプリは、職務経歴書と興味分野を入力すると、3つのローカルLLMがキャリア戦略・市場性評価・転職判断プランを自動生成し、Markdownで統合レポートを出力します。レポートは、市場規模データと、あなたの強み弱みを分析したSWOT分析結果が添えられるため、単なる感覚ではなくファクトを踏まえて方向性を検討できます。

ローカルLLMの管理は、Ollamaを利用します。Ollamaとは、ローカルLLMを動作・管理するソフトウェアです。無料のOSSでMITライセンスです。データは外部送信されないので、個人情報である職務経歴書を入力しても安心です。
続きを読む

ローカルLLM(Ollama)とPythonを使って、イエス・キリストと釈迦の宗教間対話させてみました。本記事では、コードの主要な部分を解説していきます。

動作環境

・Windows11 メモリ32GB
・Ollama

※Ollamaのインストール方法と使い方は以下の記事をご参考ください。
OllamaをPythonから操作:WindowsでローカルLLM入門

続きを読む

DeepSeek-R1-Distill(ローカルLLM)を用いたRAGの実装方法を解説します。

参考書籍:


3つの基礎知識

ローカルLLMとは

ローカル LLMとは、クラウド環境ではなく、PCなどのローカル環境で稼働するLLMを指します。
推論時のインターネット接続が不要で、外部への情報漏洩リスクが少なく、API使用料がありません。小型モデルの場合、GPUと一定以上のメモリを持つPC(もしくはColab環境)を利用すれば無料で動かせます。
動作に必要なメモリ量は、7Bパラメータで8GB、14Bパラメータで16GBがざっくりの目安です。
続きを読む

↑このページのトップヘ