生成AIエンジニアLab

生成AIの最新技術を、ハンズオンで解き明かす実践ラボです。
次の一歩を描きながらAI時代のキャリアを模索する羅針盤を目指します。

カテゴリ: 生成AI

AIエージェントは、知識を事前学習に依存しがちですが、実際の業務や未知の環境では 「その場で学び、適応する力」 が求められます。

本記事では、NeurIPS 2024 に採択された論文「Mars: Situated Inductive Reasoning in an Open-World Environment」を取り上げ、AIエージェントにおけるメモリ設計の考え方を検討します。

Marsの提案 ― 経験を「ルール」と「スキル」に変換する

論文では、環境Marsを提案し、AIエージェントの手法として、Skill LibraryとInduction from Reflection(IfR)でルール抽出&活用を実施しています。その際、単に経験を記憶するのではなく、「抽象化」して再利用することに注目しています。

ルール(世界モデル):経験から導かれる一般的な因果関係
スキル(成功パターン):ゴール達成に有効だった手順

AIは「経験 → 抽象化 → 応用 → 失敗から修正 → 知識化」という学習サイクルを繰り返し、未知の状況でも柔軟に推論できるようになります。

続きを読む

ローカルLLMの入門書を電子書籍で出版しました。

本書は、Ollamaの環境構築からPythonでの操作、VOICEVOXの読み上げ、Streamlitでの音声対話アプリ完成までを、ハンズオン形式で解説します。

本書で扱う内容
基礎:ローカルLLMとOllamaの概要 環境構築とモデル導入
実装:Pythonからの推論実行 プロンプト設計の基本
音声出力:VOICEVOX API でテキストを音声化
アプリ化:Streamlitで会話UI作成 音声再生までを一気通貫で実装

想定読者
・これからローカルLLMを触りたい初心者
・手早く動くサンプルと最短ルートの解説を求める実務者

販売先
BOOTHで販売中

「いまのスキルで将来食べていけるか不安」
「転職する / しないをどう判断したらいいか迷う」
そんなモヤモヤを抱えるエンジニア向けに、PC だけで動く「Career & Skill Advisor」を紹介します。

1. アプリの概要

このアプリは、職務経歴書と興味分野を入力すると、3つのローカルLLMがキャリア戦略・市場性評価・転職判断プランを自動生成し、Markdownで統合レポートを出力します。レポートは、市場規模データと、あなたの強み弱みを分析したSWOT分析結果が添えられるため、単なる感覚ではなくファクトを踏まえて方向性を検討できます。

ローカルLLMの管理は、Ollamaを利用します。Ollamaとは、ローカルLLMを動作・管理するソフトウェアです。無料のOSSでMITライセンスです。データは外部送信されないので、個人情報である職務経歴書を入力しても安心です。
続きを読む

ローカルLLM(Ollama)とPythonを使って、イエス・キリストと釈迦の宗教間対話させてみました。本記事では、コードの主要な部分を解説していきます。

動作環境

・Windows11 メモリ32GB
・Ollama

※Ollamaのインストール方法と使い方は以下の記事をご参考ください。
OllamaをPythonから操作:WindowsでローカルLLM入門

続きを読む

DeepSeek-R1は、中国のAI企業DeepSeekが開発した大規模言語モデルです。オープンソースですが、数学やコーディングのタスクで、OpenAI-o1と同等の性能を達成しています。

DeepSeek-R1には、蒸留された小型モデルがいくつか提供されてます。サイバーエージェントやLightblue社が、それぞれ日本語でファインチューニングを行い、Hugging Faceで公開してくれています。

今回は日本語でファインチューニングされたDeepSeek-R1の蒸留モデルのうち、パラメータ数が7B・14B・32Bのモデルについて、日本語の出力を比較しました。

利用環境:Google Colab(Python3, A100 GPU)

①7Bモデル(DeepSeek-R1-Distill-Qwen-7B-Japanese)

モデル概要

続きを読む

↑このページのトップヘ