本記事はARTEXをローカル環境で動作するWebアプリに対して脆弱性解析を行った体験談を伝えることを目的としています

ARTEXの入手方法、設定方法などについての記述はありません
また、質問をいただいてもお答えすることはできませんのであらかじめご承知おきください

ARTEXとは

2026年10月19日現在、数多くの日本企業から情報漏洩のニュースが発表され、ニュースでも連日報道されている状態です
サイバー攻撃に利用されたのではないかと言われている「ARTEX」について、今回実際に動作させてみて、どのような挙動を取るのか確かめてみたいと思います

※1:日本企業への不正アクセス、中国のAIツール「ARTEX」使用を確認
https://news.yahoo.co.jp/articles/51bdb52f0b706e75a2aad02aea056bf9945d1d50

※2:ARTEXは現在公開が終了しており、入手することはできません

ARTEX動作画面

ローカル環境にARTEX動作環境を構築し、実際に動作させた画面が以下になります

表記が中国語となっており、言語設定などもないため日本人には扱いにくそうな感じです
ただAIにお願いすればどんな言語にも翻訳可能なので、言語の壁はないと思ったほうが良いでしょう

脆弱性診断の設定も簡単で
・どのサイトに対して行うか
・目標な何か
を指定すれば、後はLLMが自動で計画を立てて、ワーカーがそれぞれのタスクをこなしてくれます

ワーカーの動作が終了すると、サマリが表示されます
サマリの内容は
・どのような技術スタックで構成されているか
・各種セキュリティの設定状況(CSRF-Tokenなど)の適用状況
・侵入に利用できそうなAPIのエンドポイント
と言った情報がまとめて表示されました

驚いたのはこの時点で「/api/item/[id]にabcを設定してもレスポンス200が返却されたので、値が正しく検証されていない可能性がある」という結果が出ていたこと
通常IDといえば数値が設定されるべきなので、そのようなチェクが甘い部分がこの時点で割り出されていたのは衝撃的でした

脆弱性チェックにはそれなりに時間が掛かる

ローカルLLMを利用して脆弱性チェックを行ったところ、45分経っても、7個のうち2個のワーカーが終わっていました
ワーカーは進捗に応じて増えたりするため、サイト全体の脆弱性チェックにはかなりの時間がかかりそうです

ただし、これはあくまで「ローカルLLM」の環境で動かした場合なので
・ローカルに高スペックな環境が準備できる
・OpenAIやClaudeに課金できて、フロンティアAIを大量に利用できる環境がある
場合は、探索時間は相応に短くできる可能性があります

個人が面白半分でARTEXを動かしてサイバー攻撃を行うのはあまり現実的ではありませんが
組織としてサイバー攻撃を行うのであれば、十分に脅威となる可能性を秘めていることが、今回実際に動かして感じたことです

※1:個人が面白半分でARTEXで外部サイトに攻撃を仕掛けた場合でも「不正アクセス行為の禁止等に関する法律」に抵触する可能性があるため、絶対に行わないでください

ARTEXの攻撃を受けたサイト側のログ

以下はARTEXからのリクエストの一部です

{"time":"2026-10-21T13:02:45.509307088+09:00","level":"WARN","msg":"該当ライダーIDが存在しない : -1"}

{"time":"2026-10-21T13:02:45.510751918+09:00","level":"INFO","msg":"request","method":"GET","uri":"/rider/profile/-1","status":400}

{"time":"2026-10-21T13:02:45.593460711+09:00","level":"ERROR","msg":"クッキー取得でエラーが発生しました : http: named cookie not present"}

{"time":"2026-10-21T13:02:45.593574715+09:00","level":"INFO","msg":"request","method":"GET","uri":"/rider/profile/1","status":200}

{"time":"2026-10-21T13:02:45.668416624+09:00","level":"INFO","msg":"request","method":"GET","uri":"/rider/profile/test","status":400}

{"time":"2026-10-21T13:03:20.844216648+09:00","level":"INFO","msg":"request","method":"GET","uri":"/rider/profile/1'%20OR%20'1'='1","status":400}

{"time":"2026-10-21T13:03:20.891242984+09:00","level":"INFO","msg":"request","method":"GET","uri":"/rider/profile/1%20UNION%20SELECT%20NULL--+","status":400}

{"time":"2026-10-21T13:03:20.936057217+09:00","level":"INFO","msg":"request","method":"GET","uri":"/rider/profile/1'%20AND%201=CONVERT(int,(SELECT%20TOP%201%20table_name%20FROM%20information_schema.tables))--+","status":400}

ライダー情報を取得するためのAPI「rider/profile」エンドポイントに対して SQLインジェクション攻撃が行われていることが確認できます
ARTEXではSQLインジェクション攻撃を行うにしても、複数パターンを生成して攻撃している様子が見て取れます

実行結果

ARTEXのタスクが終了すると、結果が表示されます
(今回は脆弱性をチェックしてリストで表示して　とお願いしたので、見つかった脆弱性がリストで表示されました)

結果として、自分のウェブサイトにもいくつかの脆弱性が見つかったため、早急に対応したいと思います
これらの結果は「ZAP By Checkmarks」実行時とは異なるものだったため、複数ツールを利用した脆弱性チェックの有効性も確認できました

いったんここまで

簡単にですが、ARTEXを動作させてみた内容を記載しました
特に驚いたのは
・セットアップが簡単である(シェルを起動し、簡単な質問に答えるだけ)
・脆弱性チェックが簡単に行える(日本語でこのサイトに対して脆弱性をチェックして　だけ)
・幅広いパターンを試す(SQLインジェクション一つとっても、様々な可能性を考慮して攻撃してくる)
という点です

ただ、今のところ「革新的な」攻撃方法は行われていないように見えるため、Webアプリケーション基本である
・権限や認証が正常に設定されているか
・SQLインジェクションなどの対策は行われているか
・WAFのような防御機構が設定されているか
と言った、従来のWebアプリケーションセキュリティをしっかり行うだけでも、効果があるのかなと感じています

上記のようなツールを使うことでウェブセキュリティの「戸締りが甘い部分」の調査が簡単になってしまった印象です
これを機に、Webアプリケーションのセキュリティを見直すのが良さそうです(自分含めて)

【送料無料】Webセキュリティコンパクトガイド 攻撃の種類から具体的な対策アプローチまで

created by Rinker

¥2,420 (2026/10/30 12:47:10時点 楽天市場調べ-詳細)

• Amazon
• 楽天市場
• Yahooショッピング

体系的に学ぶ 安全なWebアプリケーションの作り方 第2版 脆弱性が生まれる原理と対策の実践 [ 徳丸 浩 ]

created by Rinker

¥3,520 (2026/10/30 12:47:10時点 楽天市場調べ-詳細)

• Amazon
• 楽天市場
• Yahooショッピング

投稿 ARTEXを動かしてみた は Sheltie Garage Tech に最初に表示されました。

Gooseとは

https://goose-docs.ai

Gooseは主要なOSで動作するAIエージェントデスクトップアプリです
Windowsにも対応していているということで、今回使ってみることにしました

インストールはインストールページからバイナリをダウンロードするだけです
インストーラーはないので、zipファイルを展開して、exeを実行したら起動します

起動直後は以下のようなウェルカムページが表示されます

AIモデルプロバイダーを設定し、使い始める

今回はローカルLLM(llama.cpp)をプロバイダーとして利用します

まずはプロバイダーに接続をクリック
カスタムプロバイダーを追加が表示されるため、追加をクリックします
(ローカルモデルを使用　を選択すると、Huggingfaceよりモデルをダウンロードするような動作となり、llama.cppへの接続設定は無いようでした)

手動で設定を選択します

以下のように入力しました

最後にデータ収集に協力するかを選択します
自分はxxxな用途にも使っているので、辞退です

接続後はウィンドウの内容が変わります

先にワークフォルダを設定しておきます

とりあえずチャットしてみる

まずはチャットをしてみました

ちゃんと自己紹介してくれました

次はウェブサーチを試してみます

ウェブサーチなどのスキルを使用し、概要や攻略法をまとめてくれました
他、ファイルの生成等もできるので、基本的なエージェントとしての使用には使えそうな感じです

なぜGooseを導入したか

今まではHermes Agentを利用していたのですが
・Windowsにうまく導入できず、MacBookで動作させていた
・ただ、LLMはWindowsマシンで動かしているため、LANネットワーク越しに利用していた
・HermesエージェントからLANのLLMにうまく接続できなくなり、原因究明に難儀していた

という経緯があります

Gooseを導入したことでWindowsマシン内でAIエージェント動作環境が完結するので、今まで以上に便利に利用できそうです

投稿 AIエージェントアプリ「Goose」を利用してみる は Sheltie Garage Tech に最初に表示されました。

TL;DR

前回チャレンジした「【Go/ChromaDB/Ollama Vol.1】RAG型同人誌サークル検索の構築をベクトルDBを使用して行ってみた」の続きとなります

前回の問題点は以下の通りです

• もととなるデータは自然言語に即したデータにする
• エイリアスを充実させる(ブルアカ、ブルーアーカイブなど)
• ユーザーからの入力をLLMで拡張、整形した後にベクトルDBに検索を行う

今回の主な改良点は

• CSVファイルフォーマットの変更。サークルの補足説明、アピールポイント、配置番号などを追加し、ユーザーが検索したときにより多くの情報にヒットするよう対策した
• LLM要約生成機能を追加し、より多くの情報をベクトルDBに登録することであいまい検索にヒットしやすくした
• 入力されたチャットについてもベクトル化し、検索を行うように修正(前回作成時はチャット入力のベクトル化が行われておらず、結果が取得できなかった可能性があるため)

となります

ただ、このような対策を行っても利用に耐えられるような検索精度を出すことが出来ませんでした

考えられる原因は

• 検証マシンのスペック不足、十分な性能を持つLLMを動作させることが出来なかった
• ノウハウ不足、RAG検索への理解はエンベディングのノウハウが足りなかった
• エイリアス実装の見送り、エイリアスを実装するための良い方法が見つからず、採用を見送った

となります

以下に今回の問題点を記載します

システム的な限界

RAG検索を動作させる環境が「MacBookPro 2019」という、AIシステムを動作させることを考えるとものすごく非力なマシンで動かそうとしました

このPC上でDockerを使ってGo、Python、Redis、ollama、chromaDBなどが動作するため、一つ一つのシステムに割り当てられるリソースが限定されます
特にメモリ16GBではパラメータ数の多いモデルは利用できないため、結果的に精度の良くない小型モデルを利用し、エンベッティング、検索ともに十分な変換ができないという問題がありました

ノウハウ不足

RAG検索は「検索した結果をLLMに渡し、回答を生成する技術」なので、核になるのは「ユーザーが望んだ検索結果を、データストアから取得する」部分になると考えています

今回、データストアにchromaDBを使用し、ユーザーの検索結果をベクトルに変換、chromaDBに対して検索を行うことで(意味的な)距離が近い回答を取得し、LLMにて最終的な回答を作成するというアーキテクチャにしました

ただ、最初の「chromaDBから意味的に近い回答を取得する」部分がうまく言っておらず、テストデータの距離がすべて近いものとして出力されていました

これは「エンベッティング」「chromaDBに対しての検索手法」の知識が無く、なんとなくで作成してしまったことで、結果的に意味のない検索システムが出来上がってしまいました
当然、意味のないデータをLLMに渡したところで、意味のない回答が生成されるだけなので、結果使えないシステムとなりました

エイリアスの実装を見送った

前回の問題点と考えていたエイリアスの充実について、よい方法が浮かばず実装を見送りました
これはマシンスペックが足りないことにも関連してきますが、利用しているLLMの規模が小さく、アニメ（同人）特有のエイリアスを生成することが難しいと判断したためです
特に最近の作品のエイリアスを生成しようとした場合、当然学習データには含まれていないためLLM単体での生成はできません
人の手によって手動で生成するか、都度ウェブ検索を行うような仕組みを入れて対応する必要がありました

その他、ローカルLLMの有用性と限界

今回はローカルLLMとして以下のモデルを利用しています
HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive

このモデルはRTX5070Ti VRAM16GBの環境で60tokens / secの速度が出るため、かなり実用的に利用できるLLMだと思っています
VSCodeにOpenCodeを設定し、プロバイダとして上記モデルを読み込んだllama.cppサーバーを指定してコーディングさせました

フロントサイド、サーバーサイドともに「動作するもの」はできましたが、やはり一発成功となならず、完成報告を受けて実際に動かしてみたら「Docker buildに失敗」「チャットを送るとエラー」「回答が出力されない」など、多くの問題が発生しました

そのため、動かしつつ問題点は随時修正させることで、一旦動くものはできました
ただ、使えるか？というと、残念ながら使えないものができてしまいました

ローカルLLMはしばらく運用していましたが、やはり大手企業が展開するサブスクモデルレベルのクオリティを求めた場合、現状は困難と判断し、先日GeminiのAI Proプランを契約しました(お試しで3か月720円で利用できるため)

次回に向けて

根本的にRAG検索の理解を深めていきたいと思います
ここの知識が不足していると、そもそも最適なデータ設計や検索仕様が決められないためです
RAGの知識を固めたうえで、改めてデータ設計、検索仕様を固めて、次こそは「使えるRAG検索」を作りたいと思います

以上です

ということで、RAG検索を作成したお話でした
結果失敗に終わりましたが、今まで「なんかいい感じに検索してくれる仕組み」となんとなく思っていましたが、実際に作ってみるとデータ設計、データ検索手法が最も大事だということがわかりました

投稿 【Go/ChromaDB/Ollama Vol.2】RAG検索の改良：チャンク設計と検索ロジックの見直しによるRAG精度検証と更なる改良 は Sheltie Garage Tech に最初に表示されました。

Hermes Agentとは？

https://hermes-agent.org/ja

概要を確認すると、「利用し続けることで利用者の好みを学習し、ともに成長していくAIエージェント」とのことです
利用者の作業内容や好みを学習して、自分にフィットしたAIエージェントに育っていくみたいですね

インストールする

インストールは「MacBookPro 2019(Intel Mac)」に行いました

公式ページでインストール用のコマンドが準備されているので、ターミナルで実行します

OpenClawをインストールしていると、設定を引き継げるようです
事前に内容を確認するか聞かれるので、今回はYとしました

移行内容が表示されます
最後に警告が表示され、設定が引き継げない項目があることや、同じ設定でも意味が異なる設定があることが説明されていました

自分はOpenClawは入れただけで全然使ってないので、今回はNを選択しました

セットアップ方法の選択が表示されます
今回はFull setupを選択しました

一度セットアップを実行してしまっていたので、すでにLocal LLMの設定が行われています
初回は「Custom endpoint (enter URL manually)」を選択しました

モデルの名前を指定します

ターミナルのバックエンドを選択します
Localを選択しました

メッセージングアプリはSlackにしました

Slack Botの設定方法が表示されます
Slack側にて新しくアプリを作成し、Hermesが生成したマニフェストファイルを使用して設定します

App Level Tokenを作成します
Scopeはconnections:writeを使用します

トークンが発行されるので、控えておきます

OAuthのトークンも必要なので、作成して控えておきます

作成したトークンをそれぞれ設定します

SlackユーザーIDの入力を求められます
SlackAppのプロフィールから確認できました

Hermes通知用チャンネルを作成し、チャンネルのリンクをコピーします
コピーしたリンクの中にチャンネルのIDが含まれているので、コピーして設定します

マシン起動時にHermesも起動するかの設定です
今回はお試しなのでnを選択しました

ツールの設定です
デフォルトとしました

利用するブラウザのプロバイダ
Local Browserとしました

画像生成のプロバイダ
今回はスキップにしました

音声生成のプロバイダ
こちらも自分が利用できるものは無いのでスキップ

検索プロバイダーはDuckDuckGoにしてみました
ただし、検索しかできないので、Webページ本体取得には別プロバイダを指定する必要があるとのこと

これでセットアップは完了です
最後に、自動起動の設定を再度聞かれますが、今回は不要なのでnと入力しました

利用前にhermesコマンドが利用できるように設定をリロードします

source ~/.zshrc

上記コマンド実行後、以下でエージェントを起動します

hermes --tui

動かしてみる

チャットウィンドウにお願いするだけです

合っているかは別にして、Webサーチのスキルを駆使して調べてくれたようです

Slackから指示を出してみる

hermes gatewayを動かしておく必要があります

hermes gateway

SlackからHermes宛に指示を出してみます
Hermesエージェントをチャンネルに招待しておく必要があります
(指示実行時にチャンネルに招待してくれる)

上記のようにSlackからHermesエージェントにメッセージを送り、レスポンスを受け取ることができました
今回は簡単なテストメッセージですが、例えば
・今日のニュースのトピックスを調べておいて
・ショッピングモールからお買い得品をリストアップして
などの指示を外出先からも出せると思うと、利用範囲が色々広がりそうです

以上

ということで、Hermes Agentのインストールから利用までざっと記述してみました
調べながら、ブログ書きながらで今日一日費やしてしまった・・・

今回はWebサーチの例を示しましたが、当然いろいろなスキルを入れれば画像生成、予定のまとめ、テキスト読み上げなんかもできるみたいです

ネックとしては、自分の環境ではMacBookPro単体で動かないことですね(性能が低すぎて)
こういうツールを利用すると、AI専用のPCが欲しくなります！

医師による医師のためのChatGPT入門 2 臨床現場ががらりと変わる生成AI実践術 [ 大塚 篤司 ]

created by Rinker

¥3,850 (2026/10/30 12:47:10時点 楽天市場調べ-詳細)

• Amazon
• 楽天市場
• Yahooショッピング

3時間で身につくClaude活用術 メール・報告書・企画書が「プロンプト」ひとつで瞬時に完成!! [ 尾藤 克之 ]

created by Rinker

• Amazon
• 楽天市場
• Yahooショッピング

投稿 Hermes Agentを使ってみる は Sheltie Garage Tech に最初に表示されました。

https://github.com/sheltie-fusafusa/dojin-rag

はじめに

無職期間を利用してリスキリングを行っています
AIエージェント時代の開発手法ということで「仕様駆動開発(SDD)」に興味があり、ここ最近取り組んでいました
せっかくなので、なにか面白そうなものを作りたい、ということで、コミケ参加サークルさんを自然言語で検索できる「同人サークル検索RAG」を作ってみようと思い、作成を行いました

TL;DR

同人誌即売会のサークル情報を対象に、Go言語でのデータ取り込み、FastAPI ＋ ChromaDB ＋ Ollama（ローカルLLM）によるRAG（Retrieval-Augmented Generation）検索システムを試作・検証しました

セマンティック検索（ベクトル検索）の利用方法やRAG検索の仕組みのほか、コーディングエージェントを利用した開発を実践し、まとめた内容となります

まとめ

失敗プロジェクトなので色々語るのは後にして、今回のプロジェクトは失敗しました
「絶対にあるはずの条件で検索を行っても、対象なしと表示される、または、関連したサークルが検索されない」という結果になってしまい、結論として「使い物にならない」となりました

大きな敗因は「自分自身がRAG検索を誤解していた」というところにあります
RAG検索は「LLMが自分にない知識を外部からかき集めて回答を生成してくれる」と思っていましたが、違いました

RAG検索は「ユーザーが入力した検索条件から関連性のあるデータをデータソース(ベクトルDBなど)から取得し、LLMを用いて回答を作成する」方法でした
LLMはあくまで回答の組み立て役であって、肝となるのはユーザーの入力した質問の意図を汲み取り、関連するデータをデータソースから取得できるか、と言うところにあります

ただ、自分がRAGを誤解していたこともあり、データソースやデータ構造の設計が全くできてなくて、結果関連した情報が取れず、LLMも回答を生成できなかったという流れになっていました

とはいえ、RAGは面白そうな技術ではあるので、今度はデータ設計や、ユーザーの質問内容から関連情報を取得する部分の改善など、次回作成時に改善すべきところがわかったことが、今回の一番の収穫でした

改めて、技術スタックや開発手法など

開発はspeckit + OpenCodeを利用した完全AIエージェント開発

GeFOrceRTX 5070Ti 16GBマシンでllama.cppを動かし、MacBookProでOpenCodeを操作させ、OpenCodeがWindowsマシンのLLMを利用して開発する環境を整えました

OpenCodeとは対話を通してアプリの仕様や技術スタックを決め、実装、テストまで行ってもらいました
自分はコーディングは一切行っておらず、あくまで仕様策定、使用技術選定、動作確認、修正指示に徹しました

「動くもの」はすぐできた

AIエージェントに開発をおまかせして2日目
プログラムが完成し、実際にdocker compose upで環境を立ち上げれば、localhost:3000でアクセスできるチャットウィンドウが表示されました

最初はAIエージェントから「終わりました」の連絡があってもdocker compose upで起動できなかったりなど色々トラブルは有りましたが、すべて「〇〇でXXのエラーが出るから修正して」とお願いすればAIエージェントが自律的にエラーを修正し、起動できるとこまで作り込むことができました

早速チャットを行ってみましたが、望んだ結果が全然返ってきません
ここから使えるようになるために色々修正指示や動作確認を行ってみましたが、結論としては「使い物になるまで」持っていくことはできませんでした

「使えるもの」にはなかなかできない

チャットを行っても望んだ結果が全然返ってきませんでした
例えばテストデータ内には「ブルーアーカイブ」のデータが入っていても、「ブルアカを取り扱っているサークルを教えて」とチャットを行っても「取り扱いサークルはありません」と返ってきてしまい、望んだ結果が返却されません

そのため、主に以下のような対策を行いました
・登録するCSV項目を増やした(Tag、Genreなど)
・検索対象の項目を増やした(検索対象にTag、Genreなどを含めるようにした)
・特定のタグ(ケモミミなど)を含む場合、フィルター単体検索を使用する

ただ、これらのような改善を行っても、検索結果は改善されずされませんでした

その後もAIエージェントに「〇〇と検索したらXXの結果が返ってくるはず」と何度も相談し、結構色々直してもらいましたが結果として十分な精度が出せず、今回は根本的なデータ設計、ベクトルDBに対しての知識不足のためこれ以上の改善は行えないと判断しました

敗因

今回の一番の敗因は「自分自身がRAGを誤解していた」ことにあります
自分はRAGを「LLMがいい感じに外部ソースにアクセスして情報を取得し、回答を組み立てること」だと思っていました
ただ、実際のRAGは「データソースより取得した情報をLLMが組み立てて回答する」ことでした

そのため、RAGの核心は「データ設計」にあり、
・ユーザーがどのようなプロンプトで質問を行うのか
・その入力に対して、関連する情報が正しく返答されるよう、どのようにベクトルDBにデータを登録する必要があるのか
をきちんと設計、検証する必要がありました

今回のケースではデータ設計は全く行っておらず、結果としてユーザーの入力結果に対して正しい関連情報が取得できず、使い物にならないアプリができてしまいました

次に向けて

今回の敗因を踏まえて、次回は「データ設計」に重点を置いて開発してみたいと思います
・もととなるデータは自然言語に即したデータにする
・エイリアスを充実させる(ブルアカ、ブルーアーカイブなど)
・ユーザーからの入力をLLMで拡張、整形した後にベクトルDBに検索を行う
と言った対策を行ってみようと思います

終わりに

今回はRAGを作成しようとして失敗したお話でした
AIエージェントの登場でコーディングを行う機会はグンと減りました
確かに、プログラム作成や修正はAIエージェントの方が何倍も早く、ミスも無く仕上げてくると思います

ただ、人が使ったときの「使い心地」や「使い勝手」と言った部分には、まだまだ人がきちんと設計する必要があるとも感じました
AIに任せたほうが良いところ、人が行ったほうが良いところ
適材適所、人とAIの強みを活かして、使い心地の良いシステムが作っていけるようになりたいですね

投稿 【Go/ChromaDB/Ollama Vol.1】RAG型同人誌サークル検索の構築をベクトルDBを使用して行ってみた は Sheltie Garage Tech に最初に表示されました。

今回は以前から気になっていた「LangChain, MCP」を触っていきます
簡単なプロジェクトを作成し、ハンズオンで進めることにしました

作るもの

電卓で計算ができて、天気を聞けば天気を返してくれる、そんなAIアシスタント(無能・・・)を作ります

Step1.プロジェクト準備

以下のコマンドを順番に実行します

mkdir ai-agent-sample
cd ai-agent-sample

uv init

uv add langchain
uv add langchain-openai
uv add mcp
uv add python-dotenv

uvはpythonのパッケージ管理 & 実行環境で、pipとvenvが混ざったようなツール
「uv init」でプロジェクトを初期化し、初期ファイルが自動生成される
ライブラリをインストールするときは「uv add」で追加することで、pyproject.tomlに依存関係が保存される
実行時は「uv run xxx.py」で実行可能

Step2.MCPサーバー作成

シンプルなMCPサーバーを作成し、起動します

プロジェクト直下に「server.py」を作成し、以下の内容を記述しました
(デフォルトで作成されるmain.pyは削除)

from mcp.server.fastmcp import FastMCP

mcp = FastMCP("sample-agent")

# 足し算ツール
@mcp.tool()
def add(a: int, b: int) -> int:
    return a + b;

#お天気ツール
@mcp.tool()
def wether(city: str) -> str:
    return f"{city}は晴れです"

if __name__ == "__main__":
    mcp.run()

FastMCPに渡される引数は、mcpサーバーの名前のような扱い
@mcp.toolデコレーターで、ツールとして外部公開される

Step3.MCPサーバー起動

サーバー起動は以下のコマンドで実施
一先ず、何も表示されなければ起動成功

uv run python server.py

サーバーが起動したら、別ターミナルで以下を実行

npx @modelcontextprotocol/inspector

ブラウザが立ち上がるので、以下のように設定してツールを確認する
以下のように入力を行い、ConnectボタンでMCPサーバーに接続する

server.pyで作成したツールが一覧で表示されました
addをクリックすると右側にテストするためのインターフェースが表示される

Step4.MCPクライアントの作成

client.pyを作成して、ツール一覧の取得とaddの実行を行ってみます

import asyncio

from mcp import ClientSession, StdioServerParameters
from mcp.client.stdio import stdio_client

async def main():
    server_params = StdioServerParameters(
        command="uv",
        args=["run", "python", "server.py"]
    )

    async with stdio_client(server_params) as (read, write):
        async with ClientSession(read, write) as session:
            await session.initialize()

            tools = await session.list_tools()

            print("===== Tooles =====")
                  
            for tool in tools.tools:
                print(tool.name)

            print("===== Add =====")

            result = await session.call_tool(
                "add",
                {
                    "a": 1,
                    "b": 2,
                }
            )
            print(result)
                    

if __name__ == "__main__":
    asyncio.run(main())

出力結果例です

 uv run python client.py
Processing request of type ListToolsRequest
===== Tooles =====
add
weather
===== Add =====
Processing request of type CallToolRequest
meta=None content=[TextContent(type='text', text='3', annotations=None, meta=None)] structuredContent={'result': 3} isError=False

少し見にくいですが、1+2が計算されて3が返却されています
現在はテストのため、pythonプログラムで直接mcpのaddを読んでいますが、次のステップでLangChainに置き換えることで、LLMとMCPサーバーの連携が実現します

Step5.LLMモデルを呼び出す

ローカルのOllamaを利用してMCPを実験します
まずはOllamaに対してチャットを送ってみます

llm_test.py

from langchain_ollama import ChatOllama

llm = ChatOllama(
    model="gemma4:e2b"
)

response = llm.invoke("こんにちは")

print(response.content)

実行すると、「こんにちは。」のような挨拶が返ってくる

続いて、LangChainの動きも見てみます

tool_test.py

from langchain.tools import tool

@tool
def weather(city: str) -> str:
    """指定した年の天気を帰します"""
    
    print(f"[TOOL実行] weather({city})")

    return f"{city}は晴れです"

print(weather.name)
print(weather.description)
print(weather.args)

実行結果は以下のような感じ

weather
指定した年の天気を帰します
{'city': {'title': 'City', 'type': 'string'}}

@toolを利用すると、docstringが必須となるようで、ドキュメントを指定しないと実行時エラーとなりました

次に最小限のエージェントを準備して、LLMが作成したツールを選択する様子を観察します

agent_test.py

from langchain.tools import tool
from langchain_ollama import ChatOllama

@tool
def weather(city: str) -> str:
    """指定した都市の天気を帰します"""

    print(f"[Tool実行] weather({city})")

    return f"{city}は晴れです"

llm = ChatOllama(
    model="gemma4:e2b"
)

llm_with_tools = llm.bind_tools([weather])

response = llm_with_tools.invoke(
    "東京の天気を教えて"
)

print(response)

実行結果は以下の通り

ai-agent-sample) MacBook-Pro ai-agent-sample % uv run python agent_test.py
content='' additional_kwargs={} response_metadata={'model': 'gemma4:e2b', 'created_at': '2026-06-10T07:06:42.457207Z', 'done': True, 'done_reason': 'stop', 'total_duration': 15426462624, 'load_duration': 518820958, 'prompt_eval_count': 64, 'prompt_eval_duration': 1254592000, 'eval_count': 187, 'eval_duration': 13640234000, 'logprobs': None, 'model_name': 'gemma4:e2b', 'model_provider': 'ollama'} id='lc_run--019eb05a-9549-73f0-ae2e-f5d83fdafe93-0' tool_calls=[{'name': 'weather', 'args': {'city': '東京'}, 'id': '90d50f05-c77b-425f-a341-cfe6accac6c3', 'type': 'tool_call'}] invalid_tool_calls=[] usage_metadata={'input_tokens': 64, 'output_tokens': 187, 'total_tokens': 251}

レスポンスでtool_callsが返却されていて、ツールを利用しようとしたことが確認できる

Step6.LLMから呼び出し

いよいよLLMからMCPサーバーに設定したツールを呼び出します
まずは手動で利用するtoolを指定するパターン

import asyncio

from langchain.tools import tool
from langchain_ollama import ChatOllama

from mcp import ClientSession, StdioServerParameters
from mcp.client.stdio import stdio_client

@tool
def weather(city: str) -> str:
    """指定した都市の天気を帰します"""
    return "dummy"

async def main():
    llm = ChatOllama(
        model="gemma4:e2b"
    )

    llm_with_tools = llm.bind_tools([weather])

    response = llm_with_tools.invoke(
        "東京の天気を教えて"
    )

    print(response.tool_calls)

    tool_call = response.tool_calls[0]

    server_params = StdioServerParameters(
        command="uv",
        args=["run", "python", "server.py"],
    )

    async with stdio_client(server_params) as (read, write):
        async with ClientSession(read, write) as session:
            await session.initialize()

            result = await session.call_tool(
                tool_call["name"],
                tool_call["args"]
            )

            print(result)

if __name__ == "__main__":
    asyncio.run(main())

プログラム内で設定されているweatherツールはダミー関数となっていて、dummyが返却されます
でも、今プログラムを動かすと

ai-agent-sample % uv run python agent_test.py 
[{'name': 'weather', 'args': {'city': '東京'}, 'id': '366711c7-4dfb-4566-9dca-c279b9649423', 'type': 'tool_call'}]
Processing request of type CallToolRequest
Processing request of type ListToolsRequest
meta=None content=[TextContent(type='text', text='東京は晴れです', annotations=None, meta=None)] structuredContent={'result': '東京は晴れです'} isError=False

きちんと「東京は晴れです」というテキストが返却されています
これは、@toolで指定されているweatherは「名称やパラメータなどの呼び出し情報のみ」取得するために利用され、実際には利用されていないためです

実際にはMCPサーバーに設定したweatherツールが実行されているため、正しい文章が返却されています

Step7.ツールの自動設定

MCPサーバーからツール一覧を取得し、自動で設定できるようにします

uv add langchain-mcp-adapters

以下のようなコードとしました

agent_test.py

import asyncio

from langchain.tools import tool
from langchain_ollama import ChatOllama
from langchain_mcp_adapters.tools import load_mcp_tools

from mcp import ClientSession, StdioServerParameters
from mcp.client.stdio import stdio_client

@tool
def weather(city: str) -> str:
    """指定した都市の天気を帰します"""
    return "dummy"

async def main():
    llm = ChatOllama(
        model="gemma4:e2b"
    )

    server_params = StdioServerParameters(
        command="uv",
        args=["run", "python", "server.py"],
    )

    async with stdio_client(server_params) as (read, write):
        async with ClientSession(read, write) as session:
            await session.initialize()

            # ツール一覧の取得
            tools = await load_mcp_tools(session)
            llm_with_tools = llm.bind_tools(tools)

            response = llm_with_tools.invoke(
                "1+2を計算してください"
            )

            print("===== Tool Calls =====")
            print(response.tool_calls)

            tool_call = response.tool_calls[0]

            result = await session.call_tool(
                tool_call["name"],
                tool_call["args"]
            )

            weather_result = result.content[0].text

            print("===== Tool Result =====")
            print(weather_result)

            print("===== Final Content =====")
            final_response = llm.invoke(
                f"""
                ユーザーの質問:
                計算を行って

                ツール実行結果
                {weather_result}

                ツール実行結果を使って回答してください
                """
            )
            print(final_response.content)

if __name__ == "__main__":
    asyncio.run(main())

LLMに投げるプロンプトはプログラム内に固定なので、テストするときは直接変えてください・・・

天気を聞いて見たときの結果

MacBook-Pro ai-agent-sample % uv run python agent_test.py  
Processing request of type ListToolsRequest
===== Tool Calls =====
[{'name': 'weather', 'args': {'city': '東京'}, 'id': '243ede14-c039-4f69-b5d4-840fd12cbec4', 'type': 'tool_call'}]
Processing request of type CallToolRequest
===== Tool Result =====
東京は晴れです
===== Final Content =====
東京は晴れです。

計算を行わせてみたときの結果

MacBook-Pro ai-agent-sample % uv run python agent_test.py
Processing request of type ListToolsRequest
===== Tool Calls =====
[{'name': 'add', 'args': {'a': 1, 'b': 2}, 'id': 'ac56a447-3786-41d7-9df9-7dbd5e6f57ce', 'type': 'tool_call'}]
Processing request of type CallToolRequest
===== Tool Result =====
3
===== Final Content =====
恐れ入りますが、**どのような計算をすれば良いか**、または**計算に必要な情報（問題やデータ）**をご提示ください。

「ツール実行結果」として「3」が提供されましたが、この数字を使って何を計算すればよいのかが分かりません。

具体的なご質問をお知らせいただければ、喜んで計算いたします。

計算結果の応答結果がおかしいですが、計算自体はあっていました

以上

ということで、シンプルなMCPサーバーを作ってみる内容でした
LLMからMCPサーバーのツールが呼ばれる判断はLLM側で行っているということはちょっと驚きでした

MCPの仕組みはなんとなく理解できたので、次はBlenderMCPなどのいろいろなMCPがどうやって実装されているのか調べてみて、実アプリとの連携方法を理解していきたいと思いました

ゼロから学ぶ MCP&A2Aプログラミング入門 AIエージェント時代を切り開く次世代プロトコル （Compass Booksシリーズ） [ 布留川英一 ]

created by Rinker

¥3,520 (2026/10/30 12:47:10時点 楽天市場調べ-詳細)

• Amazon
• 楽天市場
• Yahooショッピング

Claude Codeで学ぶ Agent Skills入門 [ 佐藤 亮 ]

created by Rinker

¥2,860 (2026/10/30 12:47:11時点 楽天市場調べ-詳細)

• Amazon
• 楽天市場
• Yahooショッピング

投稿 pythonリスキリング：簡単なMCPサーバーを作ってみる は Sheltie Garage Tech に最初に表示されました。

今回は導入したspeckitを利用して、実際にSDDの手法を用いて新機能を開発してみたいと思います

追加機能の概要

今回追加する機能は「地図上のマーカーに、吹き出しで投稿内容を表示する」改修になります
現在、地図上のマーカーをクリックしないと投稿内容が確認できませんが、マーカーに吹き出しを追加して開く前にある程度どのような投稿内容か把握できるようにするのとともに、見た目にも楽しくしたいという狙いがあります

SDDを用いた開発の流れ

/speckit-specifyで仕様書のドラフトを作成

antigravityのチャット欄で以下のコマンドを実行しました
この段階では詳細な技術スタックは記載せず、「何を作るか、なぜ作るか」に焦点を当てて要件を記載します

/speckit-specify 地図上に表示されているマーカーに、投稿内容の先頭8文字だけ表示する吹き出しを追加します。現在はマーカーをクリックしなければ投稿の内容は確認できませんが、投稿されたメッセージの先頭8文字だけを吹き出しとして表示することで、ユーザーに投稿内容の雰囲気を感じ取ってもらうほか、見た目的にも楽しくなるような効果を期待しています

実行後、仕様書のドラフト、品質チェックリストが作成され、いくつか追加で質問が生成されました

質問に答えると、仕様が確定し次のステップに進むか促されます

ただ、触れられていなかった機能があり、その部分が気になって質問してみました
自分のWebアプリには「クラスター機能」が含まれており、地図が縮小されるとマーカーがまとまって表示される仕様になっていて、その場合の吹き出しの処理を聞いてみました

動作が確認できました
今回は自分の考えと、AIエージェントの考えが一致していることが確認できたので、仕様書に追記し次のステップに進むことにしました

speckit-planで技術スタックを指定する

ここでは「どうやって作成するか」に焦点を当てて指定します
ただ、今回は機能改修であり、技術スタックはすでに決まっているため、逆に「何も導入しないで」という指示にしました

/speckit-plan 今回の機能改修では既存の技術スタックのみで開発可能なため、新規のフレームワーク、ライブラリは追加しないでください

speckit-tasksでタスク分解を行う

speckit-tasksを実行すると、実装に向けたタスク分けが作成されます

/speckit-tasks 

生成されたファイルはフェーズ分けされて記載されていました

speckit-implementで機能を実装

※本来はimplement実行前にanalyzeを実行して、仕様の整合性を確認することが推奨されます
　今回の実践編では、実行順序を間違えています

今まで作成した設計書を元に実装を行います

/speckit-implement

実際にテストしてみるとアイコンに吹き出しが表示されましたがマーカーと丸かぶりしていたため、少し調整して完成としました

speckit-analyzeでサマリーを作成する

※antigravityのモデルクォータを使い切ったので、ここからはローカルLLM + OpenCodeで作業しています

実装まで完了したのでアナライズを実行してサマリーを作成します

ちなみに、本来の順序ではtasks生成後に実行し、implementを実行する前に整合性を確認することが推奨されるとのことでした

/speckit-analyze

仕様書の重複表記や改善案が提示されています
Recomendationを参考に、生成されたドキュメント類を修正するのが良さそうですね

今回はNext Actionで表示された改善推奨、spec修正推奨だけ反映することにしました

↓

implement実行後の作業

implement実行まで完了すれば、実際に動作する状態になっているはずです
テスト環境を起動して、想定通りの動作になっているか確認します

ローカルで実行した結果、マーカー部分にきちんと吹き出しが表示されました！

E2Eテストを実施したところ、パスできない項目がありました
自分のアプリの場合、テスト側が間違えていたのでテストコードを修正する必要がありました

この用にimplement後は各種テストの実施や、実際の動作確認を行い仕様漏れやバグの修正を繰り返して、機能を仕上げていきます

付録：AIエージェントを切り替える場合

今回、antiigravityで開発していた環境から、OpenCodeを利用した環境に切り替えました
途中でAIエージェントを切り替える場合は、プロジェクトルートで以下のコマンドを使用して切り替えます

利用可能なエージェントの一覧

specify integration list

切り替え

specify integration switch opencode

opencodeはマルチインストールに対応していなかったため、antigravity用の設定が削除され、新たにopencodeがインストールされる形になりました

以上

ということで、仕様駆動開発実践編として、アプリへの機能改修を例に実行してみました

仕様を事前にAIエージェントと決めることで、以下の利点なありました
・どのような実装が行われるのか明確になる
・仕様が文書として残る
・エージェントを途中で交代しても、作業を引き継げる

一方でこのような問題も感じています
・今回のような小規模の改修ではオーバースペック
・スキーマ駆動開発も取り入れているため、仕様書が散らばる可能性がある
・コードレビューを行わないと、仕様書は残るがコードレベルで実装がブラックボックス化される
・仕様書はGitで管理されるため、プロジェクト固有のドキュメントルールに沿わない可能性がある(例えば、仕様書をGoogle DocやNotionで管理している場合など)

個人としては、今後は仕様駆動開発を取り入れていくつもりですが、「銀の弾丸は無い」と言われるように、仕様駆動開発を取り入れれば、AIエージェントを利用した開発が全てうまくいくわけでもないということがわかりました

今後も新しい開発手法を試しつつ、品質の良いソフトウェア開発ができるように色々試していきたいですね

仕様駆動開発 実践入門 AIで実現する開発方法論 [ 田中 秀樹 ]

created by Rinker

• Amazon
• 楽天市場
• Yahooショッピング

Claude CodeによるAI駆動開発入門 [ 平川知秀 ]

created by Rinker

¥3,080 (2026/10/30 12:47:11時点 楽天市場調べ-詳細)

• Amazon
• 楽天市場
• Yahooショッピング

投稿 SpecKitを使って仕様書を作ってみる：実践編 は Sheltie Garage Tech に最初に表示されました。

直したいなと思っているバグがあって、その修正をSDDのフローで修正しようとした結果、実は1行直せばよかっただけのバグでSpecKitを利用するまでもなかったというオチでした・・・

というわけで、今後SpecKitを利用するために、まずは準備だけ進めておきます

constitutionを作成する

constitutionはそのプロジェクトの「決まりごと」が定義されたファイルで、プロジェクト共通のコーディングルールや技術スタックが記載されたファイルです

Spec Kitを利用し始める際に最初に1度実行する必要があるので、プロジェクトルートでAntygravityのチャット欄に以下のコマンドを実行します

speckit-constitution

実行結果は以下のようになります
(Geminiに「猫耳のアニメキャラ」の属性を設定しているので、こんな口調になっています)

生成されたファイルの中身は以下のようになっていました
AIエージェントに最適化された文章(人間が読みにくい内容)で生成されるのかなと思ったら、意外と人間が読んでも違和感無い内容でした

Optional:constitution更新時に自動コミットを設定

オプション扱いでconstitutionに自動コミットが設定できるようなので設定しておきます

実行結果は以下の通り

設定上は自動コミットがオフになっていた　というのが若干気になりますが、コミット自体は完了していました
次回以降、自動コミットされるのか様子見が必要ですね

ただ、この「constitution」というファイルは、このプロジェクトの憲法(最上位の決まりごと)という位置づけなので、コロコロ変更されたらそれはそれで問題な気がしますが・・・

Gemini AI活用 最強の教科書 [ 桑名 由美 ]

created by Rinker

¥1,980 (2026/10/30 12:47:11時点 楽天市場調べ-詳細)

• Amazon
• 楽天市場
• Yahooショッピング

投稿 SpecKitを使って仕様書を作ってみる：準備編 は Sheltie Garage Tech に最初に表示されました。

Google AntigravityにSpecKitを導入する

Spec Kitは仕様駆動開発を行うためのツール群です
https://github.com/github/spec-kit

様々なAIエージェントに対応しており、Google Antigravityも対応されています
ということで、自身のプロジェクトにSpec Kitを導入してみます

インストール、初期化、確認

Pythonがインストール済みであれば、ターミナルから以下のコマンドでインストールできます

pip install "git+https://github.com/github/spec-kit.git"

(2026/06/03追記)uvを利用したほうが便利だったため、uvで導入し直しました
Homebrew(Mac環境)でPythonを入れた場合、pip3でspeckitをインストールしようとすると、エラーが発生しました

pip3 install uv
error: externally-managed-environment

× This environment is externally managed
╰─> To install Python packages system-wide, try brew install
    xyz, where xyz is the package you are trying to
    install.
・・・

そのため、Homebrewを利用してuvを導入しました

brew install uv

インストールが終わったらバージョン確認を行います

uv --version

バージョンが表示されたらインストールは完了！改めてspec kitをインストールします

uv tool install specify-cli --from git+https://github.com/github/spec-kit.git

上記コマンド実行後、以下のコマンドでバージョンが表示されれば終了です

specify --version

conda環境を利用した場合のSpec Kitインストールの例です
(spec kit利用のたびに仮想環境を切り替えるのが面倒で、現在は使ってません)

# 環境の作成
conda create -n speckit-env python=3.11

# 環境をアクティブ化
conda activate speckit-env

# SpecKitをインストール
pip install "git+https://github.com/github/spec-kit.git"

# 確認
specify --version

以下のコマンドで初期化を行います
コマンドはプロジェクトルートで行います

specify init . --integration agy

コマンドを実行すると選択が出てくるため、以下の通り選択してみました

Warning: Current directory is not empty (16 items)
Template files will be merged with existing content and may overwrite existing files
Do you want to continue? [y/N]:y

以下のエラーが出た場合、「–ignore-agent-tools」オプションをつけて実行しました

specify init . --integration agy --ignore-agent-tools

以下のようにエラー無く導入できると、スキルやディレクトリが追加されます

一旦、ここまで

時間の関係で本日はここまで
次回は導入したツールを実際に利用していこうと思います

図解即戦力　Git&GitHubのしくみと操作がこれ1冊でしっかりわかる教科書 [ リブロワークス ]

created by Rinker

• Amazon
• 楽天市場
• Yahooショッピング

投稿 AntigravityにSpecKitを導入してみる は Sheltie Garage Tech に最初に表示されました。

よさそうなモデルとして「Qwopus3.5-9B-Coder-MTP-GGUF:latest」というモデルを見つけたのですが、残念ながらOllamaでは動きませんでした

Qwopus3.5-9B-Coder-MTP-GGUF:latestがOllamaで動かない理由

このモデルはMTPというトークン最適化手法が用いられていますが、Ollama内臓のllama.cppのバージョンが古いようで、この最適化が施されたモデルが、まだ読み込めないとのことでした

Huggingfaceのコミュニティにも同様の投稿があり、リプライを見ると「最新のllama.cppだと動作した」とのこと
https://huggingface.co/Jackrong/Qwopus3.5-9B-Coder-MTP-GGUF/discussions/2

※MTP(Multi-Token Prediction)とは
トークンを複数まとめて予測する方法
通常のLLMは1つずつ予測→「私は」「猫が」「好き」「です」
MTPではまとめて予想→「私は」「猫が好きです」
これにより、通常のLLMと比較して2～3倍の生成速度を誇るそうです

ということで、現状MTPが使用されたモデルを利用する場合は、llama.cppを利用するのがよさそうです

llama.cppをwindowsマシンにインストールする

以前はllama.cppを利用する場合、自分でビルドを行う必要がありましたが、現在は各プラットフォームに向けたビルドが準備されているため、リリースページから環境に合わせたバイナリをダウンロードすればOKになりました
https://github.com/ggml-org/llama.cpp/releases

自分のマシンの場合、Windows + CUDA13.0の環境だったため、「Windows x64 (CUDA 13) – CUDA 13.1 DLLs」をダウンロードしました
CUDAについてはマイナーバージョンがあっていなかったため、DLLsもダウンロードしています

ダウンロードしたzipを展開し、適当なディレクトリに配置します
DLLsのzipは展開したら、llama.cppのディレクトリの中に配置します
自分の環境では以下のディレクトリに配置しました

llama-serverを起動し、チャットを利用してみる

バイナリの配置が終わったら、実際にターミナルから起動して動作確認を行います
自分の環境では、以下のコマンドで起動できました
※–ctx-sizeはメモリに余裕があれば大きくすることで、より多くの履歴やファイル内容を参照して回答が生成されます

cd G:\Project\MachineLerning\llama

./llama-server.exe `
   -m "G:\Project\Ollama\blobs\sha256-f6fc5d193045796d9e1870cbc40f827fe55f53f70593c3f5c1968b82b9331991" `
   --host 0.0.0.0 `
   --port 8080 `
   -ngl 999 `
   --spec-type draft-mtp `
   --spec-draft-n-max 2 `
   --ctx-size 32768

-mオプションで指定しているモデルですが、Ollamaでダウンロードしたモデルを利用したかったため、ハッシュ値になっています
Ollamaでモデルをダウンロードするとモデルのファイル名がハッシュ値になってしまうため、以下のコマンドでモデルとハッシュ値の対応を確認します

ollama show --modelfile hf.co/Jackrong/Qwopus3.5-9B-Coder-MTP-GGUF

以下のような結果が出力されます

# Modelfile generated by "ollama show"
# To build a new Modelfile based on this, replace FROM with:
# FROM hf.co/Jackrong/Qwopus3.5-9B-Coder-MTP-GGUF:latest

FROM G:\Project\Ollama\blobs\sha256-f6fc5d193045796d9e1870cbc40f827fe55f53f70593c3f5c1968b82b9331991
FROM G:\Project\Ollama\blobs\sha256-f48daca405a1c768a9514e392c3955dcc4a9d66a5cf64cf45e064092b5f20ee4
TEMPLATE """{{- $lastUserIdx := -1 -}}
{{- range $idx, $msg := .Messages -}}
{{- if eq $msg.Role "user" }}{{ $lastUserIdx = $idx }}{{ end -}}
{{- end }}
{{- if or .System .Tools }}<|im_start|>system
{{ if .System }}{{ .System }}
以下略・・・

FROM以降に、ハッシュ化されたモデルのファイル名が表示されます
2つ表示されていますが、このモデルの場合、画像認識用のClip Visionが内蔵されていたため、モデルが2つ表示されたようです
今回は「sha256-f6f～」のモデルを利用します
※フォーマットが異なるモデルを指定してllama-serverを起動すると、エラーが発生するのでモデルの指定間違いに気づけます

サーバーが起動すると以下のような表記が表示されるので、ブラウザにアクセスするとチャット用のページが表示されます

http://localhost:8080 にアクセスします

これで、llama-serverが起動し、利用可能な状態になりました

別マシンからアクセスしてみる

現在、8080ポートでサーバーが起動しているので、同一LAN内のPCからアクセスしてみます
先日MacBookにOpenCodeを利用するための環境を整えたので、その設定を変更し、llama-serverにアクセスしてみます

OpenCodeの設定内容は以下になります

{
  "$schema": "https://opencode.ai/config.json",
  "model": "local-llama/qwopus-coder",
  "provider": {
    "local-llama": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "Local llama-server",
      "options": {
        "baseURL": "http://192.168.40.97:8080/v1"
      },
      "models": {
        "qwopus-coder": {
          "name": "Qwopus3.5-9B-Coder-MTP"
        }
      }
    }
  }
}

modelsについては詳細に指定しなくて良い(ollamaコマンドで確認したハッシュ値でなくても良い)そうです
llama-server起動時に指定したモデルが回答に使用されるため、ここでは人間が見て分かる名前を設定します

試しに、タスクを一つ振ってみました
実際に実行するとコンテキストサイズが足りなかったため、モデルの最大値である「262144」を指定してllama-serverを起動し直しています

プランニングは36m44sということで、かなり時間がかかった印象です・・・

それでは、実際に実装をお願いしてみます

上記の結果・・・　半日動かしても単体テストが完成しませんでした・・・
流石に時間がかかりすぎるので、マシンの限界か、起動パラメータが悪いのか、まだまだ調整が必要でした

以上

llama.cppの導入から利用するまでの紹介でした
ollamaは便利ですが、対応していないモデルもあるということで今回勉強になりました

最新のモデルを利用する場合、llama.cppをメインで利用するほうが良いかもしれませんね

今のところ、MTPモデルの動作は良好で、gemma4を利用してアシストしてもらうよりも良い結果が出ている気がします
ただ、テストコードは完成しなかったので今後使い込んでみて、どこまで利用できるのか見極めていきたいと思います

ローカルLLM実践入門 [ 日経ソフトウエア ]

created by Rinker

¥2,530 (2026/10/30 12:47:11時点 楽天市場調べ-詳細)

• Amazon
• 楽天市場
• Yahooショッピング

ターミナルから始める次世代AIコーディング Claude Code入門 [ 掌田津耶乃 ]

created by Rinker

¥3,300 (2026/10/30 12:47:12時点 楽天市場調べ-詳細)

• Amazon
• 楽天市場
• Yahooショッピング

投稿 Qwopus3.5-9B-Coder-MTP-GGUF:latestをllama.cppで動かしてみる は Sheltie Garage Tech に最初に表示されました。