ローカルLLMエンベリング検証①

こんばんわ🌙

今日はローカルLLMで、PDFデータを読み込ませてどの程度の精度で回答できるのかを検証しました。

今回やったことは、いわゆるEmbedding（埋め込み）＋RAG的な構成のテストです。

環境としては、先日インストールしていた

• Ollama

• Gemma 2

を使用。

そして今日は、PDFをローカルLLMに渡せるツール

• AnythingLLM

をダウンロードして設定しました。

セットアップ自体は非常に簡単でした。

📄 テストデータ

読み込ませたのは、構造解析関連の整備資料（約400ページ）。
図面も多く、専門性はやや高めです。

🧪 結果

・一般的な質問にはそれなりに回答
・内容はかなりざっくり
・「どこに書いてある？」には答える場合と答えない場合あり
・「〇〇の構造計算をして」はほぼ対応不可

正直な感想は……

まだ実務では使えない 😅

本日の試験勉強はお休みしました。
また明日頑張ります💪

それでは、おやすみなさい🌙