今日も基本的にルーティーンを進める
それ以外の部分では、イラストAIの実験とモダンクラウド演習、ローカルLLMの実験くらいかな・・・
ずっと作ってきたRAG検索は一旦開発終了
もともと「コーディングエージェント + SDD(仕様駆動開発) + RAG検索の仕組み」の演習が大きな目的で、その役割は果たせかなと・・・
RAG検索も、仕組みはわかったけど、より良い回答を出力しようと思ったらデータ設計、エンベディング方法などが重要になり、その辺に時間を費やして実験しないといいものは作れいないというのが自分の感想
コーディングエージェントのお陰で開発自体はすぐに終わるのだけど、結局データ周りの設計は人間が行わないと行けないので、使えるようなものにするにはそれなりに難しいですね
イラストAIはHermes Agentにプロンプトを作らせてみた
(動画は時間がかかるので)夜寝る前に動かしているのだけど、朝起きて結果を確認するとあまりかんばしくない結果になっていた
こちらもプロンプトはなるべく詳細に記載する必要があり、どこまで詳細に指定するかは人間の仕事
AIにすべて任せて良いものができるか、というとそうでもなく、良いものを作るためにはそれなりに試行錯誤が必要です
ローカルLLMは今使っているモデルが回答に中国語が混ざったり、コーディングで間違いだらけの修正を行ったりで少し不満が出てきたので、別のモデルを試してみることに
ただ、ちょっと大きめのモデルを試すと、途端に3Tokens/Secまでスピードが下がるので、利用できるモデルはかなり限られてしまいます
正直なところ、いろいろなモデルを頑張って試すより、大手テック企業のサブスクを利用したほうが効率は良さそうなので、Google AI(3か月 800円位で使えるので)を使ってみようと思います
ローカルLLMは、検閲削除モデルで色々できちゃうので、それはそれで魅力的なので実験は続けます
あと、7月に入ったのでアイキャッチも変更!