ローカルLLMの夢・幻・現実と未来

00:00 雑談からM1/M4 Mac連携・ローカルLLM熱の話

あらかわとるぅの雑談から始まる AIloglog の第 3 回。最近ゲームより AI にハマりすぎて、一日に数時間は触っているが具体的な作業は進んでいないという近況を笑いながら共有する。2026 年 4 月 27 日のリアル収録で、DJI マイクを用意した気合の入った企画であることが語られる。前回の「エアエージェント計画」の失敗談や、技術ランキングへの掲載など番組のエピソードも交えられ、二人だけの共通言語があるからこそできる自由な対話の様子が描かれる。

M1 と M4 の Mac 連携で驚いたのは、Claude Codeを使って SSH で接続しただけで自動設定が完了した点だ。8GB メモリの M1 がエッジマシンとして機能し、重い処理を M4 に任せるという役割分担はシムシティのような街づくりに見えた。しかし、ローカル LLM の導入では期待と現実のギャップに直面する。M4 には 32GB もなく実質 16GB でしかないため、大規模モデルや OS を動かすのに苦労し、オープンソースとClaude Codeの流儀の違いも問題になった。

09:01 Claude Code制限とローカルAIのスマホ実用性

ローカル AI のスマホ実用性について議論が進む。ジェマ 4 や他のモデルを試したが、既存ファイルへの書き込みなど複雑な操作は Apple の制限やアプリ間の壁で難航した。特に Google ドライブにあるスプレッドシートにデータを書き足すといった機能はClaude Codeの方が得意であり、プロプランの終了騒動も話題になる。アンソルピックの上場前というタイミングでのサービス変更には驚くが、モデルを切り替えてコストを抑えるなどの工夫の可能性にも触れられる。

E4B モデルでは会話はそこそこのものだが、26B の大規模モデルを試すために量子化の技術が必要だと気づく。トークン数や計算容量の問題から、最初は自立した AI を期待していたが、実際には単なる演算機として機能させる方が現実的だったという反省も含まれる。Claude Codeで吐き出されたテキストを別用途に活用したい場面では、コピー＆ペーストの手間が多く発生し、その解決策を探る必要性が生じる。

18:01 M4 量子化モデル活用とクリップボードアプリの便利さ

M4 の Mac mini に量子化モデルを導入した経験から、パンパンになるがギリ動くという実感を語る。26B モデルを M1 から M4 に移して演算させることでクオリティ向上を図り、M4 を専用計算機として SSH で返す仕組みを整える。この役割分担により、Claude Codeはオープンソースのモデル触りの窓口となり、チャット自体は軽量な環境で行うという使い分けが明確になる。

クリップボード同期アプリ「ペースト」の有無で作業効率が劇的に変わることを実感し、年間 1650 円のサブスクでも十分価値があると感じる。ターミナルでの空白文字処理や再運用シーンにおいてこのアプリの便利さが際立つ。また、海外ドラマ『グリー』の楽曲整理をClaude Codeに任せることで、手入力の大変さを解消したエピソードも語られ、AI が得意分野で活躍する様子が描かれる。

27:02 MP3 メタデータ埋め込みと屋外収録・ポコポケの話

屋外収録で新緑の木陰を楽しみながら、MP3 メタデータの埋め込み作業を進めた。AI に海外ディスコグラフィーデータを参照させつつ、アルバムは最大 5 枚に絞って曲名やキャラクター名を整理し、キャスト情報やシーズンなどをコメント欄として追加させた。歌詞も検索して自動入力させるが、見つからない場合は後で手動補充するテキストファイルを作成するように指示した。MP3 に直接情報を書き込む機能があり、iPhone のミュージックアプリなどで 50 音順や ABC で検索しても並びがおかしくならないのが便利だ。M1 Mac mini に Claude Code を入れてデータを生成し、MacBook Air で音楽編集を行うワークフローで、約 360 曲の歌詞埋め込みを完了させた。

屋外収録ではキッズが泣いていても新緑の下は気持ちよく、ハンモックでの昼寝環境も整った。ポコポケストーリークリア後の情報収集用にノートブック LM を使っていたが、要約機能でテキスト化して Claude Code に処理させるとバッチリまとまる。現在は Obsidian でメモを増やしていくスタイルだが、リンクを張りすぎず宇宙のようなビジュアライゼーションには惑わされないようにしている。作業環境は Mac mini と MacBook Air の 2 台共有で、キーボードも iPad Pro もサブディスプレイとして活用し、配線が複雑になっているが今のところこれで十分だ。Claude Code が設計から実行までを担い、Python で自動化するトークン節約の仕組みも検討中だが、まずは現状の使い勝手を重視している。

36:05 Claude Codeで自動生成するタスク管理アプリ

毎朝Notionからタスクを読み込んでClaude Codeで Python スクリプトを実行し、自動生成された UI アプリが動作するシステムを作った。このアプリは常に立ち上がって待機しており、メモリ使用量は Dropbox の約 1/10 で軽量だ。UI が気に入って SNS レビュー作成など機能を追加していき、AI ニュースの要約やブログ化もローカルで JAMA と E2B を使って実現している。決まった処理はClaude Codeに任せてトークンを使わず、LLM を組み込むことで何ができるか聞いて設計させるのが効率的だ。テレグラムをダッシュボードのように使う発想だが、期限切れタスクの管理やホジラジ編集での音声ソフト起動など、AI が次のアクションまで提案してくれると気が楽になる。

以前は紙の手帳でスケジュール管理をしていたが、デジタル化して AI を活用するようになると手帳の使い方が変わることに気づいた。Notionをデータベースとして使いつつ、ダッシュボード作ってからは触らなくなったが、スマホで見づらいので月間ページや年間の俯瞰視点は重要だ。シフト出勤日の調整など細かい管理は Google カレンダーで十分だが、紙の手帳への愛着も残っている。AI にタスク生成を任せてリスケジュールできるようになり、デジタルとアナログの使い分けが明確になった。

45:11 Notion活用と手帳アプリの効率化について

Notionや手帳アプリを活用して効率化を図る中で、視認性の高い週間・日次表示の方が効率的だと感じた。月間ページは紙の手帳で管理し続けたいと考えており、Google カレンダーとの連携もシフト出勤日の調整などで必要だ。ウェブアプリでスマホ単体で作動させるアイデアもあったが、現在は Travellers Passport のフリー版を 1 年分作成して希望日やイベントを入れておいている。Notionはデータベースとして価値があるものの、触らなくなったことで出先での管理には不便を感じているため、手帳を持ち歩く習慣も残っている。

Claude Codeに Google カレンダーのフォーマット変換などを依頼し、サブカレンダーとメインカレンダーを入れ替える作業を無事に完了させた。Python スクリプトで 8000 件のデータを処理したが、トークン消費はあったものの本来のメインカレンダーに戻れたのは素晴らしいことだ。手触り感のあるアプリを使い続けたいが、出先では Google カレンダーへのスクショとジェミニでの入力など新しいワークフローも試している。チャット GPT の画像出力やオープンソースモデルについても関心があり、Claude Code が持つ実行力を評価しつつ、サブスクリプションの有無も含めて使い分けを検討中だ。

54:13 ローカル AI 環境構築とセキュリティ対策の議論

ローカル AI の環境構築とセキュリティ対策について議論しました。Claude Codeで画像生成を試すのは可能かという話から始まり、オープンクローを回避すれば実現できるとの認識に至りました。Geminiのエコシステムが強力な反面、自分での利用も十分であり、コスト面でも検討余地があるとのことです。最近話題の NVIDIA DGX Spark は Mac Studio の対抗機として 60 万円で登場し、メモリー帯域幅や設計思想の違いから用途によって使い分けが必要であることが分かりました。一般企業でローカル環境を構築すれば外部流出リスクが解決する一方で、その維持コストや技術的知見の不足は課題です。セキュリティ面では API トークンの管理が重要であり、パスワードやトークンを直接貼り付ける行為は危険だと指摘されました。ターミナル操作に抵抗がある場合でも、ファイルを開かせずにコピー禁止などのルールを徹底し、クラウドサービスからの隔離を実現する運用が大事であると実感しました。

63:16 AI によるセキュリティと家計の自動化

セキュリティチェックの自動化と家計管理について語られました。週一のチェック体制を導入すべきかという話から始まり、自動で検知して修正させる仕組みを作ることで負担が減るとのことです。SNS の全停止ボタンのような緊急機能も提案され、危険な状態でも即座にシステムを止めることが可能になりました。ノートブック LM に生活費データを投入し、サブスクや交通費の管理を自動化する事例が紹介されました。これにより複雑な計算や予算組みの手間から解放され、頭がすっきりしたとのことです。フリーランス税理士による失敗談に触れつつも、知見を蓄積していけば AI は強力な味方になると考えられました。MF クラウドなどの囲い込みサービスは使い勝手で不便であり、自分自身が理解できる仕組みを作る方が重要であるという結論に至りました。

72:18 弥生とClaude Codeで自動化した業務効率化

弥生とClaude Codeを活用した業務効率化について議論しました。東京ステーショナリーアワードの受付で請求書発行や入金チェックが人手では大変だったため、TALLY を使って自動リンクを返すプログラムを組みました。ミソカ API で請求書を自動発行する仕組みを実装し、クレカの決済対応まで自動化することで大幅な負担軽減を実現しました。AI モデル間の比較として、Claude Codeの検索結果に誤りがある場合やハルシネーションを起こす事例があり、過信は禁物であるとの指摘がありました。ジェミニも同様で、各モデルが互いを下に見る傾向にあることも興味深い点です。最終的には特定のモデルを盲信するのではなく、紙の論文のように複数のソースを確認し、アイデアを得た上でClaude Codeに指示を出す使い方が現実的であると結論づけられました。

81:18 ローカルLLMの限界と、今後の研究への希望について話した

ローカルLLM の研究を通じて、DGX Spark や Mac Studio を買えない限り中途半端な M4 32GB 以外を買うべきではないという結論に至った。今週特に実感したのは、思い通りに動かないことが分かった点で、トークン消費量やプログラムが複雑化するにつれてローカル環境の限界が見えてきたことだ。プロプラへの回帰も視野に入るかもしれないし、値上がりするらしいから悲しい気もしないでもないが、三つ同時に動かして上限に達したという報告は興味深い現実だった。

CSV に画像情報を書き込めるか聞いて「無理です」と言われた時点でダメだと感じたが、それはアプリの違いだけかもしれずやり方はある可能性がある。そのため我々は今週来週の 2 週間ほどガッツリ触り直す予定でいるため、結果を報告したいと考えている。AIloglog はマイペースに更新していくのでフォローして気長にお待ちください。

X のアカウントも作って共有しているのでぜひフォローしてほしいが、おそらく書き起こしから 2 週間後にポイントをピックアップした投稿が続くはずだから、それを眺めていただければと思う。また 2 週間後ぐらいには新しいエピソードを撮れるかもしれないので、その時は再び AI の話をしましょうということでありがとうございました。