https://hdknr.github.io/blogs/tags/macbook/Recent content in MacBook on hdknr blogHugo -- 0.157.0jaSat, 02 May 2026 00:00:00 +0000https://hdknr.github.io/blogs/posts/2026/05/macbook-m4-llama-cpp-offline-ai-workflow/Sat, 02 May 2026 00:00:00 +0000https://hdknr.github.io/blogs/posts/2026/05/macbook-m4-llama-cpp-offline-ai-workflow/<p>MacBook Pro M4 ローカルで Llama 3.3 70B を 11 時間動かし続け、機内でクライアント仕事をすべて片付けた開発者がいる。Wi-Fi 代 25 ドルを払わず、オフラインだけで完結させた「オフライン AI ワークフロー」の実例が話題になっている。</p> <h2 id="構成ハードウェアとソフトウェア">構成：ハードウェアとソフトウェア</h2> <p>使用機材はシンプルだ。</p> <table> <thead> <tr> <th>項目</th> <th>内容</th> </tr> </thead> <tbody> <tr> <td>マシン</td> <td>MacBook Pro M4、64 GB 統合メモリ</td> </tr> <tr> <td>モデル</td> <td>Llama 3.3 70B（bf16 精度）</td> </tr> <tr> <td>推論エンジン</td> <td>llama.cpp（localhost:8080 で待機）</td> </tr> <tr> <td>生成速度</td> <td>71 トークン/秒</td> </tr> <tr> <td>コンテキスト長</td> <td>約 60,000 トークン</td> </tr> <tr> <td>メモリ使用量</td> <td>48.6 GiB（ほぼ上限）</td> </tr> <tr> <td>離陸時バッテリー残量</td> <td>3 時間 21 分</td> </tr> </tbody> </table> <h2 id="離陸前に書いたオーケストレーションスクリプト">離陸前に書いたオーケストレーション・スクリプト</h2> <p>キモはフライト前に仕込んだシステムプロンプトとスクリプトだ。要約すると以下のとおりだった。</p> <div class="highlight"><div style="color:#f8f8f2;background-color:#272822;-moz-tab-size:4;-o-tab-size:4;tab-size:4;-webkit-text-size-adjust:none;"> <table style="border-spacing:0;padding:0;margin:0;border:0;"><tr><td style="vertical-align:top;padding:0;margin:0;border:0;"> <pre tabindex="0" style="color:#f8f8f2;background-color:#272822;-moz-tab-size:4;-o-tab-size:4;tab-size:4;-webkit-text-size-adjust:none;"><code><span style="white-space:pre;-webkit-user-select:none;user-select:none;margin-right:0.4em;padding:0 0.4em 0 0.4em;color:#7f7f7f">1 </span><span style="white-space:pre;-webkit-user-select:none;user-select:none;margin-right:0.4em;padding:0 0.4em 0 0.4em;color:#7f7f7f">2 </span><span style="white-space:pre;-webkit-user-select:none;user-select:none;margin-right:0.4em;padding:0 0.4em 0 0.4em;color:#7f7f7f">3 </span><span style="white-space:pre;-webkit-user-select:none;user-select:none;margin-right:0.4em;padding:0 0.4em 0 0.4em;color:#7f7f7f">4 </span><span style="white-space:pre;-webkit-user-select:none;user-select:none;margin-right:0.4em;padding:0 0.4em 0 0.4em;color:#7f7f7f">5 </span><span style="white-space:pre;-webkit-user-select:none;user-select:none;margin-right:0.4em;padding:0 0.4em 0 0.4em;color:#7f7f7f">6 </span><span style="white-space:pre;-webkit-user-select:none;user-select:none;margin-right:0.4em;padding:0 0.4em 0 0.4em;color:#7f7f7f">7 </span><span style="white-space:pre;-webkit-user-select:none;user-select:none;margin-right:0.4em;padding:0 0.4em 0 0.4em;color:#7f7f7f">8 </span></code></pre></td> <td style="vertical-align:top;padding:0;margin:0;border:0;;width:100%"> <pre tabindex="0" style="color:#f8f8f2;background-color:#272822;-moz-tab-size:4;-o-tab-size:4;tab-size:4;-webkit-text-size-adjust:none;"><code class="language-text" data-lang="text"><span style="display:flex;"><span>あなたは今、MacBook 上のオフライン・オーケストレーターです。ネットはありません。 </span></span><span style="display:flex;"><span>使えるのはローカルファイルと localhost:8080 の Llama 推論サービスだけです。 </span></span><span style="display:flex;"><span>バッテリーは 3 時間強。 </span></span><span style="display:flex;"><span> </span></span><span style="display:flex;"><span>/Users/dev/work/queue.jsonl からクライアントタスクを 1 件ずつ読み込み、 </span></span><span style="display:flex;"><span>各タスクをドラフト→ローカル評価→ /Users/dev/work/done/ に出力してください。 </span></span><span style="display:flex;"><span>12 タスクごとにコンテキストチェックポイントを保存し、電源交換後に復元できるようにすること。 </span></span><span style="display:flex;"><span>キューが空になるか、バッテリーが 5% を切ったら停止。 </span></span></code></pre></td></tr></table> </div> </div><p>制約を正直に宣言したシステムプロンプトが、エージェントに「自分の家の事情」を完全に理解させた。インターネットなし・メモリ有限・電源も有限、そして操作者は空の上にいる——何か起きても誰も介入できない状況だ。</p>