Work¶

AI 機能の本番導入、推論コストの削減と信頼性の向上、開発基盤の属人化解消を支援します。Platform Engineering、MLOps、LLM Serving を中心に、課題の整理から設計・実装、チームへの引き継ぎまで対応します。

モデルの最適化、アプリケーションとの連携、本番運用、チームの開発フローまでを見渡し、ボトルネックに合わせて改善できることが強みです。

これまでに、次のような改善を進めてきました。

• 推論の安定運用とコスト削減： 累計で億単位の画像を処理する基盤を整備し、従来構成と比較して累計数千万円のインフラコストを削減しました。
• 開発環境のセルフサービス化： 複数チームへの依頼が必要だった環境準備を、開発者が Pull Request で開始できる仕組みにしました。
• テストの高速化： モノレポで変更の影響範囲に応じたテストとキャッシュを導入し、長時間かかっていたテストを数分で完了できるようにしました。

業務委託での開発支援や、技術顧問・アドバイザーとしての継続的な相談をお受けしています。Software Factory の構築や、ローカル LLM の導入・運用についてもご相談いただけます。

既存システムの一部の性能調査や、設計レビューからでもご相談いただけます。ご依頼・ご相談はお問い合わせフォームからご連絡ください。

ご相談いただけること¶

Software Factory・AI を活用した開発の自動化¶

AI エージェントが作業を受け付け、必要な環境で実装・テスト・レビューを進める Software Factory の設計・構築を支援します。既存の業務ツールや CI/CD とつなぎ、次の流れを整えます。

1. 作業を受け付ける： チャット・タスク管理ツールからの依頼や、アラート・インシデントを起点に作業を開始します。
2. 実行環境を用意する： 計算資源とデータ配置に応じて作業用 VM を割り当てます。micro sandbox を使って作業環境を隔離し、接続先に応じてネットワーク経路を制御します。
3. エージェントが作業する： 複数のモデルプロバイダーやコーディングエージェントを連携させ、エージェント間の対話も含めて作業を進めます。
4. 結果を確認する： 開発ルール・CI/CD・品質チェックと連携し、人による確認・承認を組み込みます。

導入は一部の工程から始め、品質・実行コスト・開発時間を既存の方法と比較します。検証結果をもとに、自動化の適用範囲を具体化します。

取り組んでいること： Claude・GPT などを利用する複数のコーディングエージェントが、自律的に対話しながら作業する仕組みを開発しています。大容量データが必要なタスクには、データを事前配置した VM を割り当てます。必要な計算性能も考慮し、各 VM で同じデータを再ダウンロードする転送コストを抑える設計です。

AI によるコーディング支援・コードレビューを部署内に導入し、チーム単位の利用コストを可視化した経験もあります。

ローカル LLM の導入判断・構築・運用¶

手元の PC や社内 GPU で LLM を動かしたい場合に、モデル選定から導入・運用まで支援します。外部 API と比べて導入する価値があるか、既存の環境で必要な品質・速度を満たせるかの検証からご相談いただけます。

• 用途やハードウェアに応じたモデル選定、品質・速度・メモリ使用量の検証
• ローカル PC・社内 GPU 環境への導入と、業務アプリケーションや API との連携
• 複数 GPU へのモデル分散や GPU 共有、推論処理の負荷制御
• モデルの更新方法や監視、障害時の再試行を含む運用設計

関連する実績： オンプレミス GPU 環境で、Ray・vLLM・Kubernetes を用いた LLM 非同期バッチ推論基盤を構築しました。GPU 推論をアプリケーション処理から分離し、処理単位で再試行できる構成にすることで、障害の影響を限定しました。

大規模 ML 推論基盤の構築・性能改善¶

モデルを本番で安定して動かし、増え続ける処理量に対応するための基盤を構築します。既存の推論システムの速度・安定性・GPU コストの改善にも対応します。

• ML の推論 API、非同期バッチ処理、アプリケーションとの連携の設計・開発
• オンプレミス GPU やクラウドでの推論環境の構築
• キューを用いた負荷制御、障害の影響を限定する構成、再試行・オートスケーリングの設計
• プロファイリング、量子化、TensorRT・CUDA の活用による推論の高速化とメモリ使用量の削減

実績の例： Tech Lead として、常時起動する同期推論基盤から、処理量に応じて稼働する非同期の推論基盤への移行を推進しました。ピーク時に毎秒数千枚を処理できる構成を整え、累計で億単位の画像を処理してきました。Scale-to-Zero と Spot VM などを活用し、従来の常時起動構成と比較して累計で数千万円のインフラコストを削減しました。

関連資料：非同期推論システムによるコスト削減と信頼性向上（発表資料）

MLOps・モデル開発環境の整備¶

学習・評価からデプロイまでの開発フローを整え、モデル更新の手作業や属人化を減らします。実験を再現できる環境を用意し、チームでモデルを継続的に改善しやすくします。

• データ取得・前処理・学習・評価・デプロイをつなぐ機械学習パイプラインの構築
• データ・コード・モデル・評価指標の対応関係の管理
• 共通コンテナ、ローカル実行環境、GPU を使った CI による再現性と開発効率の改善
• アノテーションエラーの検出や追加データの選定を支援するワークフローの整備

実績の例： 個人の VM で行っていたモデル開発を、MLflow・Vertex AI を用いた共通環境とパイプラインへ移行しました。どのデータ・コードから作ったモデルか、評価結果とあわせて追跡できるようにしました。別の担当者も実験を再現・デバッグでき、チームでモデル更新を進められる状態を整えました。

関連資料：機械学習パイプラインのローカル実行とコンポーネント定義（発表資料）

Kubernetes・クラウド基盤の設計と運用改善¶

「サービスの成長に基盤が追いつかない」「デプロイや環境構築が特定の担当者に集中する」といった課題に対応します。チームの規模や運用体制を踏まえて、必要な基盤と運用方法を設計します。

• Kubernetes、AWS、Google Cloud を用いたアプリケーション基盤の設計・構築
• GitOps、Infrastructure as Code、監視、Secret 管理、環境差分管理の整備
• トラフィックやイベントに応じたスケーリング、冗長化、無停止更新の設計
• アカウント・権限・リソース作成の自動化と、開発環境のセルフサービス化
• SLO の導入、障害・性能のボトルネック調査、運用負荷やクラウドコストの改善

実績の例： 数千人の開発者を支える、数千ノード規模の Kubernetes 基盤の開発・運用に Lead Platform Engineer として参画しました。技術方針の策定やアーキテクチャ上の意思決定、設計レビューを主導しました。

• 更新時の停止を解消： 停止が必要だった更新を無停止で行える冗長構成へ移行しました。
• 環境準備の依頼待ちを解消： 複数チームへの依頼が必要だったアカウント・権限・リソースの準備を、開発者が Pull Request で開始できる仕組みにしました。

別の開発組織では、環境構築やデプロイがインフラ担当者に集中していました。アプリケーション開発者が自ら作業できる基盤の整備をチームで進め、担当者への作業依頼を待たずにリリースできる状態をつくりました。

モノレポ・CI/CD・開発生産性の改善¶

CI の待ち時間やレビューの滞りを可視化し、開発のボトルネックを改善します。プロジェクトごとに異なる開発ルールやツールの設定も見直し、共通化・自動化を進めます。

• モノレポの導入、依存関係管理、変更の影響範囲に応じたテスト・デプロイの設計
• キャッシュやビルド構成の見直しによる CI/CD の高速化
• Python の開発標準、プロジェクトテンプレート、静的解析・テスト環境の整備
• DORA Metrics（Four Keys）やコードレビューの待ち時間の可視化と改善
• AI によるコーディング支援・コードレビューの導入と、チーム単位の利用コストの可視化

実績の例： モノレポで変更の影響範囲に応じたテストとキャッシュを導入し、長時間かかっていたテストを数分で完了できるようにしました。複数の組織で Python Working Group Lead を務め、数十人規模のエンジニアに向けた開発標準の策定・展開も行ってきました。

関連資料：PyCon APAC 2023：Pants ではじめる Python Monorepo（発表資料）

大量データ処理・ETL・バックエンド開発¶

データの収集・加工・保存から、API を通じた提供までを設計・実装します。データ量の増加に備えた構成の見直しや、手作業で行っているデータ処理の自動化にも対応します。

• Web API、ストリーミング処理、ETL・バッチ処理の設計・開発
• データモデリング、パーティショニング、データ形式・圧縮方式の設計
• データベースの設計見直し、クエリやデータ取得処理の最適化

実績の例： 複数人で数日かかっていたデータ処理を ETL 基盤で自動化し、数十分で完了できるようにしました。年間で TB 単位のデータが増え続けるシステムの基盤設計も経験しています。

社内情報検索・生成 AI 活用¶

「社内の情報が分散して見つからない」「同じ問い合わせへの対応が繰り返し発生する」といった課題に対し、既存の業務ツールと連携した検索・対話の仕組みをつくります。

• 社内のドキュメントや業務ツールを横断して検索する RAG システムの構築
• 利用者ごとの閲覧権限を踏まえた情報取得の設計
• 用途に応じた回答品質の評価方法の検討・検証
• Slack Bot など、普段の業務で利用できるインターフェースへの組み込み
• 自然言語でデータを分析する AI エージェントの開発
• MCP Server や AI エージェントの技術検証

実績の例： 社内ドキュメントや複数の業務ツールの情報をまとめて検索できる RAG システムを構築しました。社員が普段使っている Slack に Bot として組み込み、情報を探す手間や問い合わせ対応の負荷を減らしました。

ご依頼の進め方と成果の例¶

課題が漠然としている段階や、完了条件の整理からでもご相談いただけます。

調査・検証に進む際は、確認する項目や判断の基準、共有する成果物を相談して決めます。結果をもとに、実装へ進むか、追加の検証が必要かを判断します。

チームとの進め方・技術リード¶

既存チームと設計・実装・レビューを進め、技術選定や設計判断の背景もドキュメントに残します。基盤やツールの導入に加え、テンプレート・デモ・ペアプログラミングを通じて、チームへの定着も支援します。

小規模チームでの Tech Lead や、大規模基盤での Lead Platform Engineer を務めてきました。技術ロードマップの策定やアーキテクチャレビューを通じて、チームの技術的な意思決定を支えます。専門知識が一部の担当者に集中せず、社内で開発・運用を続けられる状態を目指します。

主に扱う技術¶

ご依頼・ご相談¶

技術調査や設計レビューから、基盤の構築・改善、継続的な技術相談まで、必要な範囲でご依頼いただけます。支援範囲・ご希望の稼働量・開始時期をもとに、関わり方を相談します。

運用設計・引き継ぎ・継続改善にも対応します。障害対応の範囲や時間は個別相談です。

お問い合わせフォームには、現在困っていることや目指したい状態をお知らせください。既存の技術構成やチーム体制、ご希望の稼働量・開始時期も、分かる範囲で添えていただけると助かります。

依頼内容が具体化する前の段階でもご相談いただけます。