Nishikoh Tech Blog¶
Nishikoh の技術ブログです。 Python や Google Cloud(GCP)、MLOps、CI/CD の備忘録が多めです。
最近の興味はモノレポ、生成 AI、HPC、CUDA、分散ビルド、分散推論、Rust、MLOps、Kubernetes、Microservice のオーケストレーションあたりです。
About Me¶
Skill¶
| Category | Experience |
|---|---|
| Language | Python, Rust, C#, C++, Kotlin, Ruby, Go |
| Infrastructure | Google Cloud(GCP), AWS, Kubernetes, Docker, Terraform, Datadog, GitHub Actions, Packer |
| Cloud Service | GKE, Vertex AI, Cloud Run, Cloud Functions, AppEngine, GCE, Cloud Build, GCS, Cloud SQL, Cloud Pub/Sub, Workflows, EKS, ECS, Fargate, AWS Lambda, EC2, S3, Aurora |
| Database | MySQL, PostgreSQL, Redis, BigQuery, Firestore, Dynamo DB, Athena, MongoDB |
| ML / Gen AI | PyTorch, TorchServe, Kubeflow, MLflow, SageMaker, Vertex AI, Dataflow, ONNX, TensorRT, Triton Inference Server, PyTriton, vLLM, TGI, Ray, fiftyone, SAHI, SAM, CUDA, CV-CUDA, BentoML, ZenML, SkyPilot, RAG, Numba, Nvidia Nsight Systems, Slurm, YOLO, Vector Search |
| Kubernetes | Helm, ArgoCD, Argo Workflows, Kustomize, Kubeflow, Istio, KEDA, Knative, Numaflow |
| Role | Tech Lead, MLOps, Architect, Web Backend, Embedded SRE, Product Owner, Android Dev |
| Other | FastAPI, uv, poetry, SQLModel, Rails, Bazel, Pants, Cookiecutter, GitHub GraphQL API, Agile Development, Scrum |
Career¶
生成 AI・ML Platform エンジニア, MLOps エンジニアとして AI の社会実装を推進
AI Team MLOps Tech Lead / Python Working Group Lead
2022-10 ~ Current CADDi一人目の MLOps エンジニアとして入社。Tech Lead として機械学習プロジェクトを推進し、素早く市場にソフトウェアを提供、品質やコストにおいても優れたサービスを構築できる基盤を開発。Vertex AI を使った機械学習パイプラインの開発や WebAPI、Streaming、ETL 基盤の開発、Pants を使ったモノレポ開発の推進を行う。Python Working Group Lead としてベストプラクティスの発信や Python 開発における支援と整備を行う。
ML Platform Engineer / Architect / R&D DevOps
2021-4 Sansan名刺や請求書のデータ化システムのアーキテクチャ、インフラ、アプリケーションの設計・開発・保守を行う。事業成長が T2D3 のペースを大きく超える BillOne というサービスにて、事業の成長を加速できるようにスケーリング周りの改善・強化。他にも Kubernetes を使ったアプリケーション基盤の立ち上げ、CI/CD の整備、SLO の導入やトイルの改善、コーディング規約の整備など組織課題の解決に取り組む。