Third Intelligence
Staff Software Engineer - Harness / AI Orchestration
Skills
2 months ago
Share this opportunity
Share this opportunity to other talents of your network:
✓ Offer them a visibility boost with clients.
✓ Help your contacts find their next job.
Important information
Contract type:
Permanent
Location:
Tokyo, Japan
Work mode:
Remote
Published on:
18 August 2026
What they need
【ポジションの意義・背景 / Significance & Background】
モデルそのものではなく、モデルを取り囲む「ハーネス(harness)」、すなわちオーケストレーション層、プリミティブ、エージェントループ、ツール呼び出し、サンドボックスこそが、AIプロダクトの実性能を決定づけます。優れたモデルを、実際のプロダクト体験として成立させるのがこのポジションの役割です。
本ポジションは、当社のAIプロダクト基盤における「ハーネス/オーケストレーション層」全体に責任を持つStaff Engineerです。単一機能の実装に留まらず、バックエンドとオーケストレーションの間の契約(コントラクト)の定義、再利用可能なプリミティブの設計、エージェント実行基盤の構築を主導し、グローバルスケールで数百万規模のユーザーを支える基盤の技術標準を定義していただきます。オープンソースのハーネス/エージェント資産をどこまで自社基盤に取り込むべきか、何を作り、何を借り、何を捨てるかを見極め、プロダクトドリブンに基盤を進化させる中核を担います。
It is not the model itself but the harness around it (the orchestration layer, the primitives, the agent loops, tool calling, and sandboxing) that determines an AI product's real-world performance. This role exists to turn a great model into a great product experience.
This is a Staff-level engineering role with ownership of the entire harness / orchestration layer behind our AI product platform. Beyond individual features, you will help define the contract between backend and orchestration, design reusable primitives, and build the agent-execution foundation, defining the technical standards for a platform that holds up at global scale for millions of users. You will judge how far to absorb open-source harness/agent assets into our own foundation, deciding what to build, what to borrow, and what to leave behind, and be the core engineer evolving this foundation in a product-driven way.
【業務内容・期待成果 / Responsibilities & Expected Outcomes】
オーケストレーション/ハーネス層全体のアーキテクチャ設計と技術選定のリード
- バックエンドとオーケストレーションの間の契約(インターフェース)の定義を主導し、拡張性・保守性を備えた基盤アーキテクチャを設計する
- 外部のハーネス資産を取り込む場合も、アップストリームの恩恵を保ちつつ持続可能に拡張する方針を自ら定義し、意思決定をリードする
再利用可能なプリミティブの設計と共有
- サービスエンジン、スケールアウト、ツール呼び出し/ディスカバリー、サンドボックス等のプリミティブを整理・実装し、プロダクトチームが自由に組み合わせられるプラットフォームを構築する
- エージェントスポーン、動的なツールロード、ロングランタスク、会話セッションステートなど、プロダクトに必要なプリミティブをプロダクトドリブンに進化させる
大規模同時利用に耐えるスケーラビリティと運用性の担保
- 数百万規模のユーザーを安定して支えるため、リソース分離・利用制御・安全な運用制御・フェイルオーバー・水平スケールなどの仕組みを設計・構築する
- 大規模なユーザーベースをコスト効率高く支える基盤設計を実現する
プロトタイプによる効果検証と技術的意思決定
- 実ユースケースでプロトタイプを実装し、プリミティブ採用のROA(投資対効果)を定量的に検証したうえで採用可否を判断する
標準化・自動化の推進とエンジニアリング文化の醸成
CI/CD、開発プロセス、共通基盤の標準化・自動化を組織横断で推進する
Senior / Junior Engineer のメンタリング、コードレビューを通じて技術水準の向上とエンジニアリング文化をリードする
Lead architecture and technology selection for the orchestration/harness layer: help define the contract between backend and orchestration and design an extensible, maintainable foundation; when absorbing external harness assets, define a sustainable extension strategy that preserves upstream benefits, and lead that decision.
Design and share reusable primitives: organize and implement primitives (service engine, scale-out, tool calling/discovery, sandbox) into a platform product teams can freely compose; evolve product-relevant primitives (agent spawn, dynamic tool loading, long-running tasks, conversation session state) in a product-driven way.
Ensure scalability and operability for a large concurrent user base: design and build the mechanisms needed to serve millions of users reliably (resource isolation, usage controls, safe operational controls, failover, horizontal scale), on a foundation that stays cost-efficient at scale.
Validate through prototypes: implement prototypes on real use cases and quantitatively verify the ROI of adopting each primitive before committing.
Drive standardization/automation and shape engineering culture: standardize and automate CI/CD, dev processes, and shared infrastructure across the org; mentor engineers and elevate technical standards and culture through code review.
【主な技術スタック・開発環境 / Tech Stack】
業務ツール: GitHub / Slack / Notion / Figma
AIツール: Claude Code / Cursor / ChatGPT / Gemini / Grok
技術スタック: Go / Python / TypeScript / Rust / AWS / Datadog
関連領域: LLMオーケストレーション / エージェントフレームワーク / MCP(Model Context Protocol)/ サンドボックス / 分散システム
Tools: GitHub / Slack / Notion / Figma
AI Tools: Claude Code / Cursor / ChatGPT / Gemini / Grok
Stack: Go / Python / TypeScript / Rust / AWS / Datadog; LLM orchestration / agent frameworks / MCP / sandboxing / distributed systems
【ポジションの魅力 / What Makes This Position Attractive】
まだ確立途上の専門領域である「ハーネスエンジニアリング」を、プロダクトの中核基盤に対して極めて大きな裁量を持って担えます。
少数精鋭のトップタレント組織の中で、あなたのアーキテクチャ上の意思決定が、プロダクトの実性能と会社の成長に直接的なインパクトを与えます。
オープンソースのハーネス資産を、単なる利用者ではなく設計者として使いこなし、AIプロダクト基盤の標準そのものを形づくることができます。
Own harness engineering, a still-emerging specialized discipline, at the core of the platform, with exceptional autonomy.
In an elite organization of top talent, your architectural decisions directly impact the product's real performance and the company's growth.
Master open-source harness assets as a designer, not merely a user, and shape the very standards of our AI product foundation.
【応募資格(必須・歓迎)】
■必須 / Must
ソフトウェア開発全体における8年以上の実務経験
大規模トラフィックを支える分散システムの設計・開発・運用における深い知見
LLMをプロダクトに統合した実装経験(オーケストレーション層、エージェントループ、ツール呼び出し等の設計・実装)
Go、Rust、Python など、パフォーマンスが重視される言語での開発経験
大規模同時利用、スケーラビリティ、高可用性を考慮したシステムデザインの卓越した専門性
複雑なステークホルダー間で技術的な合意形成を主導し、不確実性の高いプロジェクトを完遂できるリーダーシップ
AIネイティブな品質基準をチームに浸透させ、AI生成コードを人間のコードと同等以上の基準で扱えること
ビジネスレベル以上の日本語会話能力
ビジネスレベル以上の英語会話能力
8+ years of overall software development experience
Deep knowledge of designing, developing, and operating distributed systems supporting large-scale traffic
Experience integrating LLMs into products (designing/implementing orchestration layers, agent loops, tool calling)
Development experience in performance-critical languages such as Go, Rust, or Python
Outstanding specialization in system design accounting for large-scale concurrent usage, scalability, and high availability
Leadership to drive technical consensus among complex stakeholders and deliver high-uncertainty projects
Embed AI-native quality standards across the team, holding AI-generated code to the same or higher standards as human code
Business-level or higher Japanese conversational ability
Business-level or higher English conversational ability
■歓迎 / Want
エージェントフレームワーク、LLMオーケストレーション基盤、または推論パイプラインの設計・構築経験
MCP(Model Context Protocol)、ツールディスカバリー、サンドボックス実行環境の実装経験
オープンソースのエージェント/ハーネス資産を用いた開発・拡張経験
OSSコミュニティへの貢献、またはアップストリームへのコントリビューション実績
数十億規模のリクエストを処理するシステムのリアーキテクチャ、またはマイグレーションの主導経験
spec-driven(仕様駆動)な設計やエージェンティックなワークフローなど、AIネイティブな開発プラクティスをリードした経験
Experience designing/building agent frameworks, LLM orchestration platforms, or inference pipelines
Experience implementing MCP (Model Context Protocol), tool discovery, or sandboxed execution environments
Experience building on or extending open-source agent/harness assets
Contributions to the OSS community or upstream projects
Experience leading re-architecture or migration of systems processing billions of requests
Experience leading AI-native engineering practices such as spec-driven design and agentic workflows
Other offers great for you!
These companies are also looking for great profiles
Auratem
Ingénieur logiciel sénior Python / IA
500
Freelance
77186 Noisiel, France
Hybrid
Skills
19 days ago
Quick apply
Salutech
Ingénieur Logiciel IA
Freelance
Paris, France
Onsite, Hybrid
Skills
11 days ago
Quick apply
Visian
Senior AI Engineer / Data Scientist Senior – Intelligence Artificielle
650
Freelance
Paris, France
Hybrid
Skills
5 days ago
Quick apply
No company information available.