Find a jobRecruiters

Staff Software Engineer - Harness / AI Orchestration

Exclusive opportunity

Remote

Staff Software Engineer - Harness / AI Orchestration

Third Intelligence

Staff Software Engineer - Harness / AI Orchestration

Skills

RustTypescriptPythonGolangDatadogAIAWSGitHubNotionFigma

2 months ago

Share this opportunity

Share this opportunity to other talents of your network:
✓ Offer them a visibility boost with clients.
✓ Help your contacts find their next job.

Important information


Contract type:

Permanent

Location:

Tokyo, Japan

Work mode:

Remote

Published on:

18 August 2026

What they need


【ポジションの意義・背景 / Significance & Background】

モデルそのものではなく、モデルを取り囲む「ハーネス(harness)」、すなわちオーケストレーション層、プリミティブ、エージェントループ、ツール呼び出し、サンドボックスこそが、AIプロダクトの実性能を決定づけます。優れたモデルを、実際のプロダクト体験として成立させるのがこのポジションの役割です。

本ポジションは、当社のAIプロダクト基盤における「ハーネス/オーケストレーション層」全体に責任を持つStaff Engineerです。単一機能の実装に留まらず、バックエンドとオーケストレーションの間の契約(コントラクト)の定義、再利用可能なプリミティブの設計、エージェント実行基盤の構築を主導し、グローバルスケールで数百万規模のユーザーを支える基盤の技術標準を定義していただきます。オープンソースのハーネス/エージェント資産をどこまで自社基盤に取り込むべきか、何を作り、何を借り、何を捨てるかを見極め、プロダクトドリブンに基盤を進化させる中核を担います。

It is not the model itself but the harness around it (the orchestration layer, the primitives, the agent loops, tool calling, and sandboxing) that determines an AI product's real-world performance. This role exists to turn a great model into a great product experience.

This is a Staff-level engineering role with ownership of the entire harness / orchestration layer behind our AI product platform. Beyond individual features, you will help define the contract between backend and orchestration, design reusable primitives, and build the agent-execution foundation, defining the technical standards for a platform that holds up at global scale for millions of users. You will judge how far to absorb open-source harness/agent assets into our own foundation, deciding what to build, what to borrow, and what to leave behind, and be the core engineer evolving this foundation in a product-driven way.

【業務内容・期待成果 / Responsibilities & Expected Outcomes】

オーケストレーション/ハーネス層全体のアーキテクチャ設計と技術選定のリード

  • バックエンドとオーケストレーションの間の契約(インターフェース)の定義を主導し、拡張性・保守性を備えた基盤アーキテクチャを設計する
  • 外部のハーネス資産を取り込む場合も、アップストリームの恩恵を保ちつつ持続可能に拡張する方針を自ら定義し、意思決定をリードする

再利用可能なプリミティブの設計と共有

  • サービスエンジン、スケールアウト、ツール呼び出し/ディスカバリー、サンドボックス等のプリミティブを整理・実装し、プロダクトチームが自由に組み合わせられるプラットフォームを構築する
  • エージェントスポーン、動的なツールロード、ロングランタスク、会話セッションステートなど、プロダクトに必要なプリミティブをプロダクトドリブンに進化させる

大規模同時利用に耐えるスケーラビリティと運用性の担保

  • 数百万規模のユーザーを安定して支えるため、リソース分離・利用制御・安全な運用制御・フェイルオーバー・水平スケールなどの仕組みを設計・構築する
  • 大規模なユーザーベースをコスト効率高く支える基盤設計を実現する

プロトタイプによる効果検証と技術的意思決定

  • 実ユースケースでプロトタイプを実装し、プリミティブ採用のROA(投資対効果)を定量的に検証したうえで採用可否を判断する

標準化・自動化の推進とエンジニアリング文化の醸成

  • CI/CD、開発プロセス、共通基盤の標準化・自動化を組織横断で推進する

  • Senior / Junior Engineer のメンタリング、コードレビューを通じて技術水準の向上とエンジニアリング文化をリードする

  • Lead architecture and technology selection for the orchestration/harness layer: help define the contract between backend and orchestration and design an extensible, maintainable foundation; when absorbing external harness assets, define a sustainable extension strategy that preserves upstream benefits, and lead that decision.

  • Design and share reusable primitives: organize and implement primitives (service engine, scale-out, tool calling/discovery, sandbox) into a platform product teams can freely compose; evolve product-relevant primitives (agent spawn, dynamic tool loading, long-running tasks, conversation session state) in a product-driven way.

  • Ensure scalability and operability for a large concurrent user base: design and build the mechanisms needed to serve millions of users reliably (resource isolation, usage controls, safe operational controls, failover, horizontal scale), on a foundation that stays cost-efficient at scale.

  • Validate through prototypes: implement prototypes on real use cases and quantitatively verify the ROI of adopting each primitive before committing.

  • Drive standardization/automation and shape engineering culture: standardize and automate CI/CD, dev processes, and shared infrastructure across the org; mentor engineers and elevate technical standards and culture through code review.

【主な技術スタック・開発環境 / Tech Stack】

  • 業務ツール: GitHub / Slack / Notion / Figma

  • AIツール: Claude Code / Cursor / ChatGPT / Gemini / Grok

  • 技術スタック: Go / Python / TypeScript / Rust / AWS / Datadog

  • 関連領域: LLMオーケストレーション / エージェントフレームワーク / MCP(Model Context Protocol)/ サンドボックス / 分散システム

  • Tools: GitHub / Slack / Notion / Figma

  • AI Tools: Claude Code / Cursor / ChatGPT / Gemini / Grok

  • Stack: Go / Python / TypeScript / Rust / AWS / Datadog; LLM orchestration / agent frameworks / MCP / sandboxing / distributed systems

【ポジションの魅力 / What Makes This Position Attractive】

  • まだ確立途上の専門領域である「ハーネスエンジニアリング」を、プロダクトの中核基盤に対して極めて大きな裁量を持って担えます。

  • 少数精鋭のトップタレント組織の中で、あなたのアーキテクチャ上の意思決定が、プロダクトの実性能と会社の成長に直接的なインパクトを与えます。

  • オープンソースのハーネス資産を、単なる利用者ではなく設計者として使いこなし、AIプロダクト基盤の標準そのものを形づくることができます。

  • Own harness engineering, a still-emerging specialized discipline, at the core of the platform, with exceptional autonomy.

  • In an elite organization of top talent, your architectural decisions directly impact the product's real performance and the company's growth.

  • Master open-source harness assets as a designer, not merely a user, and shape the very standards of our AI product foundation.

【応募資格(必須・歓迎)】

■必須 / Must

  • ソフトウェア開発全体における8年以上の実務経験

  • 大規模トラフィックを支える分散システムの設計・開発・運用における深い知見

  • LLMをプロダクトに統合した実装経験(オーケストレーション層、エージェントループ、ツール呼び出し等の設計・実装)

  • Go、Rust、Python など、パフォーマンスが重視される言語での開発経験

  • 大規模同時利用、スケーラビリティ、高可用性を考慮したシステムデザインの卓越した専門性

  • 複雑なステークホルダー間で技術的な合意形成を主導し、不確実性の高いプロジェクトを完遂できるリーダーシップ

  • AIネイティブな品質基準をチームに浸透させ、AI生成コードを人間のコードと同等以上の基準で扱えること

  • ビジネスレベル以上の日本語会話能力

  • ビジネスレベル以上の英語会話能力

  • 8+ years of overall software development experience

  • Deep knowledge of designing, developing, and operating distributed systems supporting large-scale traffic

  • Experience integrating LLMs into products (designing/implementing orchestration layers, agent loops, tool calling)

  • Development experience in performance-critical languages such as Go, Rust, or Python

  • Outstanding specialization in system design accounting for large-scale concurrent usage, scalability, and high availability

  • Leadership to drive technical consensus among complex stakeholders and deliver high-uncertainty projects

  • Embed AI-native quality standards across the team, holding AI-generated code to the same or higher standards as human code

  • Business-level or higher Japanese conversational ability

  • Business-level or higher English conversational ability

■歓迎 / Want

  • エージェントフレームワーク、LLMオーケストレーション基盤、または推論パイプラインの設計・構築経験

  • MCP(Model Context Protocol)、ツールディスカバリー、サンドボックス実行環境の実装経験

  • オープンソースのエージェント/ハーネス資産を用いた開発・拡張経験

  • OSSコミュニティへの貢献、またはアップストリームへのコントリビューション実績

  • 数十億規模のリクエストを処理するシステムのリアーキテクチャ、またはマイグレーションの主導経験

  • spec-driven(仕様駆動)な設計やエージェンティックなワークフローなど、AIネイティブな開発プラクティスをリードした経験

  • Experience designing/building agent frameworks, LLM orchestration platforms, or inference pipelines

  • Experience implementing MCP (Model Context Protocol), tool discovery, or sandboxed execution environments

  • Experience building on or extending open-source agent/harness assets

  • Contributions to the OSS community or upstream projects

  • Experience leading re-architecture or migration of systems processing billions of requests

  • Experience leading AI-native engineering practices such as spec-driven design and agentic workflows

Other offers great for you!

These companies are also looking for great profiles

Auratem

Ingénieur logiciel sénior Python / IA

500

Freelance

77186 Noisiel, France

Hybrid

Skills

PostgreSQLLinuxPythonragLLM

19 days ago

Quick apply

Salutech

Ingénieur Logiciel IA

Freelance

Paris, France

Onsite, Hybrid

Skills

DockerPythonTesting & QAKubernetesSoftware refactoringCI/CDObservabilityAsynchronous programming

11 days ago

Quick apply

Visian

Senior AI Engineer / Data Scientist Senior – Intelligence Artificielle

650

Freelance

Paris, France

Hybrid

Skills

AI

5 days ago

Quick apply

The best place to find your next move

© 2026. All Rights Reserved.

Talents

Find a job

Create a profile

Solutions and tools