Backend Engineer _ AI Gateway- Bilingual (Korean/ English)

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Backend-инженер в команду AI Gateway — высокопроизводительного защищённого слоя, который маршрутизирует и контролирует трафик между корпоративными клиентами и провайдерами LLM/AI. Нужен глубокий опыт в сетевом программировании, async Python и облачной инфраструктуре для работы с массовыми конкурентными стриминговыми соединениями.

Задачи

• Проектировать и разрабатывать production-grade REST/Streaming API на FastAPI
• Проектировать и эксплуатировать latency-sensitive gateway с политиками маршрутизации и инспекции трафика
• Работать с асинхронным сетевым программированием: asyncio, aiohttp/anyio, TCP/UDP сокеты, WebSocket и SSE серверы
• Обрабатывать chunked transfer, двунаправленный стриминг, back-pressure и высоконагруженные потоки данных для real-time LLM inference
• Разворачивать сервисы в Kubernetes (AKS/EKS/GKE), настраивать HPA/VPA, rolling updates и service mesh
• Строить event-driven архитектуру с Redis Streams, RabbitMQ или Kafka
• Оптимизировать PostgreSQL-запросы, партиционирование и пулинг через PgBouncer
• Управлять секретами через HashiCorp Vault
• Настраивать L4/L7 балансировку, TLS termination, reverse-proxy, mTLS и автоматический жизненный цикл сертификатов
• Описывать инфраструктуру в Terraform и строить CI/CD пайплайны с canary/blue-green деплоями
• Интегрировать enterprise security gateways (CASB/DLP/WSS), IAM/SSO (Azure AD/Entra ID, Okta, SAML, OIDC)
• Строить observability и FinOps: Datadog, Prometheus/Grafana, Azure Monitor, SLA/SLO и incident response

Требования

• 3+ года опыта с async Python и сетевым программированием (asyncio, aiohttp/anyio, сокеты, WebSocket, SSE, TLS)
• 3+ года опыта разработки backend на FastAPI (Pydantic, dependency injection, OpenAPI)
• Опыт работы с Docker и Kubernetes (AKS/EKS/GKE), HPA/VPA, rolling updates, service mesh (Istio/Envoy)
• Знание протоколов HTTP/2 и HTTP/3, gRPC, опыт написания кастомных парсеров протоколов
• Production-опыт с Redis Streams, RabbitMQ или Kafka
• Продвинутая работа с PostgreSQL: тюнинг запросов, партиционирование, PgBouncer
• Опыт с HashiCorp Vault (dynamic secrets, transit encryption)
• Понимание cloud networking и безопасности: L4/L7 балансировка, TLS termination, NGINX/Envoy, mTLS, ACME/Let's Encrypt
• Опыт с Terraform и CI/CD (GitHub Actions/GitLab CI), сканирование образов, canary/blue-green деплои
• Желательно: двуязычность корейский/английский (корейский — сильное преимущество)

Условия

• Все данные кандидатов конфиденциальны согласно EEO guidelines
• NO C2C

Навыки

• Python
• asyncio
• aiohttp
• anyio
• TCP/UDP
• WebSocket
• SSE
• TLS
• HTTP/2
• HTTP/3
• gRPC
• FastAPI
• Pydantic
• OpenAPI
• Docker
• Kubernetes
• AKS
• EKS
• GKE
• Istio
• Envoy
• Redis Streams
• RabbitMQ
• Kafka
• PostgreSQL
• PgBouncer
• HashiCorp Vault
• NGINX
• mTLS
• Terraform
• GitHub Actions
• GitLab CI
• Datadog
• Prometheus
• Grafana
• Azure Monitor
• Azure AD
• Entra ID
• Okta
• SAML
• OIDC
• Azure OpenAI