Senior ML Inference Engineer - Remote, Equity in Leivi

Senior ML Inference Engineer - Remote, Equity in Leivi

Leivi Full-Time Da remoto
C

Cast AI, a Miami-headquartered, globally distributed team, seeks an experienced ML systems engineer to own inference stack optimization. You will improve throughput, latency, and cost per token across multi-GPU clusters, shaping the technical direction with data-driven experiments. Your work spans production-grade Python services, tuning SGLang, vLLM, TensorRT-LLM, and CUDA tooling, with a focus on scalable, cost-efficient inference on customer workloads.

Senior ML Inference Engineer - Remote, Equity in Leivi datore di lavoro: Cast AI

Kimchi offre un ambiente di lavoro stimolante e innovativo, dove i dipendenti possono contribuire attivamente allo sviluppo di modelli all'avanguardia in un contesto globale e remoto. Con opportunità di crescita professionale, un budget per la formazione e la possibilità di dedicare il 10% del tempo lavorativo a progetti personali, i membri del team possono affinare le proprie competenze mentre collaborano con esperti del settore. Inoltre, l'azienda promuove un equilibrio tra vita lavorativa e personale, offrendo giorni di ferie extra e eventi di team building per rafforzare i legami tra colleghi.

C

Dettagli di contatto:

Team di recruiting di Cast AI