关于我们
我们是一家总部位于旧金山的快速发展的Stealth AI 基础设施初创公司,目前已获得包括 Jeff Dean, A16z scout fund , Dropbox co-founder等多位知名投资人超100万美元投资。我们正在构建 AI 评估基础设施的未来,提供 Evals as an API,帮助企业高效地对 AI 系统进行基准测试和改进。
职位概述
我们正在寻找一位经验丰富的 AI 基础设施开发工程师加入我们的核心团队,帮助构建我们的评估平台基础。该职位需要将 AI 系统的深度技术专长与分布式计算知识相结合,以创建可扩展、可靠的 AI 评估基础设施。
工作职责
- 设计和实现评估基础设施的核心组件
- 构建和优化用于运行 AI 模型评估的分布式系统
- 开发 API 和 SDK,实现与客户系统的无缝集成
- 创建高效的管道,用于处理和分析大规模 AI 评估数据
- 与创始团队合作,塑造产品架构和技术决策
- 直接与客户合作,了解他们的需求并改进我们的平台
要求
- 4年以上相关工作经验
- 精通 Python
- 深入理解如何设计安全、可靠和高性能的服务架构
- 能够设计清晰、稳健的 REST API
- 能够架构生产级别的服务系统
- 熟悉基础设施即代码(Terraform)和云基础设施
- 熟悉 Docker 和 Kubernetes
- 熟悉 AI 技术栈相关工具,如推理引擎(例如 vLLM, Ollama)、向量数据库(例如 Chroma, pgvector)和 RAG(例如 llama-index, langchain)