杰联

出海公司会员方案国家指南出海洞察关于我们联系与反馈企业入驻服务条款隐私与数据说明

机会出海公司国家指南会员方案

登录免费注册

杰联

探索

机会雷达出海公司国家指南出海洞察会员方案

服务

上传简历成长内容

合作与公司

企业入驻关于我们联系与反馈

已有账号？登录

首页机会成长我的

大模型存储研究员 / 研发工程师（美国） · 字节跳动｜美国 · 杰联

返回机会列表

字节跳动

大模型存储研究员 / 研发工程师（美国）

Research Engineer / Scientist - Storage for LLM

可直接申请／企业开放联系

Seattle, Washington, United States of America全职岗位来自企业官网昨天同步

基础架构大模型推理KV缓存分布式系统GPU优化

概述AI 摘要

负责设计和构建面向大语言模型（LLM）推理的高性能分布式 KV 缓存系统，优化延迟、吞吐量和成本效率。

美国

岗位职责（节选）

设计并实现跨 GPU 或节点的分布式 KV 缓存系统，用于存储和检索 Transformer 大模型的中间状态（如 Attention KV）。
优化长上下文 LLM 输入、Token 流和复用嵌入的低延迟访问及淘汰策略。
与推理和协同服务团队合作，将缓存与 Token 流式传输管道、批量解码和模型并行化进行集成。

还有4 条岗位职责与完整任职要求、杰联解读与匹配提示，登录后可见。

登录后查看完整详情与岗位匹配

免费版可查看 5 个完整机会详情；还没有职业档案时，可直接上传简历获得匹配提示。登录后会自动回到当前岗位。

免费登录 / 注册，继续查看并匹配

未经你同意，我们不会把你的信息发送给企业。