Large Language Model Serving
关注 LLM 推理时延、KV Cache、显存占用、静态 Batch 与边缘部署优化。
ABOUT ME
关于我
广东工业大学计算机方向硕士研究生，研究聚焦于 大模型边缘推理、多智能体强化学习、联邦学习与智能决策。 具备从问题建模、MDP / Dec-POMDP 设计、算法实现、仿真平台搭建到论文实验分析的完整科研能力。
熟悉 Linux / GPU 环境，能够使用 PyTorch 完成强化学习与深度学习实验， 并结合 SUMO、NS-3 构建动态车联网与边缘计算仿真场景。
01
算法
DRL · MARL · CTDE · Federated RL
02
大模型
Transformer · KV Cache · Batch Inference
03
系统
Linux · CUDA · Nginx · Docker
04
仿真
SUMO · NS-3 · Gymnasium
RESEARCH INTERESTS
研究方向
Multi-Agent Reinforcement Learning
面向分布式边缘节点的协同决策、任务卸载与模型部署问题。
Federated Learning & Edge Intelligence
研究低通信开销的分布式协同训练，以及服务公平与在线更新机制。
FEATURED PROJECTS
代表项目
Research
2025 — NOW
Federated Multi-Agent Reinforcement Learning
面向多 RSU 边缘环境，设计联邦多智能体强化学习方法，实现模型部署、 任务卸载与服务级公平优化，并对比 Single-Agent、CTDE 与 Non-Federated MARL。
PyTorchMARLFederated LearningGym
LLM Systems
Multimodal LLM Edge Serving
研究 Text / Image / Radar / LiDAR 多模态模型在边缘节点上的推理开销， 建立 Token、FLOPs、KV Cache、显存与 Deadline 约束下的服务模型。
GemmaQwen-VLKV CacheStatic Batching
Simulation
SUMO + NS-3 Vehicular Simulation
构建大规模车辆动态交通与网络传输仿真环境，将车辆轨迹、通信状态、 上传与回传时延映射到强化学习环境。
SUMONS-3PythonEdge Computing
TECH STACK
技能栈
Programming
PythonC/C++GitLinux
AI / ML
PyTorchDeep RLMARLFederated Learning
LLM
TransformerKV CacheBatch InferenceQuantization
Systems
CUDADockerNginxUbuntu
Simulation
SUMONS-3GymnasiumNumPy / Pandas
EDUCATION
广东工业大学
计算机方向 · 硕士研究生
LET'S CONNECT
正在寻找 AI / 算法方向的机会。
如果你对我的研究或项目感兴趣，欢迎联系我。