跳至主要内容

写作与记录

文章

博客以介绍为主,不求甚解:先认识一个概念、方法或工具,建立大致的理解。

博客目录 →

ONNX 和 TensorRT:模型部署加速的 1 分钟速通

从 PyTorch 导出 ONNX,到在 NVIDIA GPU 上构建 TensorRT engine,梳理模型转换、图优化、精度选择、动态形状与结果验证的完整链路。

#模型部署#ONNX#TensorRT#推理加速#PyTorch#Jetson

视觉位置编码:RoPE、ALiBi 与 2D-RoPE 的 1 分钟速通

从 Transformer 为什么需要位置,到 RoPE 的旋转、ALiBi 的线性偏置和视觉 2D-RoPE 的行列坐标,理解图像与多模态模型如何知道 token 在哪里。

#视觉位置编码#RoPE#ALiBi#2D-RoPE#Vision Transformer#多模态模型