vGPU、MIG 和 时间切片技术优化 AI 和 ML 的 GPU 使用。了解这些方法如何降低 GPU 成本并提高项目可扩展性。

玩AI模型，GPU算力是基础，首先得了解自己电脑的 CUDA 和 GPU 信息，并安装相对应的软件、进行正确的配置。

腾讯云开发者社区是腾讯云官方开发者社区，致力于打造开发者的技术分享型社区。提供专栏,问答，沙龙等产品和服务，汇聚海量精品云计算使用和开发经验，致力于帮助开发者快速成长与发展，营造开放的云计算技术生态圈。...

本文使用conda下载cuda和cudnn，直接安装到虚拟环境，免去配置环境变量等操作且节省C盘空间。若想单独下载CUDA Toolkit及cudnn，可参照该文章：

Release Notes :: CUDA Toolkit Documentation (nvidia.com)

Windows11安装Linux子系统(Ubuntu22.04LTS)+安装ROS_QomolangmaH的博客-CSDN博客

GPU 的使用被证明并非完全是 Docker 和 WebAssembly 的障碍，而是一个速度障碍。

在进行模型推理时，需要考虑如何有效地利用和管理GPU显存。以下总结了常用的节省显存的方法。

简单来说，核绑，或者叫亲和力，就是将某个GPU与指定CPU核心进行绑定，从而尽可能提高效率。

哈佛结构 : 程序指令 和 数据 分开存储在 两个独立的 存储空间中 , 每个存储器都 独立编址 、独立访问 , 这是一种 并行体系结构 ;