Technical Notes
记录 AI Infra、基础设施、系统工程以及踩坑后的可靠做法。
在虚拟化技术迅猛发展的今天,利用虚拟机高效管理和分配硬件资源已成为技术人员日常工作的重要组成部分。然而,当涉及到需要高性能图形处理的任务,如深度学习、3D建模或游戏服务器时,如何在虚拟机中实现NVIDIA显卡的直通(GPU Passthrough)成为一大挑战。本文将详细分享我在使用ESXi 8.0进行NVIDIA显卡直通过程中的各种坑与经验,帮助大家少走弯路,顺利实现高效的硬件利用。
要顺利实现NVIDIA显卡的直通,首先需要具备合适的硬件环境。我配置的主板是华硕 B760i,CPU是14600KF。 华硕 B760i 主板支持最新的IOMMU技术(Intel VT-d),这对于GPU直通至关重要。搭配强劲的i5处理器,不仅能够提供充足的计算性能,还支持多线程和高频率运行,为虚拟化环境提供了坚实的基础。
好久没更新了,有点惭愧。且最近在EBPF的原子性上也头疼了将近一周的时间,主要是通过测试不同的原子性方法,来兼容不同的环境。
这次将测试验证的过程记录下来,以避免以后踩到同样类型的坑里。
五一假期,闲里偷闲,在Windows电脑上将EBPF环境在WSL2上调试成功了,这里记录下调试过程,以待后续查阅。
这里介绍一下在 MacOS M1 Chip 的设备上,如何使用qemu 运行ubuntu;不论是基于学习还是测试的目的,这篇文章都会很有用。
最近惊喜发现刚买的笔记本电脑自带了一块RTX2050显卡,带2048个CUDA核心。那么研究一下并行计算,让这块显卡也发挥一下价值。
由于最近Github.com站点经常有Timeout或Reset的情况发生,所以想零成本的做一个Github的代理。
这里使用CloudFlare的免费Worker功能,对Github做全球代理。同时Cloudflare会对静态页面做CDN缓存,也会加快我们访问github的速度。
很少的几行代码,解决了很大的事情。
构建支持不同CPU架构的容器镜像,是个比较棘手的事情。
docker官方提供了一个基于CLI的插件buildx提供构建的扩展能力,可以在x86或arm64的设备上构建支持多CPU架构的容器镜像。