Introduction NVIDIA Data Center GPU Manager (DCGM) is a suite of tools for managing and monitoring NVIDIA datacenter GPUs in cluster environments. It also provides APIs to let developers integrate it into their own GPU profiling/monitoring tools. Installation If you have more ...

NCSU的服务器需要先登录学校的VPN，但是开启VPN后，流量默认走VPN，会对所有程序产生影响。 之前写过一篇用win10来做跳板的，但是本质上，也是用win10的ubuntu子系统。今天记录一下直接用一个资源占用较小的ubuntu作为跳板登录学校服务器的方法。 1. 使用更简单的docker openconnect支持cisco vpn的账户，可以直接docker pull findhao/ncsuvpn:latestpull现有的镜像， 使用如下命令开启一个container more ...

1. 设置多GPU环境下GPU的可见性 如果服务器上有多个GPU，可以设置程序只用某几个GPU。 export CUDA_VISIBLE_DEVICES=0,1 more ...

在c程序中获得memory使用情况 #include #define PRINT(...) fprintf(stderr, __VA_ARGS__) void more ...

之前记录过一篇使用nvidia提供的run包安装驱动的文章，现在更新下使用apt source更新的方法。 目前主要有三个apt源可以更新nvidia gpu driver ubuntu XX-updates/restricted，ubuntu官方源里的闭源驱动 https://launchpad.net/~graphics-drivers/+archive/ubuntu/ppa graphics driver的 more ...

在bash terminal中，使用上箭头来调用之前的命令时，如果命令较长，偶尔会出现命令混杂的情况。实际上这是由于terminal的提示文字使用了颜色导致的。 Prompt: 终端最前方显示的 用户名:Host $ 修改PS1的内容 查看当前PS1的设置： echo $PS1 more ...

C/C++ macro 通过宏改变函数调用 宏函数macro在有些场景下非常有用，下面的例子记录了如果通过一个变量在编译时，将调用的函数改为带着_dummy后缀的函数。 #ifdef STANDALONE #include more ...

nvidia docker的安装参考Installation Guide — NVIDIA Cloud Native Technologies documentation。 移动docker存储目录 参考 more ...

NVIDIA GPU默认是自动调频，如果需要profile程序，通过ncu获得的结果可能会不准确，尤其是对于一些比较小的程序来说。因此，测试需要固定gpu的时钟频率。需要执行的命令如下： sudo nvidia-smi -pm 1 nvidia-smi -q -d CLOCK sudo nvidia-smi -lgc 2100,2100 nvidia-smi -q -d CLOCK more ...

在某些情况下，自己的机器直接scp或者rsync拷贝文件到服务器上，速度非常慢。可能的原因之一是服务器端限制了大部分这样的流量。但是在多数情况下，我们自己的机器直接上传/下载文件到google drive或者服务器上传/下载到google drive通常速度可以打满带宽。利用这个特性，就可以借助google drive作为中转，提高本地与服务器之间的文件拷贝。 配置google drive api 参考 more ...