① GPU:GPU内存占用率(Memory-Usage) 即显存占用; 显存占用往往取决于模型大小及batch size大小。如果网络结构已固定,那么改变batch size,可以尽量利用完整个GPU内存。即主要是模型大小,包括网络的宽度、深度、参数量、中间层缓存等,其次是batch size大小。 ② GPU利用率(GPU-util); GPU利用率一般是波峰