~哈 2020-09-06 10:47 采纳率: 0%
浏览 62

cuda 内存传输速率的理论值和实际值

关于cuda的内存传输，通过cuda-z可以测量出Host和Device之间以及device to device的实际传输速率。
但是有没有这个device to device的理论传输速率应该怎么计算呢？

另外，global和GPU芯片之间的通行，其理论速率应该是可以用显存带宽来描述的，在GPU内部的shared的带宽明显要比显存带宽高得多。但是有没有要怎样才能测量global和shared之间的实际通信速率呢？

  • 写回答

1条回答 默认 最新

  • 蔡能教授，网站特聘专家 2020-09-07 09:06
    关注

    https://q.cnblogs.com/q/129088/

    评论

报告相同问题？

  • cuda编程数据传输 c++ 有问必答
    2022-07-13 15:45
    回答 2 已采纳 可以看一下下面这篇文章： CUDA编程记之一基本使用及线程、同步、存储器_辜易的博客-CSDN博客_cuda 线程同步 欢迎大家一起来观摩我
  • pytorch训练时cuda内存不足 pytorch 目标检测 神经网络
    2023-03-02 15:28
    回答 2 已采纳 通常遇到OOM(out of memory)问题, 只有两种解决方案, 降低您网络训练时的batchsize, 或者选用更小的网络. 看到您这里用的resnet50, 8Gmemory够用了, 您可以
  • CUDA中共享内存是在显存中吗? c语言
    2022-05-29 13:20
    回答 1 已采纳 不是，共享内存是放在L1缓存中的
  • CUDA 编程学习
    2019-06-11 12:55
    xiaoma_bk的博客 CUDA编程真的是入门容易精通难，具有计算机体系结构和C语言编程知识储备的同学上手CUDA编程应该难度不会很大。本文章将通过以下五个方面帮助大家比较全面地了解CUDA编程最重要的知识点，做到快速入门： GPU 架构...
  • cuda编程困惑cudaMemcopy
    2017-10-18 06:30
    回答 2 已采纳 cudaMemcopy是CPU和GPU两者共同作用的结果。 GPU编程就是八股文，共分三个步骤： 1、在启动GPU计算前使用cudaMemcopy将计算机内存的数据拷贝入GPU内存中， 2、启动
  • tensorflow版本和cuda版本的对应 tensorflow 机器学习 深度学习
    2022-10-26 11:11
    回答 1 已采纳 这里一般说的是预编译的版本是这样，也就是说你版本为11.2和cudnn8.1是可以确保没问题的，但是cuda11.x可以向下兼容，也就是你用后面版本的cuda说不定也可以，但是就不保证结果稳定和确定性
  • Nvida GEforce GTX 1650支不支持CUDA编程吗？ c++
    2019-07-17 11:27
    回答 6 已采纳 经过自己测试（可以在visual studio上编写CUDA程序），确实是支持的。
  • CUDA C++ Best Practices Guide(笔记)
    2020-12-30 10:26
    西瓜ggg的博客 CUDA C++ Best Practices Guide(笔记) 目录 CUDA C++ Best Practices Guide(笔记) 优化四部曲APOD 1Assessing Your Application 2、Heterogeneous Computing（异构计算） 2.1.Differences between Host and ...
  • 关于CUDA和tensorflow的对应版本 python 有问必答
    2022-02-26 17:12
    回答 3 已采纳 tensorflow-gpu 2.6.0tensorflow 2.5.1这个帖子也是NVIDA CUDA 11.1.114 ，希望对你有帮助：https://blog.csdn.net/MISS_XD
  • cv中的矩阵传输cuda报错 c++
    2022-11-28 10:30
    回答 1 已采纳 报错是显示类型不对，应该传入一个MAT的对象，而现在是一个指针变量
  • 在cuda编程中，一个核函数最多可以用多少个线程？ c++ c语言 有问必答
    2022-04-24 20:17
    回答 2 已采纳 调用核函数的时候，可以有多个block，，每个block所能容纳的最大线程数也是有限的。其实在硬件上，每个block里面的所有thread会共用一个处理器核心，而且它们共享的shared memory
  • CUDA——"从入门到放弃"
    2019-05-09 09:50
    furuit的博客 中央处理器（CPU，Central Processing Unit）是一块超大规模的集成电路，是一台计算机的运算核心（Core）和控制核心（ Control Unit）。它的功能主要是解释计算机指令以及处理计算机软件中的数据。 中央处理器主要...
  • cudnn是什么，和cuda的区别是啥 pytorch 深度学习
    2022-09-15 09:32
    回答 2 已采纳 cuda是工具，也就是说你的深度学习时通过cuda实现基本的计算等等的，可以控制你的GPU进行运行。cudnn是一个加速进行网络计算的库，因为深度学习的训练时很耗时的，通过cudnn可以进行提高GPU
  • 最全与最好的——CUDA入门教程
    2019-07-23 15:58
    三千の世界的博客 中央处理器（CPU，Central Processing Unit）是一块超大规模的集成电路，是一台计算机的运算核心（Core）和控制核心（ Control Unit）。它的功能主要是解释计算机指令以及处理计算机软件中的数据。 中央处理器主要...
  • 论文解读-面向高效生成大语言模型服务：从算法到系统综述
    2024-04-26 10:31
    合合技术团队的博客 在快速发展的人工智能（AI）领域中，生成式大型语言模型（llm）站在了最前沿，彻底改变...本调查从机器学习系统（MLSys）研究的角度，解决了对高效LLM服务方法的迫切需求，这是先进人工智能创新和实际系统优化的关键。
  • 没有解决我的问题, 去提问

悬赏问题

  • ¥15 keil的map文件中Image component sizes各项意思
  • ¥30 BC260Y用MQTT向阿里云发布主题消息一直错误
  • ¥20 求个正点原子stm32f407开发版的贪吃蛇游戏
  • ¥15 划分vlan后，链路不通了？
  • ¥20 求各位懂行的人，注册表能不能看到usb使用得具体信息，干了什么，传输了什么数据
  • ¥15 Vue3 大型图片数据拖动排序
  • ¥15 Centos / PETGEM
  • ¥15 划分vlan后不通了
  • ¥20 用雷电模拟器安装百达屋apk一直闪退
  • ¥15 算能科技20240506咨询（拒绝大模型回答）