GPU调度/执行时长

Question

为了充分发挥GPU算力，需要尽可能多的将任务交给GPU执行，现在有一个任务数组，数组元素表示在这1秒内新增的任务个数，且每秒都有新增任务。
假设GPU最多一次执行n个任务，一次执行耗时1秒，在保证GPU不空闲情况下，最少需要多长时间执行完成

用java代码实现

Answer 1

引自免费微信小程序：皆我百晓生

首先，你需要明确的是，CPU在处理大量数据时比GPU更快。但是，GPU可以同时执行多个任务，这使得它们非常适合于并行计算和深度学习等复杂计算场景。

对于这个问题，我们需要一个公平的时间框架来衡量GPU调度的成功率。我们可以定义任务完成所需的时间为t，任务完成后被分配给GPU的时间为t * n。

我们可以通过以下步骤解决这个问题：

1. 计算总任务数：totalTasks = 1 / t

2. 根据任务数量初始化Gpus的数量：numGpus = totalTasks / n

3. 算法：可以采用优先队列（如FIFO）进行GPU调度。具体算法如下：

   • 当有新任务到来时，检查队列头部是否有足够的GPU可用。
   • 如果有足够的GPU可用，则从队列头部取出一个任务并将其放入GPU执行；
   • 如果没有足够的GPU可用，则等待GPU空闲，并重新检查队列头部是否还有新的任务到来。

4. 时间线：绘制出CPU和GPU执行任务的时间线，可以看到CPU与GPU之间的一致性。由于CPU执行任务的速度远低于GPU，所以GPU会始终在所有任务都完成后运行。

这个解决方案可以根据实际需求进行调整。例如，如果你想要减少计算量，可以降低总任务数totalTasks；如果你想提高计算效率，可以增加CPU的数量numGpus。

注意：这个解决方案只是一个基本的指导，可能需要根据具体的硬件配置、编程语言和应用场景进行一些调整。