005-【CMU15-418】【并行计算架构和编程】【中英字幕】【Work Di

1. 今天的课程主题是并行编程，重点讲解如何平衡工作负载和减少通信开销。

2. 静态分配是一种将工作在处理器上预先分配好的方法，运行时开销较低。

3. 动态分配是一种在程序运行时根据需要动态分配工作的方法，适用于任务执行时间不可预测的情况。

4. 半静态分配是一种折中的方法，通过在一定时间段内静态分配工作，然后重新评估和重新分配工作来平衡工作负载。

5. 并行编程是一个迭代的过程，需要通过测量和优化来不断改进性能。

6. 通过同时检查多个质数，可以提高代码的运行速度。

7. 动态调度任务时，需要在任务大小和负载平衡之间找到一个平衡点。

8. 动态调度任务时，可以根据需要调整每次获取的任务数量。

9. 动态调度任务时，可以使用分布式工作队列来减少通信和争用开销。

10. 在任务队列中，任务之间的独立性可以提高并行性能。

11. 在并行计算中，可以使用循环或递归函数来处理大量的数据。

12. Cilk Plus是一种语言，可以将并行性暴露给语言，并使用Cilk spawn和Cilk sync来实现并行计算。

13. Cilk spawn表示可以并行执行的任务，而Cilk sync表示需要等待所有并行任务完成。

14. Cilk Plus的运行时系统会为每个硬件线程创建一个软件线程，而不是创建实际的线程。

15. 在Cilk Plus中，通过将任务放入任务队列来实现并行计算，而不是创建线程。

16. 在多线程编程中，可以使用队列来实现任务的调度和执行。

17. 在任务执行过程中，可以通过队列的方式将任务分配给不同的线程进行并行执行。

18. 在任务执行过程中，可以选择先执行子任务还是后执行子任务，两种方式都可以实现并行执行。

19. 在任务执行过程中，可以通过队列的方式将任务分配给其他线程进行执行，以实现任务的并行执行。

20. 在任务执行过程中，可以选择使用贪婪策略或阻塞策略来确定哪个线程继续执行任务。

21. Cilk通过贪婪策略来提高性能。

22. Cilk使用延续窃取和贪婪滚动死沉来管理并行性。

23. 在并行计算中，我们需要权衡任务数量的多少。

24. Cilk实现了延续窃取和贪婪滚动死沉来解决这个问题。

25. 以上是今天的内容总结。