这部分内容需要大幅更新，可能需要整合到之前关于数据结构和矩阵向量乘法的章节中。欢迎提出建议！
这部分内容确实不完整。当我想到并行向量和矩阵布局以及相关的内积、向量更新和矩阵向量算法（例如在PETSc中），甚至是我的CS267笔记中的内容时，我不禁疑惑我们能真正说多少关于这方面的内容。鉴于可获得的材料数量庞大，我们最多只能进行总结，并指向参考文献（比杰克的更好）。我欢迎大家提出建议。
在本节中，我们将讨论本书中讨论的迭代方法中的并行性方面。由于迭代方法共享大部分计算内核，我们将独立于具体方法来讨论这些内核。迭代方案中基本耗时的内核包括：