谷歌开发空间划分技术 提升大数据与模型平行化处理能力_图像

原标题：谷歌开发空间划分技术 提升大数据与模型平行化处理能力

为了处理超高解析度的医疗图像数据，Google（谷歌）开发空间分区（Spatial Partition）技术，能够在不降低图像解析度的前提下，分析这些图像数据，大幅推进大数据与模型平行化的处理能力。

Google表示，虽然大型卷积神经网络（CNN）模型可以在数分钟之内，通过数百万个图像数据进行训练，但若想在卷积神经网络上处理超高解析度图像仍然充满困难，例如复杂的3D断层扫描等等。同时，现有技术通常还需要托管至少32GB的数据容量，但是单个GPU或是TPU，往往只拥有12到32GB的存储能力，因此容易造成部分数据丢失，而且效能不佳，过程还较为复杂。

谷歌选择与Mayo Clinic合作发展新技术，就能够突破这些限制，以专门用于分散式深度学习语言（Deep Learing）作为基础，操练高效能数据和模型平行运算。举例来说，当用户以256个处理器建立16乘16的计算网状网络，每个处理器内建两个核心，使用者就可以定义布局，将图像对应到计算网状网络中，将图像空间维度X对应至处理器列（Row），而将图像的空间维度Y对应至处理器行（Column）。

根据香港IDC新天域互联的了解，在图像执行卷积运算，通常会使用超出影格边缘的过滤器，处理单个图像的时候自然有许多方法可以解决，但是标准方法并没有考虑超出影格边缘的分割图像数据。因此，为了获得更准确的分析结果，需要对经空间分区，且在处理器间重新分散的图像数据进行卷积运算，以保留所有的图像数据。

谷歌解释，在每次卷积运算之前，每个空间分区都会与邻边数据交换边距，以便有效地在边缘扩展图像分割。接下来，卷积运算会局部地应用到每个装置上，确保整个图像的卷积网路结果，无论有没有空间分区都是相同的。

借由这个技术，研究人员现在能以256向的模型平行化（Model Parallelism），使用每个维度超过512像素的3D图像，来训练3D U-Net。研究人员也已将这个框架用在肝肿瘤断层扫瞄上，证明其可行性。