@lijiang

Sculpting in time

Do one thing and do it well.
Every story has a beginning and an end.

TF-MPI-分布式训练

Tensorflow基于MPI分布式训练

3 分钟

之前写过一篇文章讨论如何使用TF2.0自带的分布式训练系统，在树莓派4上建立分布式训练集群。然而这里会有一个缺陷，我们需要在每一个节点上去启动写好的训练程式，等全部启动之后，整个分布式训练才会开始运作，那么能否通过MPI消息传递接口来完成分布式的训练，答案就在Uber开发的Horovod，MPI主要用在超算领域，在树莓上搭建MPI集群，第一个可以用来学习超算上的分布式计算，第二可以在实际中观察TF在ARMv8上进行分布式训练的性能。

Node-RED@Home

2 分钟

继续接前一篇的NFS文件系统，目前的需求是需要能够控制集群中运行的应用，比如现在需要运行并行跨节点程序A，那么需要先调度停止正在运行的程序B，这就需要构建一个消息传递系统，能够基于消息驱动来完成操作任务。

Raspberry Pi K3s NFS FS

3 分钟

目前正学习如何在树莓派4集群上结合gromacs+mpich的分子动力学模拟，所以需要搭建一款分布式存储系统，又由于树莓派性能的限制，搭建OpenEBS会比较浪费计算资源，最后就采用轻量级的NFS来完成文件系统的共享和存储。

最新文章

分类

关于

Keep thinking, Stay curious
Always be sensitive to new things