ML Blog

雕刻时光
Sculpting in time

每一个故事都有起点与终点
Every story has a beginning and an end.

Covid19 AI Research

1 分钟

最近一周一直在优化自己结合论文和其他研究资料开发的Covid-Net，用于诊断Covid19的深度学习模型，在2万+的xRay数据集上训练得到的精度低于90%，为了能够达到更高的精度，自己尝试了改进模型和做数据集增强，但是还会有两个极端，要不就是精度达不到标准，要不就出现过拟合，自己的工作站用的显卡是P2000 5G，当模型越来越复杂时，显存明显会不够，于是狠了狠心，卖掉了DJI Inspire 2，用赚来的钱买了一张TITAN RTX 24G，然后继续优化模型，并增加训练的batch_size。

TF-MPI-分布式训练

Tensorflow基于MPI分布式训练

3 分钟

之前写过一篇文章讨论如何使用TF2.0自带的分布式训练系统，在树莓派4上建立分布式训练集群。然而这里会有一个缺陷，我们需要在每一个节点上去启动写好的训练程式，等全部启动之后，整个分布式训练才会开始运作，那么能否通过MPI消息传递接口来完成分布式的训练，答案就在Uber开发的Horovod，MPI主要用在超算领域，在树莓上搭建MPI集群，第一个可以用来学习超算上的分布式计算，第二可以在实际中观察TF在ARMv8上进行分布式训练的性能。

最新文章

分类

关于

不断的学习思考, 保持好奇心
Keep thinking, Stay curious
始终保持对于新事物的敏感
Always be sensitive to new things