https://nplus1.ru/news/2021/07/29/learning-over-the-internet

Разработчики из России, США и Канады создали и протестировали новую платформу распределенного обучения нейросетей на множестве компьютеров, соединенных через интернет. Система сама распределяет задачи по компьютерам, учитывая при этом их характеристики, а также справляется с потерей части участников и их работой в разное время. Разработчики продемонстрировали работу платформы, обучив нейросеть для обработки бенгальского языка на компьютерах 40 добровольцев за девять дней. Статья о разработке опубликована на arXiv.org, также разработчики рассказали о ней в блоге Hugging Face.