rsnt_translations
56,430
edits
(Created page with "=====Nœuds multiples=====") |
No edit summary |
||
Line 189: | Line 189: | ||
*Nous allons utiliser [https://github.com/tensorflow/benchmarks ce code] pour illustrer les diverses méthodes; vous pouvez l'adapter à vos besoins spécifiques. | *Nous allons utiliser [https://github.com/tensorflow/benchmarks ce code] pour illustrer les diverses méthodes; vous pouvez l'adapter à vos besoins spécifiques. | ||
====Parameter Server==== | ====Parameter Server==== | ||
La copie maîtresse des variables est enregistrée sur un serveur de paramètres. En | La copie maîtresse des variables est enregistrée sur un serveur de paramètres. En entraînement distribué, les serveurs de paramètres sont des processus distincts dans chacun des appareils. À chaque étape, chacune des tours obtient du serveur de paramètres une copie des variables et y retourne ses gradients. | ||
Les paramètres peuvent être enregistrés sur un CPU | Les paramètres peuvent être enregistrés sur un CPU |