Distcc/ru

Distcc — это программа, предназначенная для распределения по сети задач компиляции в рамках набора хостов. Она состоит из серверной части — distccd и клиентской — distcc. После небольшой настройки distcc может прозрачно работать с ccache, Portage и Automake.

Если вы планируете использовать distcc при начальной сборке (bootstrap) своей установки Gentoo, обратите внимание на раздел Использование distcc для начальной сборки Gentoo.

Установка
Before configuring distcc, let's first look into the installation of the package on all hosts.

Требования для всех хостов
Для работы с distcc все компьютеры в сети должны иметь GCC одной версии. К примеру, можно использовать на разных машинах 3.3.x (где x — разные), а смешивание 3.3.x с 3.2.x может привести к ошибкам при компиляции или выполнении.

Установка ПО
Distcc поставляется с графическим монитором для отслеживания заданий, отправляемых компьютером на компиляцию. Данный монитор включается, когда установлен -флаг.

После настройки -флагов установите пакет :

Auto-starting the distcc daemon
In order to have distccd started automatically, follow the next set of instructions, depending on the init system used.

Using OpenRC
Отредактируйте и убедитесь, что с помощью директивы --allow разрешены только доверенные клиенты. Для усиления безопасности можно также добавить директиву --listen, сообщив с её помощью демону distccd</tt>, на каком IP ожидать соединений (для систем с несколькими адресами). Подробнее о безопасности в distcc</tt> можно почитать в Distcc security notes.

The following example allows the distcc clients running at 192.168.0.4</tt> and 192.168.0.5</tt> to connect to the distccd</tt> server running locally:

Теперь запустите демон distccd</tt> на всех участвующих компьютерах:

Using systemd
Edit and add the allowed clients in CIDR format. Here is an example:

Reload the unit files after making such changes:

Enable auto-starting distcc</tt> and then start the service:

Configuration
Let's now look into the configuration of distcc</tt>.

Указание участвующих хостов
Для задания списка хостов используйте команду distcc-config</tt>.

Далее показан пример задания хостов. Вариантов из первой и второй строки в большинстве случаев достаточно. Подробнее о синтаксисе, использованном в третьей и четвертой строках, можно прочитать в man-странице distcc.

Есть также несколько других методов для настройки хостов. За подробностями обратитесь к man-странице distcc</tt> ( man distcc ).

Если локальная машина должна участвовать в компиляции, поместите  в список хостов. Наоборот, если локальная машина не должна участвовать в компиляции, не включайте её в список хостов. Использование localhost на медленной машине может, как ни странно, замедлить процесс. Всегда проверяйте влияние настроек на производительность.

Настроим distcc</tt> для компиляции на хостах из первой строчки примера:

Использование distcc для работы с Portage
Setting up Portage to use distcc</tt> is easy. It is a matter of enabling the distcc</tt> feature, and setting a decent value for the number of simultaneous build jobs (as distcc</tt> increases the amount of build resources).

Set the  variable and   variable as shown below.

A common strategy is to
 * set the value of  to twice the number of total (local + remote) CPU cores + 1, and
 * set the value of  to the number of local CPU cores

The use of  in the   variable will prevent spawning too many tasks when some of the distcc</tt> cluster hosts are unavailable (increasing the amount of simultaneous jobs on the other systems) or when an ebuild is configured to disallow remote builds (such as with gcc). This is accomplished by refusing to start additional jobs when the system load is at or above the value of M</tt>.

Например, если <tt>distccd</tt> запущен на двух четырехъядерных хостах, а локальный компьютер оснащен двухъядерным процессором, то переменная  может выглядеть так:

While editing the file, make sure that it does not have <tt>-march=native</tt> in the   or   variables. <tt>distccd</tt> will not distribute work to other machines if  is set to. The appropriate <tt>-march=</tt> value can be obtained by running the following command:

See Inlining <tt>-march=native</tt> for distcc for more information.

Using distcc with automake
Иногда это проще настройки Portage. Всё, что нужно сделать, это обновить переменную, добавив  перед каталогом, содержащим <tt>gcc</tt>. С одной оговоркой. Если используется <tt>ccache</tt>, то нужно поместить путь к distcc после пути к ccache:

Поместите это в пользовательский или его эквивалент, чтобы переменная   устанавливалась при каждом входе пользователя в систему, либо задайте ее глобально через файл.

Instead of calling <tt>make</tt> alone, add in  (where   is an integer). The value of  depends on the network and the types of computers that are used to compile. A heuristic approach to the right value is given earlier in this article.

Использование distcc для начальной сборки Gentoo
Using <tt>distcc</tt> to bootstrap (i.e. build a working toolchain before installing the remainder of the system) requires some additional steps to take.

Шаг 1: настройка Portage
Boot the new box with a Gentoo Linux LiveCD and follow the installation instructions, while keeping track of the instructions in the Gentoo FAQ for information about bootstrapping. Then configure Portage to use <tt>distcc</tt>:

Также обновите переменную  в установочном сеансе:

Шаг 2: установка Distcc
Установите :

Шаг 3: настройка distcc
Run <tt>distcc-config --install</tt> to setup distcc; substitute the  in the example with the IP addresses or hostnames of the participating nodes.

Distcc is now set up to bootstrap! Continue with the proper installation instructions and do not forget to run <tt>emerge distcc</tt> after running <tt>emerge @system</tt>. This is to make sure that all of the necessary dependencies are installed.

Расширения distcc
The <tt>distcc</tt> application has additional features and applications to support working in a <tt>distcc</tt> environment.

Мониторы distcc
Distcc поставляется с двумя инструментами мониторинга. Текстовая утилита для мониторинга собирается всегда и называется <tt>distccmon-text</tt>. Интерфейс поначалу может смутить, но на самом деле использовать его очень просто. Если запустить программу без параметров, она просто запустится однократно. Однако, если передать ей в качестве параметра число, то информация будет обновляться каждые   секунд.

Другая утилита для мониторинга включается с помощью USE-флага. Она основана на GTK+, запускается в окружении X и достаточно приятна. В Gentoo, чтобы избежать путаницы, GUI-монитор переименован в  (оригинальное название — <tt>distccmon-gnome</tt>).

Чтобы наблюдать за тем, как Portage использует <tt>distcc</tt>, запустите:

A trick is to set  in environment variables:

Now update the environment:

Finally, start the GUI application:

Using SSH for distcc communication
Setting up distcc via SSH includes some pitfalls. First, generate an SSH key pair without password setup. Be aware that portage compiles programs as the Portage user (or as root if  is not set). The home folder of the Portage user is, which means the keys need to be stored in

Во-вторых, сделайте для каждого хоста раздел в файле конфигурации SSH:

Send the public key to each compilation node:

Also make sure that each host is available in the file:

Fix the file permissions as follows:

To set up the hosts <tt>test1</tt> and <tt>test2</tt>, run:

Обратите внимание на знак <tt>@</tt>, с его помощью в distcc указываются ssh-хосты.

Finally, tell <tt>distcc</tt> which SSH binary to use:

It is not necessary to run the initscript on the hosts when <tt>distcc</tt> communicates via SSH.

Устранение проблем
If a problem occurs while using <tt>distcc</tt>, then this section might help in resolving the problem.

ERROR: failed to open
As of January 22nd, 2015 emerging fails to create the proper file in. This apparently only effects version 3.1-r8 of distcc. This bug is in the process of being corrected (see ). It is possible to work around this by manually creating the log file, giving it proper ownership, and restarting the distccd daemon:

Next update the path of the <tt>distccd</tt> configuration file in  to the  directory created in the step before:

Finally, restart the distccd service:

Some packages do not use distcc
Можно заметить, что сборка некоторых пакетов не распределяется по хостам (и не происходит параллельно, т. е. в несколько процессов). Такое может происходить, когда пакета не поддерживает параллельные операции, или мейнтейнер ebuild’а явно отключил их, чтобы избежать известных проблем.

Иногда <tt>distcc</tt> может вызывать сбой при компиляции пакета. Если такое происходит, пожалуйста, сообщите об этом.

Смешанные версии GCC
Если на взаимодействующих хостах разные версии GCC, то велика вероятность возникновения очень странных проблем. Решение — установить на все хосты одну версию GCC.

Recent Portage updates have made Portage use  (minus gcc) instead of. This means that if i686 machines are mixed with other types (i386, i586) then the builds will run into troubles. A workaround for this may be to run:

It is also possible to set the  and   variables in  to the values list in the command above.

-march=native
Starting with GCC 4.3.0, the compiler supports the <tt>-march=native</tt> option which turns on CPU auto-detection and optimizations that are worth being enabled on the processor on which GCC is running. This creates a problem when using <tt>distcc</tt> because it allows the mixing of code optimized for different processors. For example, running <tt>distcc</tt> with <tt>-march=native</tt> on a system that has an AMD Athlon processor and doing the same on another system that has an Intel Pentium processor will mix code compiled on both processors together.

Обратите внимание на следующее предупреждение:

To know the flags that GCC would enable when called with <tt>-march=native</tt>, execute the following:

Внешние источники

 * Inlining <tt>-march=native</tt> for distcc
 * Distcc homepage