Π‘ΡΠΊΠΎΠ½ΠΎΠΌΡŒΡ‚Π΅ 15% Π½Π° всСх хостинговых услугах

ΠŸΡ€ΠΎΠ²Π΅Ρ€ΡŒΡ‚Π΅ свои Π½Π°Π²Ρ‹ΠΊΠΈ ΠΈ ΠΏΠΎΠ»ΡƒΡ‡ΠΈΡ‚Π΅ скидку Π½Π° любой Ρ‚Π°Ρ€ΠΈΡ„Π½Ρ‹ΠΉ ΠΏΠ»Π°Π½

Π˜ΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠΉΡ‚Π΅ ΠΊΠΎΠ΄: Skills ΠΠ°Ρ‡Π°Ρ‚ΡŒ
Π ΡƒΠ±Ρ€ΠΈΠΊΠΈ
Администрация

ОбъСдинСниС сСтСвых интСрфСйсов: всС 7 Ρ€Π΅ΠΆΠΈΠΌΠΎΠ², Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π° ΠΈ Ρ€Π΅Π°Π»ΡŒΠ½Π°Ρ конфигурация

Network bonding β€” Ρ‚Π°ΠΊΠΆΠ΅ Π½Π°Π·Ρ‹Π²Π°Π΅ΠΌΡ‹ΠΉ NIC teaming, Π°Π³Ρ€Π΅Π³ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ΠΌ ΠΊΠ°Π½Π°Π»ΠΎΠ² ΠΈΠ»ΠΈ Ethernet bonding β€” это ΠΌΠ΅Ρ‚ΠΎΠ΄ объСдинСния Π΄Π²ΡƒΡ… ΠΈΠ»ΠΈ Π±ΠΎΠ»Π΅Π΅ физичСских сСтСвых интСрфСйсных ΠΊΠ°Ρ€Ρ‚ (NIC) Π² Π΅Π΄ΠΈΠ½Ρ‹ΠΉ логичСский интСрфСйс, управляСмый ядром ΠΎΠΏΠ΅Ρ€Π°Ρ†ΠΈΠΎΠ½Π½ΠΎΠΉ систСмы. Π Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚ΠΎΠΌ являСтся ΡƒΠ½ΠΈΡ„ΠΈΡ†ΠΈΡ€ΠΎΠ²Π°Π½Π½ΠΎΠ΅ сСтСвоС устройство, ΠΎΠ±Π΅ΡΠΏΠ΅Ρ‡ΠΈΠ²Π°ΡŽΡ‰Π΅Π΅ ΡƒΠ²Π΅Π»ΠΈΡ‡Π΅Π½Π½ΡƒΡŽ ΡΠΎΠ²ΠΎΠΊΡƒΠΏΠ½ΡƒΡŽ ΠΏΡ€ΠΎΠΏΡƒΡΠΊΠ½ΡƒΡŽ ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΡŒ, автоматичСскоС ΠΏΠ΅Ρ€Π΅ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΠ΅ ΠΏΡ€ΠΈ ΠΎΡ‚ΠΊΠ°Π·Π΅ ΠΈ распрСдСлСниС Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ ΠΏΠΎ всСм ΠΏΠΎΠ΄ΠΊΠ»ΡŽΡ‡Ρ‘Π½Π½Ρ‹ΠΌ ΠΊΠ°Π½Π°Π»Π°ΠΌ ΠΎΠ΄Π½ΠΎΠ²Ρ€Π΅ΠΌΠ΅Π½Π½ΠΎ.

На ΡƒΡ€ΠΎΠ²Π½Π΅ ядра Π² Linux-систСмах bonding Ρ€Π΅Π°Π»ΠΈΠ·ΠΎΠ²Π°Π½ Ρ‡Π΅Ρ€Π΅Π· ΠΌΠΎΠ΄ΡƒΠ»ΡŒ ядра `bonding`, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ прСдставляСт Π΅Π΄ΠΈΠ½Ρ‹ΠΉ Π²ΠΈΡ€Ρ‚ΡƒΠ°Π»ΡŒΠ½Ρ‹ΠΉ интСрфСйс (ΠΎΠ±Ρ‹Ρ‡Π½ΠΎ Π½Π°Π·Ρ‹Π²Π°Π΅ΠΌΡ‹ΠΉ `bond0`) сСтСвому стСку. Π­Ρ‚Π° абстракция ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ прилоТСния, Ρ‚Π°Π±Π»ΠΈΡ†Ρ‹ ΠΌΠ°Ρ€ΡˆΡ€ΡƒΡ‚ΠΈΠ·Π°Ρ†ΠΈΠΈ ΠΈ ΠΏΡ€Π°Π²ΠΈΠ»Π° брандмауэра Π²Π·Π°ΠΈΠΌΠΎΠ΄Π΅ΠΉΡΡ‚Π²ΡƒΡŽΡ‚ с ΠΎΠ΄Π½ΠΈΠΌ интСрфСйсом нСзависимо ΠΎΡ‚ Ρ‚ΠΎΠ³ΠΎ, сколько физичСских NIC находится ΠΏΠΎΠ΄ Π½ΠΈΠΌ β€” критичСски ваТная архитСктурная Π΄Π΅Ρ‚Π°Π»ΡŒ, ΡƒΠΏΡ€ΠΎΡ‰Π°ΡŽΡ‰Π°Ρ ΡƒΠΏΡ€Π°Π²Π»Π΅Π½ΠΈΠ΅ ΠΈ ΠΎΠ±Π΅ΡΠΏΠ΅Ρ‡ΠΈΠ²Π°ΡŽΡ‰Π°Ρ ΠΎΡ‚ΠΊΠ°Π·ΠΎΡƒΡΡ‚ΠΎΠΉΡ‡ΠΈΠ²ΠΎΡΡ‚ΡŒ ΠΊΠΎΡ€ΠΏΠΎΡ€Π°Ρ‚ΠΈΠ²Π½ΠΎΠ³ΠΎ уровня.

ΠŸΠΎΡ‡Π΅ΠΌΡƒ Network Bonding Π²Π°ΠΆΠ΅Π½ Π² производствСнных срСдах

ΠŸΡ€Π΅ΠΆΠ΄Π΅ Ρ‡Π΅ΠΌ ΡƒΠ³Π»ΡƒΠ±Π»ΡΡ‚ΡŒΡΡ Π² Ρ€Π΅ΠΆΠΈΠΌΡ‹, стоит Ρ‚ΠΎΡ‡Π½ΠΎ ΠΏΠΎΠ½ΡΡ‚ΡŒ, ΠΊΠ°ΠΊΡƒΡŽ ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΡƒ Ρ€Π΅ΡˆΠ°Π΅Ρ‚ bonding β€” ΠΈ Π³Π΄Π΅ ΠΎΠ½ Π½Π΅ ΠΏΡ€ΠΈΠΌΠ΅Π½ΠΈΠΌ. Один ΠΏΠΎΡ€Ρ‚ Gigabit Ethernet ΠΈΠΌΠ΅Π΅Ρ‚ Тёсткий ΠΏΠΎΡ‚ΠΎΠ»ΠΎΠΊ пропускной способности ΠΎΠΊΠΎΠ»ΠΎ 125 MB/s. Для сСрвСра Π±Π°Π· Π΄Π°Π½Π½Ρ‹Ρ…, ΡƒΠ·Π»Π° хранСния ΠΈΠ»ΠΈ высоконагруТСнного Π²Π΅Π±-прилоТСния этот ΠΏΠΎΡ‚ΠΎΠ»ΠΎΠΊ достигаСтся быстро. ОбъСдинСниС Π΄Π²ΡƒΡ… NIC 1 GbE Π½Π΅ ΡƒΠ΄Π²Π°ΠΈΠ²Π°Π΅Ρ‚ магичСски ΠΏΡ€ΠΎΠΏΡƒΡΠΊΠ½ΡƒΡŽ ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΡŒ для ΠΎΠ΄Π½ΠΎΠ³ΠΎ TCP-ΠΏΠΎΡ‚ΠΎΠΊΠ° (это распространённоС Π·Π°Π±Π»ΡƒΠΆΠ΄Π΅Π½ΠΈΠ΅), Π½ΠΎ позволяСт нСскольким ΠΎΠ΄Π½ΠΎΠ²Ρ€Π΅ΠΌΠ΅Π½Π½Ρ‹ΠΌ ΠΏΠΎΡ‚ΠΎΠΊΠ°ΠΌ Π½Π°ΡΡ‹Ρ‰Π°Ρ‚ΡŒ ΠΎΠ±Π° ΠΊΠ°Π½Π°Π»Π°, эффСктивно удваивая ΡΠΎΠ²ΠΎΠΊΡƒΠΏΠ½ΡƒΡŽ Ρ‘ΠΌΠΊΠΎΡΡ‚ΡŒ.

Помимо чистой пропускной способности, bonding устраняСт Π΅Π΄ΠΈΠ½ΡƒΡŽ Ρ‚ΠΎΡ‡ΠΊΡƒ ΠΎΡ‚ΠΊΠ°Π·Π°, ΠΊΠΎΡ‚ΠΎΡ€ΡƒΡŽ прСдставляСт ΠΎΠ΄ΠΈΠ½ΠΎΡ‡Π½Ρ‹ΠΉ NIC ΠΈΠ»ΠΈ кабСль. Π’ срСдах, Π³Π΄Π΅ врСмя Π±Π΅Π·ΠΎΡ‚ΠΊΠ°Π·Π½ΠΎΠΉ Ρ€Π°Π±ΠΎΡ‚Ρ‹ измСряСтся Π² «дСвятках», это ΠΈΠΌΠ΅Π΅Ρ‚ ΠΎΠ³Ρ€ΠΎΠΌΠ½ΠΎΠ΅ Π·Π½Π°Ρ‡Π΅Π½ΠΈΠ΅.

ΠžΡΠ½ΠΎΠ²Π½Ρ‹Π΅ прСимущСства Π²ΠΊΡ€Π°Ρ‚Ρ†Π΅

  • Бовокупная пропускная ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΡŒ: нСсколько физичСских ΠΊΠ°Π½Π°Π»ΠΎΠ² вносят Π²ΠΊΠ»Π°Π΄ Π² ΠΎΠ±Ρ‰ΡƒΡŽ ΠΏΡ€ΠΎΠΏΡƒΡΠΊΠ½ΡƒΡŽ ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΡŒ для ΠΎΠ΄Π½ΠΎΠ²Ρ€Π΅ΠΌΠ΅Π½Π½Ρ‹Ρ… ΠΏΠΎΡ‚ΠΎΠΊΠΎΠ² Ρ‚Ρ€Π°Ρ„ΠΈΠΊΠ°
  • АвтоматичСскоС ΠΏΠ΅Ρ€Π΅ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΠ΅ ΠΏΡ€ΠΈ ΠΎΡ‚ΠΊΠ°Π·Π΅: ΠΎΠ±Π½Π°Ρ€ΡƒΠΆΠ΅Π½ΠΈΠ΅ ΠΎΡ‚ΠΊΠ°Π·Π° ΠΊΠ°Π½Π°Π»Π° (Ρ‡Π΅Ρ€Π΅Π· MII ΠΈΠ»ΠΈ ARP-ΠΌΠΎΠ½ΠΈΡ‚ΠΎΡ€ΠΈΠ½Π³) запускаСт ΠΏΠ΅Ρ€Π΅ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΠ΅ ΠΌΠ΅Π½Π΅Π΅ Ρ‡Π΅ΠΌ Π·Π° сСкунду Π½Π° Ρ€Π°Π±ΠΎΡ‚Π°ΡŽΡ‰ΠΈΠΉ интСрфСйс
  • РаспрСдСлСниС Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ: Ρ‚Ρ€Π°Ρ„ΠΈΠΊ распрСдСляСтся ΠΏΠΎ интСрфСйсам-участникам Π² соотвСтствии с Π°ΠΊΡ‚ΠΈΠ²Π½Ρ‹ΠΌ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠΎΠΌ bonding
  • ΠŸΡ€ΠΎΠ·Ρ€Π°Ρ‡Π½ΠΎΡΡ‚ΡŒ для ΠΏΡ€ΠΈΠ»ΠΎΠΆΠ΅Π½ΠΈΠΉ: интСрфСйс bond ΠΈΠΌΠ΅Π΅Ρ‚ Π΅Π΄ΠΈΠ½Ρ‹ΠΉ MAC-адрСс ΠΈ IP, Π½Π΅ трСбуя ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΠΉ Π½Π° ΡƒΡ€ΠΎΠ²Π½Π΅ ΠΏΡ€ΠΈΠ»ΠΎΠΆΠ΅Π½ΠΈΠΉ
  • ЭкономичСская ΡΡ„Ρ„Π΅ΠΊΡ‚ΠΈΠ²Π½ΠΎΡΡ‚ΡŒ оборудования: объСдинСниС Π±ΡŽΠ΄ΠΆΠ΅Ρ‚Π½Ρ‹Ρ… NIC ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ Π±ΠΎΠ»Π΅Π΅ экономичСски Π²Ρ‹Π³ΠΎΠ΄Π½Ρ‹ΠΌ, Ρ‡Π΅ΠΌ ΠΏΠ΅Ρ€Π΅Ρ…ΠΎΠ΄ Π½Π° ΠΎΠ΄Π½Ρƒ ΠΊΠ°Ρ€Ρ‚Ρƒ 10 GbE Π² Π½Π΅ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… сцСнариях

АрхитСктура Network Bonding: ΠΊΠ°ΠΊ это Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ ΠΈΠ·Π½ΡƒΡ‚Ρ€ΠΈ

Π”Ρ€Π°ΠΉΠ²Π΅Ρ€ bonding ядра Linux Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ ΠΌΠ΅ΠΆΠ΄Ρƒ ΡƒΡ€ΠΎΠ²Π½Π΅ΠΌ 2 (ΠΊΠ°Π½Π°Π»ΡŒΠ½Ρ‹ΠΌ) ΠΈ физичСскими Π΄Ρ€Π°ΠΉΠ²Π΅Ρ€Π°ΠΌΠΈ NIC. ΠŸΡ€ΠΈ ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‡Π΅ ΠΊΠ°Π΄Ρ€Π° ΠΏΠΎΠ»ΠΈΡ‚ΠΈΠΊΠ° ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‡ΠΈ Π΄Ρ€Π°ΠΉΠ²Π΅Ρ€Π° bonding Π²Ρ‹Π±ΠΈΡ€Π°Π΅Ρ‚, ΠΊΠ°ΠΊΠΎΠΉ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹ΠΉ интСрфСйс ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ. ΠŸΡ€ΠΈ ΠΏΠΎΠ»ΡƒΡ‡Π΅Π½ΠΈΠΈ всС ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹Π΅ интСрфСйсы ΠΏΠ΅Ρ€Π΅Π΄Π°ΡŽΡ‚ ΠΊΠ°Π΄Ρ€Ρ‹ мастСру bond, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ Π΄Π΅Π΄ΡƒΠΏΠ»ΠΈΡ†ΠΈΡ€ΡƒΠ΅Ρ‚ ΠΈΡ… ΠΈ доставляСт Π² сСтСвой стСк.

ΠœΠΎΠ½ΠΈΡ‚ΠΎΡ€ΠΈΠ½Π³ ΠΊΠ°Π½Π°Π»ΠΎΠ² β€” это ΠΌΠ΅Ρ…Π°Π½ΠΈΠ·ΠΌ обнаруТСния ΠΎΡ‚ΠΊΠ°Π·ΠΎΠ². БущСствуСт Π΄Π²Π° ΠΌΠ΅Ρ‚ΠΎΠ΄Π°:

  • MII (Media Independent Interface) ΠΌΠΎΠ½ΠΈΡ‚ΠΎΡ€ΠΈΠ½Π³: ΠΎΠΏΡ€Π°ΡˆΠΈΠ²Π°Π΅Ρ‚ физичСскоС состояниС ΠΊΠ°Π½Π°Π»Π° ΠΊΠ°ΠΆΠ΄ΠΎΠ³ΠΎ NIC с настраиваСмым ΠΈΠ½Ρ‚Π΅Ρ€Π²Π°Π»ΠΎΠΌ (ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€ `miimon`, ΠΎΠ±Ρ‹Ρ‡Π½ΠΎ 100 мс). Быстрый ΠΈ Π½Π°Π΄Ρ‘ΠΆΠ½Ρ‹ΠΉ для обнаруТСния ΠΎΡ‚ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΡ кабСля ΠΈΠ»ΠΈ ΠΎΡ‚ΠΊΠ°Π·Π° NIC.
  • ARP-ΠΌΠΎΠ½ΠΈΡ‚ΠΎΡ€ΠΈΠ½Π³: отправляСт ARP-запросы Π½Π° Ρ†Π΅Π»Π΅Π²ΠΎΠΉ IP ΠΈ ΠΎΠΆΠΈΠ΄Π°Π΅Ρ‚ ΠΎΡ‚Π²Π΅Ρ‚ΠΎΠ². Π‘ΠΎΠ»Π΅Π΅ ΠΏΠΎΠ»Π΅Π·Π΅Π½, ΠΊΠΎΠ³Π΄Π° Π½ΡƒΠΆΠ½ΠΎ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΈΡ‚ΡŒ сквозноС соСдинСниС, Π° Π½Π΅ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ физичСскоС состояниС ΠΊΠ°Π½Π°Π»Π°, Π½ΠΎ Π²Π²ΠΎΠ΄ΠΈΡ‚ Π·Π°Π²ΠΈΡΠΈΠΌΠΎΡΡ‚ΡŒ ΠΎΡ‚ доступной ARP-Ρ†Π΅Π»ΠΈ.

ΠŸΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€Ρ‹ `downdelay` ΠΈ `updelay` Π΄ΠΎΠ±Π°Π²Π»ΡΡŽΡ‚ гистСрСзис β€” прСдотвращая быстроС ΠΏΠ΅Ρ€Π΅ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΠ΅ ΠΏΡ€ΠΈ Π½Π΅ΡΡ‚Π°Π±ΠΈΠ»ΡŒΠ½ΠΎΠΌ ΠΊΠ°Π½Π°Π»Π΅. Установка этих Π·Π½Π°Ρ‡Π΅Π½ΠΈΠΉ ΠΏΠΎ 200 мс являСтся распространённой производствСнной Π±Π°Π·ΠΎΠ²ΠΎΠΉ ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΠ΅ΠΉ.

ВсС 7 Ρ€Π΅ΠΆΠΈΠΌΠΎΠ² Linux Bonding: тСхничСский Ρ€Π°Π·Π±ΠΎΡ€

Π”Ρ€Π°ΠΉΠ²Π΅Ρ€ bonding Linux опрСдСляСт сСмь Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹Ρ… Ρ€Π΅ΠΆΠΈΠΌΠΎΠ² (ΠΎΡ‚ 0 Π΄ΠΎ 6). ΠšΠ°ΠΆΠ΄Ρ‹ΠΉ Ρ€Π΅Π°Π»ΠΈΠ·ΡƒΠ΅Ρ‚ ΠΎΡ‚Π»ΠΈΡ‡Π½ΡƒΡŽ ΠΏΠΎΠ»ΠΈΡ‚ΠΈΠΊΡƒ ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‡ΠΈ ΠΈ ΠΏΠΎΠ²Π΅Π΄Π΅Π½ΠΈΠ΅ ΠΏΡ€ΠΈ ΠΎΡ‚ΠΊΠ°Π·Π΅. Π’Ρ‹Π±ΠΎΡ€ Π½Π΅ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΠΎΠ³ΠΎ Ρ€Π΅ΠΆΠΈΠΌΠ° являСтся ΠΎΠ΄Π½ΠΎΠΉ ΠΈΠ· Π½Π°ΠΈΠ±ΠΎΠ»Π΅Π΅ распространённых ошибок ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΠΈ ΠΏΡ€ΠΈ Ρ€Π°Π·Π²Ρ‘Ρ€Ρ‚Ρ‹Π²Π°Π½ΠΈΠΈ сСрвСров.

Π Π΅ΠΆΠΈΠΌ 0 β€” Round-Robin (balance-rr)

ΠŸΠ°ΠΊΠ΅Ρ‚Ρ‹ ΠΏΠ΅Ρ€Π΅Π΄Π°ΡŽΡ‚ΡΡ ΠΏΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ ΠΏΠΎ всСм Π°ΠΊΡ‚ΠΈΠ²Π½Ρ‹ΠΌ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹ΠΌ интСрфСйсам Π² цикличСском порядкС: ΠΏΠ°ΠΊΠ΅Ρ‚ 1 Π½Π° eth0, ΠΏΠ°ΠΊΠ΅Ρ‚ 2 Π½Π° eth1, ΠΏΠ°ΠΊΠ΅Ρ‚ 3 Π½Π° eth0 ΠΈ Ρ‚Π°ΠΊ Π΄Π°Π»Π΅Π΅.

Π§Ρ‚ΠΎ происходит Π½Π° самом Π΄Π΅Π»Π΅: Round-robin Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ Π½Π° ΡƒΡ€ΠΎΠ²Π½Π΅ ΠΏΠ°ΠΊΠ΅Ρ‚ΠΎΠ², Π° Π½Π΅ ΠΏΠΎΡ‚ΠΎΠΊΠΎΠ². Π­Ρ‚ΠΎ ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ ΠΏΠ°ΠΊΠ΅Ρ‚Ρ‹ ΠΎΠ΄Π½ΠΎΠ³ΠΎ TCP-соСдинСния ΠΌΠΎΠ³ΡƒΡ‚ Π±Ρ‹Ρ‚ΡŒ доставлСны Π½Π΅ ΠΏΠΎ порядку, Ссли Π΄Π²Π° ΠΏΡƒΡ‚ΠΈ ΠΈΠΌΠ΅ΡŽΡ‚ Ρ€Π°Π·Π½ΡƒΡŽ Π·Π°Π΄Π΅Ρ€ΠΆΠΊΡƒ. TCP-стСк ΠΏΡ€ΠΈΠ½ΠΈΠΌΠ°ΡŽΡ‰Π΅Π³ΠΎ хоста пСрСупорядочит ΠΈΡ…, Π½ΠΎ это Π²Ρ‹Π·Ρ‹Π²Π°Π΅Ρ‚ ΠΏΠΎΠ²Ρ‚ΠΎΡ€Π½Ρ‹Π΅ ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‡ΠΈ ΠΈ сниТСниС пропускной способности Π½Π° ΠΏΡ€Π°ΠΊΡ‚ΠΈΠΊΠ΅ β€” особСнно Π·Π°ΠΌΠ΅Ρ‚Π½ΠΎ ΠΏΡ€ΠΈ ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‡Π΅ Π±ΠΎΠ»ΡŒΡˆΠΈΡ… Ρ„Π°ΠΉΠ»ΠΎΠ² ΠΏΠΎ ΠΎΠ΄Π½ΠΎΠΌΡƒ соСдинСнию.

Π’Ρ€Π΅Π±ΠΎΠ²Π°Π½ΠΈΠ΅ ΠΊ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Ρƒ: ΠΏΠΎΡ€Ρ‚Ρ‹ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π° Π΄ΠΎΠ»ΠΆΠ½Ρ‹ Π±Ρ‹Ρ‚ΡŒ настроСны ΠΊΠ°ΠΊ статичСская LAG (Link Aggregation Group) Π±Π΅Π· LACP. Π‘Π΅Π· этого ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€ Π±ΡƒΠ΄Π΅Ρ‚ Π²ΠΈΠ΄Π΅Ρ‚ΡŒ ΠΊΠ°Π΄Ρ€Ρ‹ с ΠΎΠ΄Π½ΠΎΠ³ΠΎ MAC-адрСса, ΠΏΠΎΡΡ‚ΡƒΠΏΠ°ΡŽΡ‰ΠΈΠ΅ Π½Π° нСсколько ΠΏΠΎΡ€Ρ‚ΠΎΠ², ΠΈ ΠΌΠΎΠΆΠ΅Ρ‚ ΠΈΠ½ΠΈΡ†ΠΈΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΎΡ‚ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΠ΅ Π·Π°Ρ‰ΠΈΡ‚Ρ‹ ΠΎΡ‚ ΠΏΠ΅Ρ‚Π΅Π»ΡŒ.

Π›ΡƒΡ‡ΡˆΠ΅Π΅ ΠΏΡ€ΠΈΠΌΠ΅Π½Π΅Π½ΠΈΠ΅: Ρ€Π°Π±ΠΎΡ‡ΠΈΠ΅ Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ с массовой ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‡Π΅ΠΉ Π΄Π°Π½Π½Ρ‹Ρ… ΠΏΡ€ΠΈ мноТСствС ΠΎΠ΄Π½ΠΎΠ²Ρ€Π΅ΠΌΠ΅Π½Π½Ρ‹Ρ… ΠΊΡ€Π°Ρ‚ΠΊΠΎΠ²Ρ€Π΅ΠΌΠ΅Π½Π½Ρ‹Ρ… соСдинСний, Π³Π΄Π΅ допустима пСрСупорядочиваниС ΠΏΠ°ΠΊΠ΅Ρ‚ΠΎΠ².

Π Π΅ΠΆΠΈΠΌ 1 β€” Active-Backup

Π’ любой ΠΌΠΎΠΌΠ΅Π½Ρ‚ Π²Ρ€Π΅ΠΌΠ΅Π½ΠΈ Π°ΠΊΡ‚ΠΈΠ²Π΅Π½ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΎΠ΄ΠΈΠ½ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹ΠΉ интСрфСйс. ВсС ΠΎΡΡ‚Π°Π»ΡŒΠ½Ρ‹Π΅ находятся Π² Ρ€Π΅ΠΆΠΈΠΌΠ΅ горячСго Ρ€Π΅Π·Π΅Ρ€Π²Π°. ΠŸΡ€ΠΈ ΠΎΡ‚ΠΊΠ°Π·Π΅ Π°ΠΊΡ‚ΠΈΠ²Π½ΠΎΠ³ΠΎ ΠΊΠ°Π½Π°Π»Π° (ΠΎΠ±Π½Π°Ρ€ΡƒΠΆΠ΅Π½Π½ΠΎΠΌ Ρ‡Π΅Ρ€Π΅Π· MII ΠΈΠ»ΠΈ ARP-ΠΌΠΎΠ½ΠΈΡ‚ΠΎΡ€ΠΈΠ½Π³) Π΄Ρ€Π°ΠΉΠ²Π΅Ρ€ bonding ΠΏΠ΅Ρ€Π΅Π²ΠΎΠ΄ΠΈΡ‚ Ρ€Π΅Π·Π΅Ρ€Π²Π½Ρ‹ΠΉ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹ΠΉ интСрфСйс Π² Π°ΠΊΡ‚ΠΈΠ²Π½Ρ‹ΠΉ Ρ€Π΅ΠΆΠΈΠΌ ΠΈ отправляСт gratuitous ARP для обновлСния Ρ‚Π°Π±Π»ΠΈΡ† MAC-адрСсов сСти.

Π’Π°ΠΆΠ½Ρ‹ΠΉ нюанс: Π² Ρ€Π΅ΠΆΠΈΠΌΠ΅ active-backup интСрфСйс bond всСгда прСдставляСт ΠΎΠ΄ΠΈΠ½ ΠΈ Ρ‚ΠΎΡ‚ ΠΆΠ΅ MAC-адрСс сСти (MAC Ρ‚Π΅ΠΊΡƒΡ‰Π΅Π³ΠΎ Π°ΠΊΡ‚ΠΈΠ²Π½ΠΎΠ³ΠΎ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½ΠΎΠ³ΠΎ). Π­Ρ‚ΠΎ ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ ΡΠΏΠ΅Ρ†ΠΈΠ°Π»ΡŒΠ½Π°Ρ конфигурация ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π° Π½Π΅ трСбуСтся β€” с Ρ‚ΠΎΡ‡ΠΊΠΈ зрСния ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π° это ΠΎΠ±Ρ‹Ρ‡Π½ΠΎΠ΅ ΠΏΠΎΠ΄ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΠ΅ ΠΎΠ΄Π½ΠΎΠ³ΠΎ хоста. Π­Ρ‚ΠΎ СдинствСнный Ρ€Π΅ΠΆΠΈΠΌ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΠΊΠΎΡ€Ρ€Π΅ΠΊΡ‚Π½ΠΎ Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ Π½Π° ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π°Ρ… Π±Π΅Π· ΠΊΠ°ΠΊΠΎΠΉ-Π»ΠΈΠ±ΠΎ ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΠΈ LAG.

ВрСмя ΠΏΠ΅Ρ€Π΅ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΡ ΠΏΡ€ΠΈ ΠΎΡ‚ΠΊΠ°Π·Π΅: ΠΏΡ€ΠΈ `miimon=100`, `downdelay=200`, `updelay=200` ΠΌΠΎΠΆΠ½ΠΎ ΠΎΠΆΠΈΠ΄Π°Ρ‚ΡŒ ΠΏΠ΅Ρ€Π΅ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΡ ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π½ΠΎ Π·Π° 200–300 мс β€” достаточно быстро, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π² Π±ΠΎΠ»ΡŒΡˆΠΈΠ½ΡΡ‚Π²Π΅ случаСв ΠΈΠ·Π±Π΅ΠΆΠ°Ρ‚ΡŒ Ρ€Π°Π·Ρ€Ρ‹Π²Π° TCP-сСссий.

Π›ΡƒΡ‡ΡˆΠ΅Π΅ ΠΏΡ€ΠΈΠΌΠ΅Π½Π΅Π½ΠΈΠ΅: сцСнарии высокой доступности, Π³Π΄Π΅ простота ΠΈ ΡΠΎΠ²ΠΌΠ΅ΡΡ‚ΠΈΠΌΠΎΡΡ‚ΡŒ Π²Π°ΠΆΠ½Π΅Π΅ пропускной способности β€” интСрфСйсы управлСния, внСполосный доступ ΠΈΠ»ΠΈ любая срСда, Π³Π΄Π΅ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€ Π½Π΅ находится ΠΏΠΎΠ΄ вашим ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»Π΅ΠΌ.

Π Π΅ΠΆΠΈΠΌ 2 β€” Balance-XOR

Π’Ρ€Π°Ρ„ΠΈΠΊ распрСдСляСтся с использованиСм ΠΏΠΎΠ»ΠΈΡ‚ΠΈΠΊΠΈ Ρ…Π΅ΡˆΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡ ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‡ΠΈ, примСняСмой ΠΊ ΠΊΠ°ΠΆΠ΄ΠΎΠΌΡƒ ΠΏΠ°ΠΊΠ΅Ρ‚Ρƒ. Π₯Сш ΠΏΠΎ ΡƒΠΌΠΎΠ»Ρ‡Π°Π½ΠΈΡŽ β€” `(source_MAC XOR destination_MAC) modulo slave_count`. ΠŸΠΎΠ»ΠΈΡ‚ΠΈΠΊΠΈ Π±ΠΎΠ»Π΅Π΅ высокого уровня (`layer3+4`) ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡŽΡ‚ IP-адрСса ΠΈ Π½ΠΎΠΌΠ΅Ρ€Π° ΠΏΠΎΡ€Ρ‚ΠΎΠ² для Π»ΡƒΡ‡ΡˆΠ΅Π³ΠΎ распрСдСлСния.

ΠŸΠΎΠ»ΠΈΡ‚ΠΈΠΊΠ° layer3+4: настройка `xmit_hash_policy=layer3+4` Π·Π½Π°Ρ‡ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΡƒΠ»ΡƒΡ‡ΡˆΠ°Π΅Ρ‚ распрСдСлСниС Π·Π° счёт Ρ…Π΅ΡˆΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡ ΠΏΠΎ исходному IP, Ρ†Π΅Π»Π΅Π²ΠΎΠΌΡƒ IP, исходному ΠΏΠΎΡ€Ρ‚Ρƒ ΠΈ Ρ†Π΅Π»Π΅Π²ΠΎΠΌΡƒ ΠΏΠΎΡ€Ρ‚Ρƒ. Π­Ρ‚ΠΎ Π³Π°Ρ€Π°Π½Ρ‚ΠΈΡ€ΡƒΠ΅Ρ‚, Ρ‡Ρ‚ΠΎ Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹Π΅ TCP-ΠΏΠΎΡ‚ΠΎΠΊΠΈ ΠΊ ΠΎΠ΄Π½ΠΎΠΌΡƒ ΠΈ Ρ‚ΠΎΠΌΡƒ ΠΆΠ΅ сСрвСру назначСния Ρ€Π°ΡΠΏΡ€Π΅Π΄Π΅Π»ΡΡŽΡ‚ΡΡ ΠΏΠΎ ΠΊΠ°Π½Π°Π»Π°ΠΌ, Ρ‡Π΅Π³ΠΎ Ρ…Π΅Ρˆ Π½Π° основС MAC ΠΏΠΎ ΡƒΠΌΠΎΠ»Ρ‡Π°Π½ΠΈΡŽ Π½Π΅ ΠΌΠΎΠΆΠ΅Ρ‚ ΠΎΠ±Π΅ΡΠΏΠ΅Ρ‡ΠΈΡ‚ΡŒ.

Π’Ρ€Π΅Π±ΠΎΠ²Π°Π½ΠΈΠ΅ ΠΊ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Ρƒ: статичСская конфигурация LAG Π½Π° ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π΅ (Π°Π½Π°Π»ΠΎΠ³ΠΈΡ‡Π½ΠΎ Ρ€Π΅ΠΆΠΈΠΌΡƒ 0), Π½ΠΎ Π±Π΅Π· ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΡ‹ пСрСупорядочивания ΠΏΠ°ΠΊΠ΅Ρ‚ΠΎΠ², ΠΏΠΎΡΠΊΠΎΠ»ΡŒΠΊΡƒ всС ΠΏΠ°ΠΊΠ΅Ρ‚Ρ‹ Π² Ρ€Π°ΠΌΠΊΠ°Ρ… ΠΎΠ΄Π½ΠΎΠ³ΠΎ ΠΏΠΎΡ‚ΠΎΠΊΠ° проходят Ρ‡Π΅Ρ€Π΅Π· ΠΎΠ΄ΠΈΠ½ интСрфСйс.

Π›ΡƒΡ‡ΡˆΠ΅Π΅ ΠΏΡ€ΠΈΠΌΠ΅Π½Π΅Π½ΠΈΠ΅: срСды, Ρ‚Ρ€Π΅Π±ΡƒΡŽΡ‰ΠΈΠ΅ балансировки Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ Π±Π΅Π· ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΊΠΈ LACP, особСнно Π² сочСтании с ΠΏΠΎΠ»ΠΈΡ‚ΠΈΠΊΠΎΠΉ Ρ…Π΅ΡˆΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡ `layer3+4`.

Π Π΅ΠΆΠΈΠΌ 3 β€” Broadcast

ΠšΠ°ΠΆΠ΄Ρ‹ΠΉ ΠΏΠ°ΠΊΠ΅Ρ‚ пСрСдаётся ΠΎΠ΄Π½ΠΎΠ²Ρ€Π΅ΠΌΠ΅Π½Π½ΠΎ Π½Π° всС ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹Π΅ интСрфСйсы. ΠšΠ°ΠΆΠ΄Ρ‹ΠΉ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹ΠΉ отправляСт ΠΈΠ΄Π΅Π½Ρ‚ΠΈΡ‡Π½ΡƒΡŽ копию ΠΊΠ°ΠΆΠ΄ΠΎΠ³ΠΎ ΠΊΠ°Π΄Ρ€Π°.

Когда это Π΄Π΅ΠΉΡΡ‚Π²ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΏΠΎΠ»Π΅Π·Π½ΠΎ: Ρ€Π΅ΠΆΠΈΠΌ Broadcast ΠΏΡ€Π΅Π΄Π½Π°Π·Π½Π°Ρ‡Π΅Π½ Π½Π΅ для увСличСния пропускной способности β€” ΠΎΠ½ обСспСчиваСт Π³Π°Ρ€Π°Π½Ρ‚ΠΈΡ€ΠΎΠ²Π°Π½Π½ΡƒΡŽ доставку Π½Π° нСсколько сСтСвых сСгмСнтов ΠΎΠ΄Π½ΠΎΠ²Ρ€Π΅ΠΌΠ΅Π½Π½ΠΎ. Он ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ Π² спСциализированных сцСнариях кластСризации высокой доступности, Π³Π΄Π΅ Π΄Π²Π° ΠΎΡ‚Π΄Π΅Π»ΡŒΠ½Ρ‹Ρ… ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π° ΠΈΠ»ΠΈ сСтСвых ΠΏΡƒΡ‚ΠΈ Π΄ΠΎΠ»ΠΆΠ½Ρ‹ ΠΏΠΎΠ»ΡƒΡ‡Π°Ρ‚ΡŒ ΠΊΠ°ΠΆΠ΄Ρ‹ΠΉ ΠΏΠ°ΠΊΠ΅Ρ‚ (Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€, ΠΎΠΏΡ€Π΅Π΄Π΅Π»Ρ‘Π½Π½Ρ‹Π΅ систСмы Ρ€Π΅ΠΏΠ»ΠΈΠΊΠ°Ρ†ΠΈΠΈ Ρ…Ρ€Π°Π½ΠΈΠ»ΠΈΡ‰ ΠΈΠ»ΠΈ финансовыС Ρ‚ΠΎΡ€Π³ΠΎΠ²Ρ‹Π΅ систСмы с Ρ€Π΅Π·Π΅Ρ€Π²Π½Ρ‹ΠΌΠΈ сСтСвыми структурами). Π’Π°ΠΊΠΆΠ΅ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ Π² Π½Π΅ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… конфигурациях сСтСвого ΠΌΠΎΠ½ΠΈΡ‚ΠΎΡ€ΠΈΠ½Π³Π°.

Π‘Ρ‚ΠΎΠΈΠΌΠΎΡΡ‚ΡŒ пропускной способности: ΠΏΡ€ΠΈ Π΄Π²ΡƒΡ… NIC Π² Ρ€Π΅ΠΆΠΈΠΌΠ΅ broadcast Π²Ρ‹ потрСбляСтС Π² 2 Ρ€Π°Π·Π° большС пропускной способности для ΠΊΠ°ΠΆΠ΄ΠΎΠ³ΠΎ ΠΏΠ°ΠΊΠ΅Ρ‚Π°. ΠŸΡ€ΠΈ Ρ‡Π΅Ρ‚Ρ‹Ρ€Ρ‘Ρ… NIC β€” Π² 4 Ρ€Π°Π·Π°. Π­Ρ‚ΠΎΡ‚ Ρ€Π΅ΠΆΠΈΠΌ Π½ΠΈΠΊΠΎΠ³Π΄Π° Π½Π΅ слСдуСт ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ для Ρ‚Ρ€Π°Ρ„ΠΈΠΊΠ° ΠΎΠ±Ρ‰Π΅Π³ΠΎ назначСния.

Π Π΅ΠΆΠΈΠΌ 4 β€” 802.3ad / LACP (динамичСскоС Π°Π³Ρ€Π΅Π³ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ ΠΊΠ°Π½Π°Π»ΠΎΠ²)

Π­Ρ‚ΠΎ стандарт IEEE 802.3ad, Ρ€Π΅Π°Π»ΠΈΠ·ΠΎΠ²Π°Π½Π½Ρ‹ΠΉ Ρ‡Π΅Ρ€Π΅Π· Link Aggregation Control Protocol (LACP). Π”Ρ€Π°ΠΉΠ²Π΅Ρ€ bonding ΠΈ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€ ΠΎΠ±ΠΌΠ΅Π½ΠΈΠ²Π°ΡŽΡ‚ΡΡ LACP PDU (Protocol Data Units) для динамичСского согласования Ρ‚ΠΎΠ³ΠΎ, ΠΊΠ°ΠΊΠΈΠ΅ ΠΊΠ°Π½Π°Π»Ρ‹ ΠΎΠ±Ρ€Π°Π·ΡƒΡŽΡ‚ Π³Ρ€ΡƒΠΏΠΏΡƒ агрСгирования, ΠΈΡ… ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€Ρ‹ ΠΈ состояниС.

Как Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ согласованиС LACP: каТдая сторона отправляСт LACP PDU, рСкламируя ΠΏΡ€ΠΈΠΎΡ€ΠΈΡ‚Π΅Ρ‚ систСмы, ΠΏΡ€ΠΈΠΎΡ€ΠΈΡ‚Π΅Ρ‚ ΠΏΠΎΡ€Ρ‚Π° ΠΈ ΠΊΠ»ΡŽΡ‡ агрСгирования. ΠšΠ°Π½Π°Π»Ρ‹ с ΡΠΎΠ²ΠΏΠ°Π΄Π°ΡŽΡ‰ΠΈΠΌΠΈ ΠΊΠ»ΡŽΡ‡Π°ΠΌΠΈ с ΠΎΠ±Π΅ΠΈΡ… сторон ΠΎΠ±Ρ€Π°Π·ΡƒΡŽΡ‚ LAG. ΠŸΡ€ΠΈ ΠΎΡ‚ΠΊΠ°Π·Π΅ ΠΊΠ°Π½Π°Π»Π° LACP ΠΎΠ±Π½Π°Ρ€ΡƒΠΆΠΈΠ²Π°Π΅Ρ‚ это ΠΈ удаляСт Π΅Π³ΠΎ ΠΈΠ· Π³Ρ€ΡƒΠΏΠΏΡ‹ Π±Π΅Π· ΠΊΠ°ΠΊΠΎΠ³ΠΎ-Π»ΠΈΠ±ΠΎ Ρ€ΡƒΡ‡Π½ΠΎΠ³ΠΎ Π²ΠΌΠ΅ΡˆΠ°Ρ‚Π΅Π»ΡŒΡΡ‚Π²Π°.

ΠŸΠΎΠ»ΠΈΡ‚ΠΈΠΊΠ° Ρ…Π΅ΡˆΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡ ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‡ΠΈ: ΠΊΠ°ΠΊ ΠΈ Ρ€Π΅ΠΆΠΈΠΌ 2, Ρ€Π΅ΠΆΠΈΠΌ 4 ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ ΠΏΠΎΠ»ΠΈΡ‚ΠΈΠΊΡƒ Ρ…Π΅ΡˆΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡ для распрСдСлСния Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ. ΠŸΠΎΠ»ΠΈΡ‚ΠΈΠΊΠ° `layer3+4` Π½Π°ΡΡ‚ΠΎΡΡ‚Π΅Π»ΡŒΠ½ΠΎ рСкомСндуСтся ΠΈ здСсь. ΠžΠ±Ρ€Π°Ρ‚ΠΈΡ‚Π΅ Π²Π½ΠΈΠΌΠ°Π½ΠΈΠ΅, Ρ‡Ρ‚ΠΎ LACP Π½Π΅ Π³Π°Ρ€Π°Π½Ρ‚ΠΈΡ€ΡƒΠ΅Ρ‚ балансировку Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ Π½Π° ΡƒΡ€ΠΎΠ²Π½Π΅ ΠΏΠ°ΠΊΠ΅Ρ‚ΠΎΠ² β€” ΠΎΠ½ распрСдСляСт ΠΏΠΎΡ‚ΠΎΠΊΠΈ ΠΏΠΎ ΠΊΠ°Π½Π°Π»Π°ΠΌ, поэтому ΠΎΠ΄Π½Π° большая ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‡Π° Ρ„Π°ΠΉΠ»Π° всё Ρ€Π°Π²Π½ΠΎ Π±ΡƒΠ΄Π΅Ρ‚ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΎΠ΄ΠΈΠ½ физичСский ΠΊΠ°Π½Π°Π».

ΠšΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΡ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π°: Π½Π° ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π΅ Π΄ΠΎΠ»ΠΆΠ΅Π½ Π±Ρ‹Ρ‚ΡŒ Π²ΠΊΠ»ΡŽΡ‡Ρ‘Π½ LACP Π½Π° ΡΠΎΠΎΡ‚Π²Π΅Ρ‚ΡΡ‚Π²ΡƒΡŽΡ‰Π΅ΠΌ ΠΊΠ°Π½Π°Π»Π΅ ΠΏΠΎΡ€Ρ‚ΠΎΠ². ΠΠ΅ΡΠΎΠ²ΠΏΠ°Π΄Π°ΡŽΡ‰ΠΈΠ΅ Ρ€Π΅ΠΆΠΈΠΌΡ‹ LACP (active ΠΈ passive) ΡΠ²Π»ΡΡŽΡ‚ΡΡ частой ΠΏΡ€ΠΈΡ‡ΠΈΠ½ΠΎΠΉ сбоСв bonding. ОбС стороны ΠΌΠΎΠΆΠ½ΠΎ ΡƒΡΡ‚Π°Π½ΠΎΠ²ΠΈΡ‚ΡŒ Π² `active`, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π³Π°Ρ€Π°Π½Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΡƒΡΠΏΠ΅ΡˆΠ½ΠΎΠ΅ согласованиС.

Π›ΡƒΡ‡ΡˆΠ΅Π΅ ΠΏΡ€ΠΈΠΌΠ΅Π½Π΅Π½ΠΈΠ΅: Ρ†Π΅Π½Ρ‚Ρ€Ρ‹ ΠΎΠ±Ρ€Π°Π±ΠΎΡ‚ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ…, Π²Ρ‹ΡΠΎΠΊΠΎΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹Π΅ сСрвСры ΠΈ любая срСда, Π³Π΄Π΅ Π²Ρ‹ ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΠΈΡ€ΡƒΠ΅Ρ‚Π΅ ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΡŽ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π°. Π­Ρ‚ΠΎ Π·ΠΎΠ»ΠΎΡ‚ΠΎΠΉ стандарт для производствСнного bonding ΠΏΡ€ΠΈ Π½Π°Π»ΠΈΡ‡ΠΈΠΈ ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΊΠΈ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π°.

Π Π΅ΠΆΠΈΠΌ 5 β€” Balance-TLB (адаптивная балансировка Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ ΠΏΡ€ΠΈ ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‡Π΅)

Π Π΅ΠΆΠΈΠΌ 5 распрСдСляСт исходящий Ρ‚Ρ€Π°Ρ„ΠΈΠΊ ΠΏΠΎ всСм ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹ΠΌ интСрфСйсам Π½Π° основС Ρ‚Π΅ΠΊΡƒΡ‰Π΅ΠΉ Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ ΠΊΠ°ΠΆΠ΄ΠΎΠ³ΠΎ интСрфСйса (Π½Π°ΠΈΠΌΠ΅Π½Π΅Π΅ Π·Π°Π³Ρ€ΡƒΠΆΠ΅Π½Π½Ρ‹ΠΉ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹ΠΉ ΠΏΠΎΠ»ΡƒΡ‡Π°Π΅Ρ‚ ΡΠ»Π΅Π΄ΡƒΡŽΡ‰ΠΈΠΉ исходящий ΠΏΠ°ΠΊΠ΅Ρ‚). Входящий Ρ‚Ρ€Π°Ρ„ΠΈΠΊ принимаСтся Ρ‚ΠΎΠ»ΡŒΠΊΠΎ Π½Π° ΠΎΠ΄Π½ΠΎΠΌ Π²Ρ‹Π΄Π΅Π»Π΅Π½Π½ΠΎΠΌ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½ΠΎΠΌ интСрфСйсС.

ΠšΠ»ΡŽΡ‡Π΅Π²ΠΎΠ΅ прСимущСство: конфигурация ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π° Π½Π΅ трСбуСтся Π²ΠΎΠΎΠ±Ρ‰Π΅. Π˜Π½Ρ‚Π΅Ρ€Ρ„Π΅ΠΉΡ bond ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ Ρ€Π°Π·Π½Ρ‹Π΅ исходныС MAC-адрСса для ΠΊΠ°ΠΆΠ΄ΠΎΠ³ΠΎ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½ΠΎΠ³ΠΎ ΠΏΡ€ΠΈ исходящСм Ρ‚Ρ€Π°Ρ„ΠΈΠΊΠ΅, Ρ‡Ρ‚ΠΎ являСтся допустимым ΠΏΠΎΠ²Π΅Π΄Π΅Π½ΠΈΠ΅ΠΌ, ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠ΅ любой ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€ ΠΎΠ±Ρ€Π°Π±Π°Ρ‚Ρ‹Π²Π°Π΅Ρ‚ ΠΏΡ€ΠΎΠ·Ρ€Π°Ρ‡Π½ΠΎ.

ΠžΠ³Ρ€Π°Π½ΠΈΡ‡Π΅Π½ΠΈΠ΅: входящий Ρ‚Ρ€Π°Ρ„ΠΈΠΊ Π½Π΅ балансируСтся. Если ваш сСрвСр прСимущСствСнно ΠΏΠΎΠ»ΡƒΡ‡Π°Π΅Ρ‚ большиС ΠΎΠ±ΡŠΡ‘ΠΌΡ‹ Π΄Π°Π½Π½Ρ‹Ρ… (сСрвСр Π·Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ, Ρ€Π΅ΠΏΠ»ΠΈΠΊΠ° Π±Π°Π·Ρ‹ Π΄Π°Π½Π½Ρ‹Ρ…, ΠΏΠΎΠ»ΡƒΡ‡Π°ΡŽΡ‰Π°Ρ ΠΏΠΎΡ‚ΠΎΠΊΠΈ Ρ€Π΅ΠΏΠ»ΠΈΠΊΠ°Ρ†ΠΈΠΈ), Ρ€Π΅ΠΆΠΈΠΌ 5 Π½Π΅ Π΄Π°Ρ‘Ρ‚ прСимущСств Π² этом Π½Π°ΠΏΡ€Π°Π²Π»Π΅Π½ΠΈΠΈ. Если ваш сСрвСр прСимущСствСнно отправляСт Π΄Π°Π½Π½Ρ‹Π΅, Ρ€Π΅ΠΆΠΈΠΌ 5 вСсьма эффСктивСн.

ПовСдСниС ΠΏΡ€ΠΈ ΠΎΡ‚ΠΊΠ°Π·Π΅: ΠΏΡ€ΠΈ ΠΎΡ‚ΠΊΠ°Π·Π΅ ΠΏΡ€ΠΈΠ½ΠΈΠΌΠ°ΡŽΡ‰Π΅Π³ΠΎ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½ΠΎΠ³ΠΎ Π΄Ρ€ΡƒΠ³ΠΎΠΉ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹ΠΉ Π±Π΅Ρ€Ρ‘Ρ‚ Π½Π° сСбя Ρ€ΠΎΠ»ΡŒ ΠΏΡ€ΠΈΡ‘ΠΌΠ°. Балансировка исходящСй Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ продолТаСтся Π½Π° ΠΎΡΡ‚Π°Π²ΡˆΠΈΡ…ΡΡ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹Ρ….

Π Π΅ΠΆΠΈΠΌ 6 β€” Balance-ALB (адаптивная балансировка Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ)

Π Π΅ΠΆΠΈΠΌ 6 Ρ€Π°ΡΡˆΠΈΡ€ΡΠ΅Ρ‚ Ρ€Π΅ΠΆΠΈΠΌ 5, добавляя балансировку входящСй Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ Ρ‡Π΅Ρ€Π΅Π· ARP-согласованиС. Π”Ρ€Π°ΠΉΠ²Π΅Ρ€ bonding пСриодичСски отправляСт ARP-ΠΎΡ‚Π²Π΅Ρ‚Ρ‹ с Ρ€Π°Π·Π½Ρ‹ΠΌΠΈ исходными MAC-адрСсами Ρ€Π°Π·Π½Ρ‹ΠΌ ΠΊΠ»ΠΈΠ΅Π½Ρ‚Π°ΠΌ, заставляя этих ΠΊΠ»ΠΈΠ΅Π½Ρ‚ΠΎΠ² ΠΎΡ‚ΠΏΡ€Π°Π²Π»ΡΡ‚ΡŒ ΠΎΠ±Ρ€Π°Ρ‚Π½Ρ‹ΠΉ Ρ‚Ρ€Π°Ρ„ΠΈΠΊ Π½Π° Ρ€Π°Π·Π½Ρ‹Π΅ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹Π΅ интСрфСйсы.

ΠœΠ΅Ρ…Π°Π½ΠΈΠ·ΠΌ манипуляции ARP: это умная Ρ‡Π°ΡΡ‚ΡŒ. Π”Ρ€Π°ΠΉΠ²Π΅Ρ€ ΠΏΠ΅Ρ€Π΅Ρ…Π²Π°Ρ‚Ρ‹Π²Π°Π΅Ρ‚ ARP-ΠΎΡ‚Π²Π΅Ρ‚Ρ‹ ΠΈ Ρ‡Π΅Ρ€Π΅Π΄ΡƒΠ΅Ρ‚ исходный MAC-адрСс срСди ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹Ρ…. ΠšΠ»ΠΈΠ΅Π½Ρ‚Ρ‹ ΠΊΡΡˆΠΈΡ€ΡƒΡŽΡ‚ эти ARP-записи ΠΈ Π½Π°ΠΏΡ€Π°Π²Π»ΡΡŽΡ‚ свой Ρ‚Ρ€Π°Ρ„ΠΈΠΊ Π½Π° Ρ‚ΠΎΡ‚ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹ΠΉ MAC, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΠΎΠ½ΠΈ ΡƒΠ·Π½Π°Π»ΠΈ. Π­Ρ‚ΠΎ обСспСчиваСт балансировку входящСй Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ Π±Π΅Π· ΠΊΠ°ΠΊΠΎΠΉ-Π»ΠΈΠ±ΠΎ ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΠΈ Π½Π° сторонС ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π°.

ΠŸΡ€Π°ΠΊΡ‚ΠΈΡ‡Π΅ΡΠΊΠ°Ρ ΠΎΠ³ΠΎΠ²ΠΎΡ€ΠΊΠ°: балансировка входящСго Ρ‚Ρ€Π°Ρ„ΠΈΠΊΠ° Π½Π° основС ARP Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ для хостов, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π½Π΅Π΄Π°Π²Π½ΠΎ взаимодСйствовали с bonded-сСрвСром. НовыС соСдинСния всСгда приходят Π½Π° основной ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹ΠΉ интСрфСйс Π΄ΠΎ ΠΎΡ‚ΠΏΡ€Π°Π²ΠΊΠΈ ARP-ΠΎΡ‚Π²Π΅Ρ‚Π°. Π’ сцСнариях с высокой частотой соСдинСний входящСС распрСдСлСниС ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ Π½Π΅Ρ€Π°Π²Π½ΠΎΠΌΠ΅Ρ€Π½Ρ‹ΠΌ.

Π›ΡƒΡ‡ΡˆΠ΅Π΅ ΠΏΡ€ΠΈΠΌΠ΅Π½Π΅Π½ΠΈΠ΅: срСды Π±Π΅Π· ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€ΠΎΠ² с ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΊΠΎΠΉ LACP, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΌ Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠ° двунаправлСнная балансировка Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ. Π₯ΠΎΡ€ΠΎΡˆΠΈΠΉ Π²Ρ‹Π±ΠΎΡ€ для срСд VPS Π₯остинга, Π³Π΄Π΅ Π²ΠΈΡ€Ρ‚ΡƒΠ°Π»ΡŒΠ½Ρ‹ΠΉ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€ Π³ΠΈΠΏΠ΅Ρ€Π²ΠΈΠ·ΠΎΡ€Π° ΠΌΠΎΠΆΠ΅Ρ‚ Π½Π΅ ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΈΠ²Π°Ρ‚ΡŒ LACP.

Π’Π°Π±Π»ΠΈΡ†Π° сравнСния Ρ€Π΅ΠΆΠΈΠΌΠΎΠ² Bonding

РСТимНазваниСБалансировка Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈΠžΡ‚ΠΊΠ°Π·ΠΎΡƒΡΡ‚ΠΎΠΉΡ‡ΠΈΠ²ΠΎΡΡ‚ΡŒΠ’Ρ€Π΅Π±ΠΎΠ²Π°Π½ΠΈΠ΅ ΠΊ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€ΡƒΠŸΡ€ΠΈΡ€ΠΎΡΡ‚ пропускной ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΠΈΠ›ΡƒΡ‡ΡˆΠ΅Π΅ ΠΏΡ€ΠΈΠΌΠ΅Π½Π΅Π½ΠΈΠ΅
0Round-RobinНа ΡƒΡ€ΠΎΠ²Π½Π΅ пакСтовНСтБтатичСская LAGΠ”Π° (совокупная)Π’Ρ‹ΡΠΎΠΊΠΎΠΎΠ±ΡŠΡ‘ΠΌΠ½Ρ‹Π΅ ΠΌΠ½ΠΎΠ³ΠΎΠΏΠΎΡ‚ΠΎΡ‡Π½Ρ‹Π΅ ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‡ΠΈ
1Active-BackupНСтДаНС Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚ΡΡΠΠ΅Ρ‚Π˜Π½Ρ‚Π΅Ρ€Ρ„Π΅ΠΉΡΡ‹ управлСния HA
2Balance-XORНа ΡƒΡ€ΠΎΠ²Π½Π΅ ΠΏΠΎΡ‚ΠΎΠΊΠΎΠ² (Ρ…Π΅Ρˆ)ДаБтатичСская LAGΠ”Π° (совокупная)ΠžΠ±Ρ‰Π°Ρ балансировка Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ
3BroadcastНСтДа (Ρ€Π΅Π·Π΅Ρ€Π²ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅)НС трСбуСтсяНСт (расходуСт ΠΏΡ€ΠΎΠΏΡƒΡΠΊΠ½ΡƒΡŽ ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΡŒ)БпСциализированная кластСризация
4802.3ad / LACPНа ΡƒΡ€ΠΎΠ²Π½Π΅ ΠΏΠΎΡ‚ΠΎΠΊΠΎΠ² (Ρ…Π΅Ρˆ)ДаВрСбуСтся LACPΠ”Π° (совокупная)Π¦Π΅Π½Ρ‚Ρ€Ρ‹ ΠΎΠ±Ρ€Π°Π±ΠΎΡ‚ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ…, производствСнныС сСрвСры
5Balance-TLBВолько TXДаНС Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚ΡΡΠ’ΠΎΠ»ΡŒΠΊΠΎ TXΠ Π°Π±ΠΎΡ‡ΠΈΠ΅ Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ с ΠΏΡ€Π΅ΠΎΠ±Π»Π°Π΄Π°Π½ΠΈΠ΅ΠΌ исходящСго Ρ‚Ρ€Π°Ρ„ΠΈΠΊΠ°
6Balance-ALBTX + RX (ARP)ДаНС трСбуСтсяДа (двунаправлСнная)Π‘Ρ€Π΅Π΄Ρ‹ Π±Π΅Π· LACP

Настройка Network Bonding Π½Π° Linux

ΠŸΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹Π΅ трСбования

β€œ`bash

Verify bonding module is available

modinfo bonding

Load the module if not already loaded

modprobe bonding

β€œ`

ΠšΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΡ Ρ‡Π΅Ρ€Π΅Π· systemd-networkd (соврСмСнный ΠΏΠΎΠ΄Ρ…ΠΎΠ΄)

Π‘ΠΎΠ·Π΄Π°ΠΉΡ‚Π΅ `/etc/systemd/network/bond0.netdev`:

β€œ`ini

[NetDev]

Name=bond0

Kind=bond

[Bond]

Mode=802.3ad

TransmitHashPolicy=layer3+4

MIIMonitorSec=100ms

LACPTransmitRate=fast

β€œ`

Π‘ΠΎΠ·Π΄Π°ΠΉΡ‚Π΅ `/etc/systemd/network/bond0.network`:

β€œ`ini

[Match]

Name=bond0

[Network]

Address=192.168.1.10/24

Gateway=192.168.1.1

β€œ`

Π‘ΠΎΠ·Π΄Π°ΠΉΡ‚Π΅ `/etc/systemd/network/eth0.network` ΠΈ `eth1.network`:

β€œ`ini

[Match]

Name=eth0

[Network]

Bond=bond0

β€œ`

ΠšΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΡ Ρ‡Π΅Ρ€Π΅Π· `/etc/network/interfaces` (Debian/Ubuntu)

β€œ`bash

auto bond0

iface bond0 inet static

address 192.168.1.10

netmask 255.255.255.0

gateway 192.168.1.1

bond-slaves eth0 eth1

bond-mode 4

bond-miimon 100

bond-lacp-rate 1

bond-xmit-hash-policy layer3+4

auto eth0

iface eth0 inet manual

bond-master bond0

auto eth1

iface eth1 inet manual

bond-master bond0

β€œ`

ΠŸΡ€ΠΎΠ²Π΅Ρ€ΠΊΠ° статуса Bond

β€œ`bash

Check bond status and slave states

cat /proc/net/bonding/bond0

Monitor interface statistics

ip -s link show bond0

Check LACP negotiation state (Mode 4)

cat /proc/net/bonding/bond0 | grep -A5 "LACP"

β€œ`

Π’Ρ‹Π²ΠΎΠ΄ `/proc/net/bonding/bond0` являСтся Π½Π°ΠΈΠ±ΠΎΠ»Π΅Π΅ Π²Π°ΠΆΠ½Ρ‹ΠΌ диагностичСским инструмСнтом. Он ΠΏΠΎΠΊΠ°Π·Ρ‹Π²Π°Π΅Ρ‚ Π°ΠΊΡ‚ΠΈΠ²Π½Ρ‹ΠΉ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹ΠΉ интСрфСйс, статус ΠΊΠ°Π½Π°Π»Π° ΠΊΠ°ΠΆΠ΄ΠΎΠ³ΠΎ участника, статус MII ΠΈ (для Ρ€Π΅ΠΆΠΈΠΌΠ° 4) ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ ΠΎ ΠΏΠ°Ρ€Ρ‚Π½Ρ‘Ρ€Π΅ LACP.

Network Bonding Π½Π° Π²Ρ‹Π΄Π΅Π»Π΅Π½Π½Ρ‹Ρ… сСрвСрах ΠΈ VPS

На физичСских Π’Ρ‹Π΄Π΅Π»Π΅Π½Π½Ρ‹Ρ… Π‘Π΅Ρ€Π²Π΅Ρ€Π°Ρ… Ρƒ вас Π΅ΡΡ‚ΡŒ ΠΏΠΎΠ»Π½Ρ‹ΠΉ ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΡŒ Π½Π°Π΄ ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΠ΅ΠΉ NIC сСрвСра ΠΈ (ΠΊΠ°ΠΊ ΠΏΡ€Π°Π²ΠΈΠ»ΠΎ) ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΠ΅ΠΉ ΠΏΠΎΡ€Ρ‚ΠΎΠ² ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π°, Ρ‡Ρ‚ΠΎ Π΄Π΅Π»Π°Π΅Ρ‚ Ρ€Π΅ΠΆΠΈΠΌ 4 (LACP) СстСствСнным Π²Ρ‹Π±ΠΎΡ€ΠΎΠΌ для производствСнных Ρ€Π°Π±ΠΎΡ‡ΠΈΡ… Π½Π°Π³Ρ€ΡƒΠ·ΠΎΠΊ. Π‘ΠΎΠ»ΡŒΡˆΠΈΠ½ΡΡ‚Π²ΠΎ ΠΏΡ€ΠΎΠ²Π°ΠΉΠ΄Π΅Ρ€ΠΎΠ² Ρ†Π΅Π½Ρ‚Ρ€ΠΎΠ² ΠΎΠ±Ρ€Π°Π±ΠΎΡ‚ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ… ΠΌΠΎΠ³ΡƒΡ‚ Π½Π°ΡΡ‚Ρ€ΠΎΠΈΡ‚ΡŒ LACP Π½Π° Π²Π°ΡˆΠΈΡ… ΠΏΠΎΡ€Ρ‚Π°Ρ… ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π° ΠΏΠΎ запросу.

Π’ срСдах VPS с cPanel сСтСвой ΡƒΡ€ΠΎΠ²Π΅Π½ΡŒ Π²ΠΈΡ€Ρ‚ΡƒΠ°Π»ΠΈΠ·Π°Ρ†ΠΈΠΈ Π³ΠΈΠΏΠ΅Ρ€Π²ΠΈΠ·ΠΎΡ€Π° ΠΎΠ±Ρ€Π°Π±Π°Ρ‚Ρ‹Π²Π°Π΅Ρ‚ Π±Π°Π·ΠΎΠ²Ρ‹ΠΉ bonding Π½Π° ΡƒΡ€ΠΎΠ²Π½Π΅ хоста. ГостСвая Π²ΠΈΡ€Ρ‚ΡƒΠ°Π»ΡŒΠ½Π°Ρ машина ΠΎΠ±Ρ‹Ρ‡Π½ΠΎ Π²ΠΈΠ΄ΠΈΡ‚ ΠΎΠ΄ΠΈΠ½ Π²ΠΈΡ€Ρ‚ΡƒΠ°Π»ΡŒΠ½Ρ‹ΠΉ NIC, Π½ΠΎ хост ΠΌΠΎΠΆΠ΅Ρ‚ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ ΠΎΠ±ΡŠΠ΅Π΄ΠΈΠ½Ρ‘Π½Π½Ρ‹Π΅ физичСскиС интСрфСйсы ΠΏΠΎΠ΄ Π½ΠΈΠΌ β€” обСспСчивая Ρ€Π΅Π·Π΅Ρ€Π²ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ ΠΏΡ€ΠΎΠ·Ρ€Π°Ρ‡Π½ΠΎ.

ΠŸΡ€ΠΈ Ρ€Π°Π·Π²Ρ‘Ρ€Ρ‚Ρ‹Π²Π°Π½ΠΈΠΈ GPU-интСнсивных Ρ€Π°Π±ΠΎΡ‡ΠΈΡ… Π½Π°Π³Ρ€ΡƒΠ·ΠΎΠΊ Π½Π° инфраструктурС GPU Π₯остинга network bonding становится критичСски Π²Π°ΠΆΠ½Ρ‹ΠΌ для достаточно быстрой ΠΏΠΎΠ΄Π°Ρ‡ΠΈ Π΄Π°Π½Π½Ρ‹Ρ… Π½Π° GPU-ΡƒΠ·Π»Ρ‹ для прСдотвращСния I/O-голодания. ΠšΠΎΠ½Π²Π΅ΠΉΠ΅Ρ€Ρ‹ обучСния ΠΈ обслуТиваниС инфСрСнса Π²Ρ‹ΠΈΠ³Ρ€Ρ‹Π²Π°ΡŽΡ‚ ΠΎΡ‚ совокупной пропускной способности, ΠΊΠΎΡ‚ΠΎΡ€ΡƒΡŽ обСспСчиваСт LACP bonding.

РаспространённыС ошибки ΠΈ Π³Ρ€Π°Π½ΠΈΡ‡Π½Ρ‹Π΅ случаи

ΠšΠΎΠ½Ρ„Π»ΠΈΠΊΡ‚Ρ‹ Spanning Tree Protocol (STP): ΠΏΡ€ΠΈ Π΄ΠΎΠ±Π°Π²Π»Π΅Π½ΠΈΠΈ ΠΎΠ±ΡŠΠ΅Π΄ΠΈΠ½Ρ‘Π½Π½Ρ‹Ρ… ΠΏΠΎΡ€Ρ‚ΠΎΠ² ΠΊ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Ρƒ STP ΠΌΠΎΠΆΠ΅Ρ‚ Π²Ρ€Π΅ΠΌΠ΅Π½Π½ΠΎ Π±Π»ΠΎΠΊΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΏΠΎΡ€Ρ‚Ρ‹ Π²ΠΎ врСмя согласования. НастройтС PortFast (ΠΈΠ»ΠΈ эквивалСнт) Π½Π° ΠΏΠΎΡ€Ρ‚Π°Ρ… ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π°, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΏΡ€Π΅Π΄ΠΎΡ‚Π²Ρ€Π°Ρ‚ΠΈΡ‚ΡŒ 30-сСкундныС Π·Π°Π΄Π΅Ρ€ΠΆΠΊΠΈ ΠΏΡ€ΠΈ событиях Π²ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΡ ΠΊΠ°Π½Π°Π»Π°.

НСсоотвСтствиС MTU: всС ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹Π΅ интСрфСйсы Π² bond Π΄ΠΎΠ»ΠΆΠ½Ρ‹ ΠΈΠΌΠ΅Ρ‚ΡŒ ΠΎΠ΄ΠΈΠ½Π°ΠΊΠΎΠ²Ρ‹Π΅ настройки MTU. НСсоотвСтствиС Π²Ρ‹Π·Ρ‹Π²Π°Π΅Ρ‚ ΠΏΠ΅Ρ€ΠΈΠΎΠ΄ΠΈΡ‡Π΅ΡΠΊΡƒΡŽ ΠΏΠΎΡ‚Π΅Ρ€ΡŽ ΠΏΠ°ΠΊΠ΅Ρ‚ΠΎΠ², ΠΊΠΎΡ‚ΠΎΡ€ΡƒΡŽ ΠΊΡ€Π°ΠΉΠ½Π΅ слоТно Π΄ΠΈΠ°Π³Π½ΠΎΡΡ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ. ВсСгда провСряйтС с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ `ip link show` послС настройки.

Π Π΅ΠΆΠΈΠΌΡ‹ Ρ‚Π°ΠΉΠΌΠ°ΡƒΡ‚Π° LACP: LACP ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΈΠ²Π°Π΅Ρ‚ Β«ΠΌΠ΅Π΄Π»Π΅Π½Π½Ρ‹ΠΉΒ» (30 сСкунд) ΠΈ «быстрый» (1 сСкунда) Ρ€Π΅ΠΆΠΈΠΌΡ‹ Ρ‚Π°ΠΉΠΌΠ°ΡƒΡ‚Π°. ВсСгда ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠΉΡ‚Π΅ `lacp-rate fast` (`bond-lacp-rate 1`) Π² производствСнной срСдС. ΠœΠ΅Π΄Π»Π΅Π½Π½Ρ‹ΠΉ Ρ€Π΅ΠΆΠΈΠΌ ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ ΠΎΡ‚ΠΊΠ°Π·Π°Π²ΡˆΠΈΠΉ ΠΊΠ°Π½Π°Π» ΠΌΠΎΠΆΠ΅Ρ‚ ΠΎΡΡ‚Π°Π²Π°Ρ‚ΡŒΡΡ Π² LAG Π΄ΠΎ 90 сСкунд.

Живая миграция Π²ΠΈΡ€Ρ‚ΡƒΠ°Π»ΡŒΠ½Ρ‹Ρ… машин: Ссли Π²ΠΈΡ€Ρ‚ΡƒΠ°Π»ΡŒΠ½Π°Ρ машина с ΠΎΠ±ΡŠΠ΅Π΄ΠΈΠ½Ρ‘Π½Π½Ρ‹ΠΌ интСрфСйсом ΠΌΠΈΠ³Ρ€ΠΈΡ€ΡƒΠ΅Ρ‚ Π½Π° Π΄Ρ€ΡƒΠ³ΠΎΠΉ хост, MAC-адрСса bond ΠΌΠΎΠ³ΡƒΡ‚ ΠΈΠ·ΠΌΠ΅Π½ΠΈΡ‚ΡŒΡΡ Π² зависимости ΠΎΡ‚ Π³ΠΈΠΏΠ΅Ρ€Π²ΠΈΠ·ΠΎΡ€Π°. Π­Ρ‚ΠΎ ΠΌΠΎΠΆΠ΅Ρ‚ Π²Ρ‹Π·Π²Π°Ρ‚ΡŒ ΡƒΡΡ‚Π°Ρ€Π΅Π²ΡˆΠΈΠ΅ записи Π² кэшС ARP ΠΈ ΠΊΡ€Π°Ρ‚ΠΊΠΎΠ²Ρ€Π΅ΠΌΠ΅Π½Π½ΡƒΡŽ ΠΏΠΎΡ‚Π΅Ρ€ΡŽ связи. Π—Π°Ρ€Π°Π½Π΅Π΅ ΠΏΠΎΠ΄Π³ΠΎΡ‚ΠΎΠ²ΡŒΡ‚Π΅ gratuitous ARP Π² скриптах ΠΌΠΈΠ³Ρ€Π°Ρ†ΠΈΠΈ.

АсиммСтричноС Ρ…Π΅ΡˆΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅: ΠΏΡ€ΠΈ Ρ€Π΅ΠΆΠΈΠΌΠ΅ 4 ΠΈ Ρ…Π΅ΡˆΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠΈ `layer3+4` Ρ‚Ρ€Π°Ρ„ΠΈΠΊ ΠΎΡ‚ сСрвСра A ΠΊ сСрвСру B ΠΌΠΎΠΆΠ΅Ρ‚ ΠΏΡ€ΠΎΡ…ΠΎΠ΄ΠΈΡ‚ΡŒ Ρ‡Π΅Ρ€Π΅Π· eth0, Ρ‚ΠΎΠ³Π΄Π° ΠΊΠ°ΠΊ ΠΎΠ±Ρ€Π°Ρ‚Π½Ρ‹ΠΉ Ρ‚Ρ€Π°Ρ„ΠΈΠΊ ΠΎΡ‚ B ΠΊ A ΠΏΡ€ΠΎΡ…ΠΎΠ΄ΠΈΡ‚ Ρ‡Π΅Ρ€Π΅Π· eth1 Π½Π° bond сСрвСра B. Π­Ρ‚ΠΎ Π½ΠΎΡ€ΠΌΠ°Π»ΡŒΠ½ΠΎ ΠΈ ΠΎΠΆΠΈΠ΄Π°Π΅ΠΌΠΎ β€” каТдая конСчная Ρ‚ΠΎΡ‡ΠΊΠ° нСзависимо Ρ…Π΅ΡˆΠΈΡ€ΡƒΠ΅Ρ‚ свой исходящий Ρ‚Ρ€Π°Ρ„ΠΈΠΊ.

Π’ΠΌΠ΅ΡˆΠ°Ρ‚Π΅Π»ΡŒΡΡ‚Π²ΠΎ NetworkManager: Π½Π° систСмах RHEL/CentOS NetworkManager ΠΌΠΎΠΆΠ΅Ρ‚ ΠΌΠ΅ΡˆΠ°Ρ‚ΡŒ Π²Ρ€ΡƒΡ‡Π½ΡƒΡŽ настроСнным bond. Π›ΠΈΠ±ΠΎ настройтС bond Ρ‡Π΅Ρ€Π΅Π· интСрфСйс nmcli NetworkManager, Π»ΠΈΠ±ΠΎ ΠΎΡ‚ΠΊΠ»ΡŽΡ‡ΠΈΡ‚Π΅ NetworkManager для ΡΠΎΠΎΡ‚Π²Π΅Ρ‚ΡΡ‚Π²ΡƒΡŽΡ‰ΠΈΡ… интСрфСйсов, ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡ `NM_CONTROLLED=no` Π² Ρ„Π°ΠΉΠ»Π΅ ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΠΈ интСрфСйса.

Bonding Π² сравнСнии с Π΄Ρ€ΡƒΠ³ΠΈΠΌΠΈ ΠΌΠ΅Ρ‚ΠΎΠ΄Π°ΠΌΠΈ обСспСчСния высокой доступности сСти

Network bonding β€” Π½Π΅ СдинствСнный ΠΏΠΎΠ΄Ρ…ΠΎΠ΄ ΠΊ Ρ€Π΅Π·Π΅Ρ€Π²ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡŽ NIC. ПониманиС Ρ‚ΠΎΠ³ΠΎ, ΠΊΠΎΠ³Π΄Π° ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ Π°Π»ΡŒΡ‚Π΅Ρ€Π½Π°Ρ‚ΠΈΠ²Ρ‹, Π½Π΅ ΠΌΠ΅Π½Π΅Π΅ Π²Π°ΠΆΠ½ΠΎ.

ΠœΠ΅Ρ‚ΠΎΠ΄Π£Ρ€ΠΎΠ²Π΅Π½ΡŒΠ’Ρ€Π΅Π±ΡƒΠ΅Ρ‚ΡΡ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€ΠŸΡ€ΠΈΡ€ΠΎΡΡ‚ пропускной ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΠΈΠŸΡ€ΠΈΠΌΠ΅Π½Π΅Π½ΠΈΠ΅
Bonding (Ρ€Π΅ΠΆΠΈΠΌ 1)L2ΠΠ΅Ρ‚ΠΠ΅Ρ‚ΠŸΡ€ΠΎΡΡ‚ΠΎΠ΅ ΠΏΠ΅Ρ€Π΅ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΠ΅ ΠΏΡ€ΠΈ ΠΎΡ‚ΠΊΠ°Π·Π΅
Bonding (Ρ€Π΅ΠΆΠΈΠΌ 4 LACP)L2Π”Π° (LACP)Π”Π°ΠŸΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΡΡ‚Π²Π΅Π½Π½Ρ‹Π΅ сСрвСры
SR-IOVL1/L2ΠΠ΅Ρ‚Π”Π°ΠŸΡ€ΡΠΌΠΎΠΉ доступ Π²ΠΈΡ€Ρ‚ΡƒΠ°Π»ΡŒΠ½ΠΎΠΉ ΠΌΠ°ΡˆΠΈΠ½Ρ‹ ΠΊ NIC
ECMP RoutingL3Π”Π°Π”Π°ΠœΠ½ΠΎΠ³ΠΎΠΏΡƒΡ‚Π΅Π²Π°Ρ ΠΌΠ°Ρ€ΡˆΡ€ΡƒΡ‚ΠΈΠ·Π°Ρ†ΠΈΡ
MLAGL2Π”Π° (с ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΊΠΎΠΉ MLAG)Π”Π°Π Π΅Π·Π΅Ρ€Π²ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ ΠΌΠ΅ΠΆΠ΄Ρƒ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π°ΠΌΠΈ

MLAG (Multi-Chassis Link Aggregation) заслуТиваСт особого упоминания: ΠΎΠ½ позволяСт сСрвСру с Ρ€Π΅ΠΆΠΈΠΌΠΎΠΌ 4 bonding ΠΏΠΎΠ΄ΠΊΠ»ΡŽΡ‡ΠΈΡ‚ΡŒ Π΄Π²Π° NIC ΠΊ Π΄Π²ΡƒΠΌ физичСски ΠΎΡ‚Π΄Π΅Π»ΡŒΠ½Ρ‹ΠΌ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π°ΠΌ, ΠΎΠ±Π° ΡƒΡ‡Π°ΡΡ‚Π²ΡƒΡŽΡ‰ΠΈΠΌ Π² ΠΎΠ΄Π½ΠΎΠΉ логичСской LAG. Π­Ρ‚ΠΎ устраняСт сам ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€ ΠΊΠ°ΠΊ Π΅Π΄ΠΈΠ½ΡƒΡŽ Ρ‚ΠΎΡ‡ΠΊΡƒ ΠΎΡ‚ΠΊΠ°Π·Π° β€” ΡƒΡ€ΠΎΠ²Π΅Π½ΡŒ рСзСрвирования, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ стандартный LACP с ΠΎΠ΄Π½ΠΈΠΌ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€ΠΎΠΌ ΠΎΠ±Π΅ΡΠΏΠ΅Ρ‡ΠΈΡ‚ΡŒ Π½Π΅ ΠΌΠΎΠΆΠ΅Ρ‚.

ΠœΠ°Ρ‚Ρ€ΠΈΡ†Π° принятия Ρ€Π΅ΡˆΠ΅Π½ΠΈΠΉ: Π²Ρ‹Π±ΠΎΡ€ ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΠΎΠ³ΠΎ Ρ€Π΅ΠΆΠΈΠΌΠ° Bonding

Π˜ΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠΉΡ‚Π΅ эту схСму для Π²Ρ‹Π±ΠΎΡ€Π° Ρ€Π΅ΠΆΠΈΠΌΠ° bonding:

Π’Ρ‹ ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΠΈΡ€ΡƒΠ΅Ρ‚Π΅ ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΡŽ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π°?

  • НСт β†’ ΠŸΠ΅Ρ€Π΅ΠΉΠ΄ΠΈΡ‚Π΅ ΠΊ Ρ€Π΅ΠΆΠΈΠΌΡƒ 1, 5 ΠΈΠ»ΠΈ 6
  • НуТна двунаправлСнная балансировка Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ? β†’ Π Π΅ΠΆΠΈΠΌ 6
  • ΠŸΡ€Π΅ΠΈΠΌΡƒΡ‰Π΅ΡΡ‚Π²Π΅Π½Π½ΠΎ исходящий Ρ‚Ρ€Π°Ρ„ΠΈΠΊ? β†’ Π Π΅ΠΆΠΈΠΌ 5
  • ЧистоС ΠΏΠ΅Ρ€Π΅ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΠ΅ ΠΏΡ€ΠΈ ΠΎΡ‚ΠΊΠ°Π·Π΅, максимальная простота? β†’ Π Π΅ΠΆΠΈΠΌ 1
  • Π”Π° β†’ ΠŸΠ΅Ρ€Π΅ΠΉΠ΄ΠΈΡ‚Π΅ ΠΊ Ρ€Π΅ΠΆΠΈΠΌΡƒ 0, 2 ΠΈΠ»ΠΈ 4
  • НуТно динамичСскоС согласованиС ΠΈ соотвСтствиС Π»ΡƒΡ‡ΡˆΠΈΠΌ ΠΏΡ€Π°ΠΊΡ‚ΠΈΠΊΠ°ΠΌ? β†’ Π Π΅ΠΆΠΈΠΌ 4 (LACP)
  • БтатичСская LAG, Π±ΠΎΠ»Π΅Π΅ простая настройка? β†’ Π Π΅ΠΆΠΈΠΌ 2 с Ρ…Π΅ΡˆΠ΅ΠΌ layer3+4
  • Π‘ΠΏΠ΅Ρ†ΠΈΠ°Π»ΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Π½Π½ΠΎΠ΅ Ρ‚Ρ€Π΅Π±ΠΎΠ²Π°Π½ΠΈΠ΅ broadcast? β†’ Π Π΅ΠΆΠΈΠΌ 3

Π­Ρ‚ΠΎ интСрфСйс управлСния/IPMI? ВсСгда ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠΉΡ‚Π΅ Π Π΅ΠΆΠΈΠΌ 1. Никогда Π½Π΅ рискуйтС интСрфСйсом управлСния Π² Ρ€Π΅ΠΆΠΈΠΌΠ΅, Ρ‚Ρ€Π΅Π±ΡƒΡŽΡ‰Π΅ΠΌ ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΠΈ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π°.

Π’Ρ‹ Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚Π΅ Π½Π° ΠΎΠ±Π»Π°Ρ‡Π½ΠΎΠΉ ΠΈΠ»ΠΈ Π²ΠΈΡ€Ρ‚ΡƒΠ°Π»ΡŒΠ½ΠΎΠΉ ΠΏΠ»Π°Ρ‚Ρ„ΠΎΡ€ΠΌΠ΅? ΠŸΡ€ΠΎΠ²Π΅Ρ€ΡŒΡ‚Π΅, ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΈΠ²Π°Π΅Ρ‚ Π»ΠΈ Π²ΠΈΡ€Ρ‚ΡƒΠ°Π»ΡŒΠ½Ρ‹ΠΉ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€ Π³ΠΈΠΏΠ΅Ρ€Π²ΠΈΠ·ΠΎΡ€Π° LACP. Если Π½Π΅Ρ‚, Π Π΅ΠΆΠΈΠΌ 6 обСспСчиваСт Π½Π°ΠΈΠ»ΡƒΡ‡ΡˆΠΈΠΉ баланс распрСдСлСния Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ ΠΈ совмСстимости.

Для ΠΊΠΎΠΌΠ°Π½Π΄, ΡƒΠΏΡ€Π°Π²Π»ΡΡŽΡ‰ΠΈΡ… нСсколькими сСрвСрами Ρ‡Π΅Ρ€Π΅Π· ПанСли управлСния VPS, ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΊΠ° статуса bonding Π΄ΠΎΠ»ΠΆΠ½Π° Π±Ρ‹Ρ‚ΡŒ Ρ‡Π°ΡΡ‚ΡŒΡŽ стандартного ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΡŒΠ½ΠΎΠ³ΠΎ списка послС развёртывания наряду с ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΊΠΎΠΉ SSL Ρ‡Π΅Ρ€Π΅Π· SSL-сСртификаты ΠΈ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΊΠ°ΠΌΠΈ распространСния DNS послС РСгистрации Π΄ΠΎΠΌΠ΅Π½Π°.

ВСхничСский ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΡŒΠ½Ρ‹ΠΉ список ΠΊΠ»ΡŽΡ‡Π΅Π²Ρ‹Ρ… Π²Ρ‹Π²ΠΎΠ΄ΠΎΠ²

  • ВсСгда устанавливайтС `miimon=100` ΠΈ `downdelay=200 updelay=200` ΠΊΠ°ΠΊ Π±Π°Π·ΠΎΠ²Ρ‹Π΅ значСния для MII-ΠΌΠΎΠ½ΠΈΡ‚ΠΎΡ€ΠΈΠ½Π³Π° Π² производствСнной срСдС
  • Π˜ΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠΉΡ‚Π΅ `xmit_hash_policy=layer3+4` с Ρ€Π΅ΠΆΠΈΠΌΠ°ΠΌΠΈ 2 ΠΈ 4 для обСспСчСния распрСдСлСния Π½Π° ΡƒΡ€ΠΎΠ²Π½Π΅ ΠΏΠΎΡ‚ΠΎΠΊΠΎΠ², Π° Π½Π΅ Π½Π° ΡƒΡ€ΠΎΠ²Π½Π΅ MAC
  • ΠŸΡ€ΠΎΠ²Π΅Ρ€ΡΠΉΡ‚Π΅ `/proc/net/bonding/bond0` сразу послС настройки β€” Π½Π΅ ΠΏΡ€Π΅Π΄ΠΏΠΎΠ»Π°Π³Π°ΠΉΡ‚Π΅, Ρ‡Ρ‚ΠΎ всё Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚
  • НастройтС ΡΠΊΠΎΡ€ΠΎΡΡ‚ΡŒ LACP Π½Π° `fast` Π² Ρ€Π΅ΠΆΠΈΠΌΠ΅ 4, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΡΠΎΠΊΡ€Π°Ρ‚ΠΈΡ‚ΡŒ врСмя обнаруТСния ΠΎΡ‚ΠΊΠ°Π·Π° с 90 сСкунд Π΄ΠΎ 3 сСкунд
  • Π£Π±Π΅Π΄ΠΈΡ‚Π΅ΡΡŒ, Ρ‡Ρ‚ΠΎ всС ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹Π΅ NIC ΠΈΠΌΠ΅ΡŽΡ‚ ΠΎΠ΄ΠΈΠ½Π°ΠΊΠΎΠ²Ρ‹Π΅ настройки MTU, скорости ΠΈ дуплСкса ΠΏΠ΅Ρ€Π΅Π΄ Π΄ΠΎΠ±Π°Π²Π»Π΅Π½ΠΈΠ΅ΠΌ Π² bond
  • На производствСнных Π’Ρ‹Π΄Π΅Π»Π΅Π½Π½Ρ‹Ρ… Π‘Π΅Ρ€Π²Π΅Ρ€Π°Ρ… всСгда Π·Π°ΠΏΡ€Π°ΡˆΠΈΠ²Π°ΠΉΡ‚Π΅ ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΡŽ LACP Ρƒ ΠΏΡ€ΠΎΠ²Π°ΠΉΠ΄Π΅Ρ€Π° Ρ†Π΅Π½Ρ‚Ρ€Π° ΠΎΠ±Ρ€Π°Π±ΠΎΡ‚ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ…, Π° Π½Π΅ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠΉΡ‚Π΅ ΡΡ‚Π°Ρ‚ΠΈΡ‡Π΅ΡΠΊΡƒΡŽ LAG
  • Π―Π²Π½ΠΎ провСряйтС ΠΏΠ΅Ρ€Π΅ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΠ΅ ΠΏΡ€ΠΈ ΠΎΡ‚ΠΊΠ°Π·Π΅, ΠΎΡ‚ΠΊΠ»ΡŽΡ‡ΠΈΠ² ΠΎΠ΄ΠΈΠ½ кабСль β€” Π½Π΅ ΠΏΡ€Π΅Π΄ΠΏΠΎΠ»Π°Π³Π°ΠΉΡ‚Π΅, Ρ‡Ρ‚ΠΎ конфигурация Π²Π΅Ρ€Π½Π°, ΠΏΠΎΠΊΠ° Π½Π΅ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΈΡ‚Π΅ Π΅Ρ‘ Π² условиях ΠΎΡ‚ΠΊΠ°Π·Π°
  • Π”ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚ΠΈΡ€ΡƒΠΉΡ‚Π΅, ΠΊΠ°ΠΊΠΎΠΉ физичСский NIC соотвСтствуСт ΠΊΠ°ΠΊΠΎΠΌΡƒ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½ΠΎΠΌΡƒ (eth0, eth1), ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡ `ethtool -i eth0`, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΈΠ·Π±Π΅ΠΆΠ°Ρ‚ΡŒ ΠΏΡƒΡ‚Π°Π½ΠΈΡ†Ρ‹ ΠΏΡ€ΠΈ физичСском обслуТивании
  • Для рСзСрвирования ΠΌΠ΅ΠΆΠ΄Ρƒ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π°ΠΌΠΈ Π² критичСских срСдах ΠΈΠ·ΡƒΡ‡ΠΈΡ‚Π΅ MLAG, ΠΏΡ€Π΅ΠΆΠ΄Π΅ Ρ‡Π΅ΠΌ ΠΎΡΡ‚Π°Π½Π°Π²Π»ΠΈΠ²Π°Ρ‚ΡŒΡΡ Π½Π° LACP с ΠΎΠ΄Π½ΠΈΠΌ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€ΠΎΠΌ

FAQ

Π£Π΄Π²Π°ΠΈΠ²Π°Π΅Ρ‚ Π»ΠΈ network bonding ΡΠΊΠΎΡ€ΠΎΡΡ‚ΡŒ Π·Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ ΠΎΠ΄Π½ΠΎΠ³ΠΎ Ρ„Π°ΠΉΠ»Π°?

НСт. Bonding распрСдСляСт Ρ‚Ρ€Π°Ρ„ΠΈΠΊ ΠΏΠΎ ΠΊΠ°Π½Π°Π»Π°ΠΌ Π½Π° ΡƒΡ€ΠΎΠ²Π½Π΅ ΠΏΠΎΡ‚ΠΎΠΊΠΎΠ² (ΠΈΠ»ΠΈ Π½Π° ΡƒΡ€ΠΎΠ²Π½Π΅ ΠΏΠ°ΠΊΠ΅Ρ‚ΠΎΠ² Π² Ρ€Π΅ΠΆΠΈΠΌΠ΅ 0). Одно TCP-соСдинСниС ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΎΠ΄ΠΈΠ½ физичСский ΠΊΠ°Π½Π°Π» Π² Π±ΠΎΠ»ΡŒΡˆΠΈΠ½ΡΡ‚Π²Π΅ Ρ€Π΅ΠΆΠΈΠΌΠΎΠ². Bonding ΡƒΠ²Π΅Π»ΠΈΡ‡ΠΈΠ²Π°Π΅Ρ‚ ΡΠΎΠ²ΠΎΠΊΡƒΠΏΠ½ΡƒΡŽ ΠΏΡ€ΠΎΠΏΡƒΡΠΊΠ½ΡƒΡŽ ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΡŒ для Π½Π΅ΡΠΊΠΎΠ»ΡŒΠΊΠΈΡ… ΠΎΠ΄Π½ΠΎΠ²Ρ€Π΅ΠΌΠ΅Π½Π½Ρ‹Ρ… соСдинСний, Π° Π½Π΅ ΡΠΊΠΎΡ€ΠΎΡΡ‚ΡŒ ΠΎΡ‚Π΄Π΅Π»ΡŒΠ½ΠΎΠ³ΠΎ соСдинСния.

Π’ Ρ‡Ρ‘ΠΌ Ρ€Π°Π·Π½ΠΈΡ†Π° ΠΌΠ΅ΠΆΠ΄Ρƒ Ρ€Π΅ΠΆΠΈΠΌΠΎΠΌ 4 bonding (LACP) ΠΈ статичСской LAG?

БтатичСская LAG (ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅ΠΌΠ°Ρ Ρ€Π΅ΠΆΠΈΠΌΠ°ΠΌΠΈ 0 ΠΈ 2) Π²Ρ€ΡƒΡ‡Π½ΡƒΡŽ опрСдСляСт, ΠΊΠ°ΠΊΠΈΠ΅ ΠΏΠΎΡ€Ρ‚Ρ‹ ΠΎΠ±Ρ€Π°Π·ΡƒΡŽΡ‚ Π³Ρ€ΡƒΠΏΠΏΡƒ агрСгирования Π±Π΅Π· ΠΊΠ°ΠΊΠΎΠ³ΠΎ-Π»ΠΈΠ±ΠΎ согласования. LACP (Ρ€Π΅ΠΆΠΈΠΌ 4) динамичСски согласовываСт LAG с использованиСм ΡƒΠΏΡ€Π°Π²Π»ΡΡŽΡ‰ΠΈΡ… ΠΏΠ°ΠΊΠ΅Ρ‚ΠΎΠ², автоматичСски обнаруТивая Π½Π΅ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½Ρ‹Π΅ ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΠΈ, ΠΎΡ‚ΠΊΠ°Π·Π°Π²ΡˆΠΈΠ΅ ΠΊΠ°Π½Π°Π»Ρ‹ ΠΈ добавляя/удаляя участников. LACP Π±ΠΎΠ»Π΅Π΅ Π½Π°Π΄Ρ‘ΠΆΠ΅Π½ ΠΈ являСтся отраслСвым стандартом для производствСнных Ρ€Π°Π·Π²Ρ‘Ρ€Ρ‚Ρ‹Π²Π°Π½ΠΈΠΉ.

МоТно Π»ΠΈ Π½Π°ΡΡ‚Ρ€ΠΎΠΈΡ‚ΡŒ network bonding Π½Π° VPS?

Π­Ρ‚ΠΎ зависит ΠΎΡ‚ Π³ΠΈΠΏΠ΅Ρ€Π²ΠΈΠ·ΠΎΡ€Π° ΠΈ хостинг-ΠΏΡ€ΠΎΠ²Π°ΠΉΠ΄Π΅Ρ€Π°. Π‘ΠΎΠ»ΡŒΡˆΠΈΠ½ΡΡ‚Π²ΠΎ ΠΎΠ±Π»Π°Ρ‡Π½Ρ‹Ρ… VPS-экзСмпляров ΠΏΡ€Π΅Π΄ΠΎΡΡ‚Π°Π²Π»ΡΡŽΡ‚ Π³ΠΎΡΡ‚ΡŽ ΠΎΠ΄ΠΈΠ½ Π²ΠΈΡ€Ρ‚ΡƒΠ°Π»ΡŒΠ½Ρ‹ΠΉ NIC, ΠΏΡ€ΠΈ этом bonding обрабатываСтся Π½Π° ΡƒΡ€ΠΎΠ²Π½Π΅ Π³ΠΈΠΏΠ΅Ρ€Π²ΠΈΠ·ΠΎΡ€Π°. НСкоторыС ΠΏΡ€ΠΎΠ²Π°ΠΉΠ΄Π΅Ρ€Ρ‹, ΠΏΡ€Π΅Π΄Π»Π°Π³Π°ΡŽΡ‰ΠΈΠ΅ VPS, Π±Π»ΠΈΠ·ΠΊΠΈΠ΅ ΠΊ bare-metal, ΠΈΠ»ΠΈ Π²Ρ‹Π΄Π΅Π»Π΅Π½Π½Ρ‹Π΅ ΠΎΠ±Π»Π°Ρ‡Π½Ρ‹Π΅ экзСмпляры, ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΈΠ²Π°ΡŽΡ‚ bonding Π½Π° ΡƒΡ€ΠΎΠ²Π½Π΅ гостя. Π£Ρ‚ΠΎΡ‡Π½ΠΈΡ‚Π΅ Ρƒ своСго ΠΏΡ€ΠΎΠ²Π°ΠΉΠ΄Π΅Ρ€Π° ΠΏΠ΅Ρ€Π΅Π΄ ΠΏΠΎΠΏΡ‹Ρ‚ΠΊΠΎΠΉ настройки bonding Π²Π½ΡƒΡ‚Ρ€ΠΈ гостСвой систСмы VPS.

Π§Ρ‚ΠΎ происходит с Π°ΠΊΡ‚ΠΈΠ²Π½Ρ‹ΠΌΠΈ соСдинСниями ΠΏΡ€ΠΈ ΠΎΡ‚ΠΊΠ°Π·Π΅ ΠΎΠ±ΡŠΠ΅Π΄ΠΈΠ½Ρ‘Π½Π½ΠΎΠ³ΠΎ ΠΊΠ°Π½Π°Π»Π°?

Π’ Ρ€Π΅ΠΆΠΈΠΌΠ΅ 1 (Active-Backup) bond отправляСт gratuitous ARP послС ΠΏΠ΅Ρ€Π΅ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΡ, обновляя Ρ‚Π°Π±Π»ΠΈΡ†Ρ‹ MAC ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π°. Π‘ΡƒΡ‰Π΅ΡΡ‚Π²ΡƒΡŽΡ‰ΠΈΠ΅ TCP-соСдинСния ΠΈΡΠΏΡ‹Ρ‚Ρ‹Π²Π°ΡŽΡ‚ ΠΊΡ€Π°Ρ‚ΠΊΠΎΠ²Ρ€Π΅ΠΌΠ΅Π½Π½ΡƒΡŽ ΠΏΠ°ΡƒΠ·Ρƒ (ΠΎΠ±Ρ‹Ρ‡Π½ΠΎ ΠΌΠ΅Π½Π΅Π΅ 300 мс ΠΏΡ€ΠΈ быстром MII-ΠΌΠΎΠ½ΠΈΡ‚ΠΎΡ€ΠΈΠ½Π³Π΅), Π½ΠΎ ΠΊΠ°ΠΊ ΠΏΡ€Π°Π²ΠΈΠ»ΠΎ Π²Ρ‹ΠΆΠΈΠ²Π°ΡŽΡ‚. Π’ Ρ€Π΅ΠΆΠΈΠΌΠ΅ 4 LACP ΠΎΠ±Π½Π°Ρ€ΡƒΠΆΠΈΠ²Π°Π΅Ρ‚ ΠΎΡ‚ΠΊΠ°Π· ΠΈ пСрСраспрСдСляСт ΠΏΠΎΡ‚ΠΎΠΊΠΈ Π½Π° ΠΎΡΡ‚Π°Π²ΡˆΠΈΠ΅ΡΡ ΠΊΠ°Π½Π°Π»Ρ‹ β€” ΡΡƒΡ‰Π΅ΡΡ‚Π²ΡƒΡŽΡ‰ΠΈΠ΅ ΠΏΠΎΡ‚ΠΎΠΊΠΈ Π½Π° ΠΎΡ‚ΠΊΠ°Π·Π°Π²ΡˆΠ΅ΠΌ ΠΊΠ°Π½Π°Π»Π΅ ΠΏΠΎΡ‚Ρ€Π΅Π±ΡƒΡŽΡ‚ ΠΏΠΎΠ²Ρ‚ΠΎΡ€Π½ΠΎΠ³ΠΎ установлСния соСдинСния ΠΏΡ€ΠΈΠ»ΠΎΠΆΠ΅Π½ΠΈΠ΅ΠΌ.

ΠŸΠΎΡ‡Π΅ΠΌΡƒ ΠΌΠΎΠΉ bond Ρ€Π΅ΠΆΠΈΠΌΠ° 4 ΠΏΠΎΠΊΠ°Π·Ρ‹Π²Π°Π΅Ρ‚ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΎΠ΄ΠΈΠ½ Π°ΠΊΡ‚ΠΈΠ²Π½Ρ‹ΠΉ ΠΏΠΎΠ΄Ρ‡ΠΈΠ½Ρ‘Π½Π½Ρ‹ΠΉ Π² `/proc/net/bonding/bond0`?

НаиболСС распространённой ΠΏΡ€ΠΈΡ‡ΠΈΠ½ΠΎΠΉ являСтся Π½Π΅ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½Π°Ρ конфигурация Π½Π° сторонС ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π°. Π£Π±Π΅Π΄ΠΈΡ‚Π΅ΡΡŒ, Ρ‡Ρ‚ΠΎ ΠΏΠΎΡ€Ρ‚Ρ‹ ΠΊΠΎΠΌΠΌΡƒΡ‚Π°Ρ‚ΠΎΡ€Π° настроСны Π² ΠΎΠ΄Π½ΠΎΠΌ ΠΊΠ°Π½Π°Π»Π΅ ΠΏΠΎΡ€Ρ‚ΠΎΠ² с Π²ΠΊΠ»ΡŽΡ‡Ρ‘Π½Π½Ρ‹ΠΌ LACP Π² Π°ΠΊΡ‚ΠΈΠ²Π½ΠΎΠΌ Ρ€Π΅ΠΆΠΈΠΌΠ΅. Π’Π°ΠΊΠΆΠ΅ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΡŒΡ‚Π΅, Ρ‡Ρ‚ΠΎ `lacp-rate` установлСн ΠΎΠ΄ΠΈΠ½Π°ΠΊΠΎΠ²ΠΎ с ΠΎΠ±Π΅ΠΈΡ… сторон. ΠΠ΅ΡΠΎΠ²ΠΏΠ°Π΄Π°ΡŽΡ‰ΠΈΠΉ ΠΊΠ»ΡŽΡ‡ LACP ΠΈΠ»ΠΈ систСмный ΠΏΡ€ΠΈΠΎΡ€ΠΈΡ‚Π΅Ρ‚ ΠΌΠΎΠ³ΡƒΡ‚ ΠΏΡ€Π΅ΠΏΡΡ‚ΡΡ‚Π²ΠΎΠ²Π°Ρ‚ΡŒ Π°Π³Ρ€Π΅Π³ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡŽ Π΄Π°ΠΆΠ΅ ΠΏΡ€ΠΈ Ρ€Π°Π±ΠΎΡ‚Π°ΡŽΡ‰ΠΈΡ… физичСских ΠΊΠ°Π½Π°Π»Π°Ρ….