Dotaz: IPv6, routing a výpadky

[Andrej]

Ahoj, prosím o radu s problémem, kvůli kterému mi jde pára z uší.

Mám 6to4 a můj server slouží jako IPv6 router ... tedy většinou. Někdy se stane (po několika minutách až hodinách, vcelku náhodně), že IPv6 úplně vypoví službu a nefunguje routing ani automatická konfigurace. Problém je patrný pouze z pohledu klientů. Na serveru spojení přes IPv6 s vnějším světem normálně funguje. Problém se tedy nejspíš týká pouze jednoho síťového rozhraní.

Poznámky

1. radvd nehlásí žádnou chybu.

2. Server má tři rozhraní: eth0(ppp0(tun6to4)) k operátorovi, eth1 do drátěné LAN, ath0 je WiFi AP (hostapd).

3. Možná k poruchám dochází při dlouhé nečinnosti, možná je to jen můj dojem.

4. Připojuji se pouze přes WiFi. (Problém jsem pozoroval pouze tam.)

5. K znovunastolení pořádku nestačí restart radvd. Musí se típnout a znovu nahodit hostapd a celé rozhraní ath0. (!)

6. Používám MTU 2290. Snad to nevadí. (WiFi je díky tomu hustě rychlé.) V iptables mám samozřejmě --clamp-mss-to-pmtu.

Otázky

1. Proč mám ve výpisu route položku expires?

2. Proč je položka expires záporná? (No, asi proto, že se inicializuje na nulu...) To znamená, že route ihned vyprší? Není to náhodou příčina všech problémů?

3. Když route stanovím explicitně pomocí ip, proč má vůbec nějakou hodnotu expires? A proč zrovna 0?

4. Proč musí mít router na vnitřních rozhraních povoleno accept_ra? (Bez tohoto nastavení síť zkolabuje skoro ihned. Musí snad jediný router v celé LAN přijímat advertisementy???)

5. Router solicitation na routeru vypnout můžu? (Už jsem to udělal, ale je to tak správně?)

6. U klienta se mi autokonfigurací vytvoří permanentní route, která nemá expires. (Tak jsem nastavil radvd.) Jak je možné, že autokonfigurace tohle umí, zatímco příkaz ip ne?

7. No jo, jenže proč se pak u klienta položka expires po několika desítkách minut provozu sama od sebe objeví? Když vyprší, je konec. Není to k vzteku?

Tohle je na serveru.

[root@charon ~]# ip -6 route show
::/96 via :: dev tun6to4  metric 256  expires -2020sec mtu 1442 advmss 1382 hoplimit 4294967295
2002:d970:ad49:1::/64 dev eth1  metric 256  expires -2021sec mtu 1500 advmss 1440 hoplimit 4294967295
2002:d970:ad49:2::/64 dev ath0  metric 256  expires -2021sec mtu 2290 advmss 2230 hoplimit 4294967295
2002::/16 dev tun6to4  metric 1024  expires -2020sec mtu 1442 advmss 1382 hoplimit 4294967295
fdcc:dead:beef:1::/64 dev eth1  metric 256  expires -2021sec mtu 1500 advmss 1440 hoplimit 4294967295
fdcc:dead:beef:2::/64 dev ath0  metric 256  expires -2021sec mtu 2290 advmss 2230 hoplimit 4294967295
fe80::/64 dev eth0  metric 256  expires -44259sec mtu 1500 advmss 1440 hoplimit 4294967295
fe80::/64 dev tun6to4  metric 256  expires -2020sec mtu 1442 advmss 1382 hoplimit 4294967295
fe80::/64 dev eth1  metric 256  expires -2020sec mtu 1500 advmss 1440 hoplimit 4294967295
fe80::/64 dev ath0  metric 256  expires -2020sec mtu 2290 advmss 2230 hoplimit 4294967295
ff00::/8 dev eth0  metric 256  expires -44259sec mtu 1500 advmss 1440 hoplimit 4294967295
ff00::/8 dev tun6to4  metric 256  expires -2020sec mtu 1442 advmss 1382 hoplimit 4294967295
ff00::/8 dev eth1  metric 256  expires -2020sec mtu 1500 advmss 1440 hoplimit 4294967295
ff00::/8 dev ath0  metric 256  expires -2020sec mtu 2290 advmss 2230 hoplimit 4294967295
default via ::192.88.99.1 dev tun6to4  metric 1  expires -2020sec mtu 1442 advmss 1382 hoplimit 4294967295

Tohle je u klienta v době, kdy má IPv6 na WiFi světlou chvilku a funguje. Defaultní route nemá expires, pokud (resp. dokud) se tam ovšem neobjeví samovolně...

[andrej@popelnice ~]$ ip -6 route show
fdcc:dead:beef:2::/64 dev eth1  proto kernel  metric 256  expires 2591529sec mtu 2290 advmss 2230 hoplimit 4294967295
fe80::/64 dev eth1  metric 256  expires 21334239sec mtu 2290 advmss 2230 hoplimit 4294967295
ff00::/8 dev eth1  metric 256  expires 21334239sec mtu 2290 advmss 2230 hoplimit 4294967295
default via fe80::21d:fff:feb3:d23d dev eth1  proto kernel  metric 1024  mtu 2290 advmss 2230 hoplimit 64

Odpovědi

[Andrej]

A už je to tu zase. Tohle je prostě k vzteku. Už jsem hodněkrát slyšel, že hostapd ve spojení s madwifi nestojí za nic, ale nikdy jsem netušil, že je to až tak zlé.

V nějakém okamžiku prostě radvd přestane (bez varování) vysílat advertisementy. Takže pak vyprší některé timeouty, které nelze nastavit na nekonečno, a tím to hasne. Při opětovném pokusu o spojení už se ani neobtěžuje odpovědět na router solicitation.

Mám dojem, že tahle patálie souvisí s nějakou změnou stavu rozhraní, přesněji řečeno s průšvihem, který zaviní buď madwifi nebo hostapd. Těchto řádek se objevují spousy a nikde k nim neexistuje rozumné vysvětlení:

wifi0: ath_bstuck_tasklet: Stuck beacon; resetting (beacon miss count: 11)

Tento problém ve spojení s faktem, že hostapd + madwifi se nikdy nezmůžou na funkční EAP-TLS, dokáže člověku opravdu pokazit radost.

[phero]

Zkusil bych v radvd nastavit MinRtrAdvInterval a MaxRtrAdvInterval na velice male hodnoty (nastaveni interface) - mozna diky tomu dojde driv k problemu a pripadne pustit tcpdump na routeru i na klientovy. A rozhodne bych zkusil nastavit mtu na 1500 na wifi.

[Andrej]

MTU 1500 jsem zkoušel, ale je to stejné. Zmíněné dvě hodnoty jsem měl dřív na 5 a 15 sekund, teď mám 30 a 60 sekund. Problémy nastávají v podstatě stejně často. Jakmile se objeví v logu ta podivná hláška „stuck beacon“, je oheň na střeše. Občas se nestane nic, jindy se podělá IPv6 a v hodně hustých případech AP přestane fungovat. To se pak musí modul pro WiFi znovu načíst, aby se to dalo do pořádku...

[mozog]

Jakmile se objeví v logu ta podivná hláška „stuck beacon“, je oheň na střeše. Občas se nestane nic, jindy se podělá IPv6 a v hodně hustých případech AP přestane fungovat. To se pak musí modul pro WiFi znovu načíst, aby se to dalo do pořádku...

Muzes to otestovat po "dratovy" siti ?

[Andrej]

Na drátové síti takové problémy nejsou. K tomu WiFi mám další fakta.

Démon radvd má option IgnoreIfMissing. Ten mám zapnutý, právě kvůli případným výpadkům toho WiFi zařízení. Znamená to, že se démon bude opakovaně pokoušet rozhraní použít, pokud nebude ihned UP a RUNNING nebo pokud na čas úplně zmizí.

Po té hlášce v logu ale démon zjevně nedokáže zařízení znovu detekovat a považuje ho dál za nedostupné. Přestože IPv4 na něm funguje a ve výpisu jsou oba flagy UP a RUNNING, které radvd požaduje, neobnoví jeho činnost automaticky.

Když jsem 24 hodin sledoval a zapisoval některé timeouty na klientovi, zjistil jsem, že po velmi dlouhé době (cca 3 hodiny) většinou radvd funkci IPv6 obnoví i bez lidského zásahu. Potíž je v tom, že klient, který se během celé této dlouhé doby chce připojit, nedostane ani router advertisement, ani odpověď na router solicitation. Takže se do logu zapíše No IPv6 routers present a kernel to vzdá. Přestože se později advertisementy znovu objeví, kernel u klienta už na ně nereaguje. (Nedá se toto nějak změnit?)

Pokud vypnu IgnoreIfMissing, radvd při „stuck beacon“ skončí a napíše naštvané hlášky do logu. K tomu, aby radvd (se zapnutým IgnoreIfMissing) zařízení znovu našel, stačí toto:

/usr/sbin/ip -6 route flush dev ath0
/usr/sbin/ip -6 addr flush dev ath0
/usr/sbin/ip link set dev ath0 down
sleep 1
/usr/sbin/ip -6 link set ath0 mtu 2290 up
/sbin/ifconfig ath0 10.84.55.1 netmask 255.255.255.192 mtu 2290
/usr/sbin/ip -6 addr add 2002:d970:ad49:2::1/64 dev ath0
/usr/sbin/ip -6 addr add fdcc:dead:beef:2::1/64 dev ath0

Ten flush by tam vlastně ani být nemusel, asi ošetřuje nějaké problémy, které se týkaly hodně hodně starých kernelů. Zajímavé je, že restart radvd vůbec nepomůže. Musí se restartovat zařízení, démon se klidně dá nechat běžet.

(S „normální ethernetovou“ MTU jsou problémy taktéž, takže tím to asi nebude.)

No tak nevím... Na fórech Madwifi se o těch hláškách píše neustále a ten bug byl už asi třikrát vyřešen a třikrát znovu otevřen. To je teda hustý problém...

Měl jsem takovou teorii, že by to mohlo být způsobeno NTP. Můj server nemá příliš přesné hodiny. (Netuším, proč tomu tak je.) Proto se synchronizuje každou hodinu přes NTP. Říkal jsem si, zda ty hodiny nejsou nějak provázané s hardwarovými časovači a jestli třeba nemůže jejich změna (řádově o setiny vteřiny, což je z pohledu OS obrovsky dlouhá doba) způsobit takové problémy. Tato teorie je ovšem nepravdivá. Kernelové časovače nejspíš nezávisí na palubních hodinách (aspoň ne na této platformě) a navíc se chyby vyskytují stejně často v každém okamžiku, nikoliv jenom v době synchronizace.

Otázka je: Co se s tím zařízením stane? Je to nějaký speciální stavový flag, který se změní a který bych měl po chybě dát do pořádku? Pak by se už dal na tyhle patálie vymyslet nějaký workaround.

[Andrej]

Hernajsfagot! Toho jsem se obával. Nikdo neví, čím to je. Zkusil jsem všechno, co tam říkají, ale pořád tam mám výpadky. V 90% případů postihnou pouze IPv6, ale dnes jsem měl totální karambol, který vyřešil až reload ovladače.