Administrace komentářů

Ne, já jsem to nikdy neměl na starosti a nikomu jsem to na hlavu nehodil, ale výkaz práce zde skutečně zveřejnovat nebudu (ani jej nemám) a navíc by to bylo nepodstatné a zcela zbytečné.

Shodit se nám to povedlo tak, že jsme na tom pustili pgbench nad několika postgresql databázemi. Ve skutečnosti méně, než běžně běželo v produkci. Stačilo pár desítek minut běhu pgbench na několika virtuálkách (malá čísla, něco jako 10 nebo 8). Celkový datový tok a iops na takto postavený storage byl menší, než běžný provoz na produkci a přitom HW to mělo tehdy velmi nadstandardní. Hromada SAS 16x SAS per node, 4 Intel DC SSD. Spousta RAM (128GB). Tři node. Takto luxusní hw pro storage jsme v produkci tehdy skutečně neměli. Tedy 8VM dokázalo shodit storage o 12xSSD, 48SAS HDD (10 nebo 15krpm, to už nevím).

Zkoušeli jsme to na blokové vrstvě RBD a do vmware přes iscsi - preferované řešení. Zkoušeli jsme přímo do těch virtuálek připojovat cephfs a datový adresář pro postgresql dát do něj - tohle bylo doporučované, mít spoustu cephfs klientů pro data. Tohle bylo ještě horší, tady stačilo pár minut. Zkoušeli jsme někam připojit cepfs, exportovat je jako NFS a toto NFS připojit do vmware a virtuálky na něm.

Virtuálky se po pár (desítkách) minut zasekly. Výkon storage klesal až k nule a potom to vmware vzdal a prohlásil storage za nedostupný. Při připojení cephfs přímo do virtuálek se to chovalo stejně jako nfs mount při výpadku sítě. Všechny procesy v uninterruptible sleep. Ano, po dalších x hodinách se to probralo. Takže se můžete klidně vozit po výrazu "shodit". cephfs vyloženě padal s nějakým errorem, který už nemám. Ano, RBD nespadlo, jen mělo několik hodin výkon 0IOPS. Takže to vyloženě nespadlo, ale provozovat produkci na 0IOPS nelze.

Toto rozhodně nebyl stav, na kterém by bylo možné cokoliv produkčně provozovat. Když 48+12 disků dokáže shodit 8 virtuálek, je to za mě nepoužitelné.

Vlastně nevím, co myslíte tím dvojím metrem a je mi to už jedno. Věnovat tomu dalších x desítek hodin nemělo žádný smysl. Prostě to nefungovalo. Nezvládalo to provoz, který jsme měli běžně na produkci. Mělo to k dispozici nadstandardní HW - 10GbE síť, 4x cache SSD, 16xdatové disky. Oddělená síť pro synchronizaci ceph. Každý stroj 4x10GbE port. Víc jsme tehdy neměli a už tohle byl nadstandard, který jsme v produkci neměli.

Takže tak.