Portál AbcLinuxu, 26. října 2025 01:58


Nástroje: Začni sledovat (2) ?Zašle upozornění na váš email při vložení nového komentáře.

Vložit další komentář
Max avatar 19.8. 16:34 Max | skóre: 72 | blog: Max_Devaine
Rozbalit Rozbalit vše Re: Llama.cpp na Steam Decku s Ubuntu 25.04
Odpovědět | Sbalit | Link | Blokovat | Admin
Docela drahý, používat Steam Deck jako server :D
Zdar Max
Měl jsem sen ... :(
19.8. 21:40 Peter Golis | skóre: 65 | blog: Bežné záležitosti | Bratislava
Rozbalit Rozbalit vše Re: Llama.cpp na Steam Decku s Ubuntu 25.04
Oproti RPi je tam zanedbateľný cenový rozdiel, ale vyšší výkon a kompaktnejší tvar.
Max avatar 20.8. 08:40 Max | skóre: 72 | blog: Max_Devaine
Rozbalit Rozbalit vše Re: Llama.cpp na Steam Decku s Ubuntu 25.04
Steam Deck stojí 15kkč, ne? Zato RPi 5 stojí 2-4kkč
Ale pravda, že je k tomu RPi potřeba započítat cenu úložiště, nějakou krabičku apod. Nicméně i tak se člověk nedostane tak vysoko.
Zdar Max
Měl jsem sen ... :(
20.8. 08:56 jenda
Rozbalit Rozbalit vše Re: Llama.cpp na Steam Decku s Ubuntu 25.04
Cenove asi steam deck nic moc, ale zajimalo by me, jak zvladne gpt oss 20B. https://github.com/ggml-org/llama.cpp/discussions/15396

pro "--ctx-size 131072" mam poznamku VRAM = 15.530GiB a na RTX4090 jede jak z praku (a to je emulace mxfp4) !

du pro novou grafiku :D
Max avatar 20.8. 08:59 Max | skóre: 72 | blog: Max_Devaine
Rozbalit Rozbalit vše Re: Llama.cpp na Steam Decku s Ubuntu 25.04
Já mám jen RPi4, takže třeba se někdo najde, kdo ti to na RPi5 otestuje :).
Zdar Max
Měl jsem sen ... :(
21.8. 14:26 /
Rozbalit Rozbalit vše Re: Llama.cpp na Steam Decku s Ubuntu 25.04
gpt oss 20B je k cemu dobry? vzdyt je to totalne retardovany :D libovolnej cinskej release je lepsi nez toto
20.8. 17:44 Peter Golis | skóre: 65 | blog: Bežné záležitosti | Bratislava
Rozbalit Rozbalit vše Re: Llama.cpp na Steam Decku s Ubuntu 25.04
Nezabudni na displej a čo ja viem čo ešte, a vyjde ťa pri podobnom podieli na výkone RPi ako drahšie. A hlavne nebudeš mať na stole nejaké klbko káblov obrastené zaprášenými pavučinami.
Max avatar 21.8. 12:32 Max | skóre: 72 | blog: Max_Devaine
Rozbalit Rozbalit vše Re: Llama.cpp na Steam Decku s Ubuntu 25.04
Display je mi u serveru k ničemu.
Zdar Max
Měl jsem sen ... :(
cbrpnk avatar 21.8. 18:35 cbrpnk | skóre: 10 | blog: bl0gium
Rozbalit Rozbalit vše Re: Llama.cpp na Steam Decku s Ubuntu 25.04
A ked ti server nenabehne tak hura ho pripajat k displayu :D A okrem toho na displayi v modernej serverovni máš komplet dashboard všetkých serverov :)
Max avatar 21.8. 23:45 Max | skóre: 72 | blog: Max_Devaine
Rozbalit Rozbalit vše Re: Llama.cpp na Steam Decku s Ubuntu 25.04
K čemu mi tam display s dashboardem jako má bejt? To jako abych se do toho studenýho průvanu chodil kochat dashboardem, který máme v úplně stejné podobě v kanclu? Fakt ne :D
Zdar Max
Měl jsem sen ... :(
21.8. 19:41 Peter Golis | skóre: 65 | blog: Bežné záležitosti | Bratislava
Rozbalit Rozbalit vše Re: Llama.cpp na Steam Decku s Ubuntu 25.04
Pravda že v dnešnej dobe sa považuje za server aj prevodník I2C na ethernet, aj s funkciou nastaviteľného dashboardu.

Doba pokročila a server už nie je tá hlučná skriňa čo žerie toľko elektriky ako gamatky ktoré sa radšej pripínali na nočný prúd. Ale výpočtový nod GPU by som za server nepovažoval.

Založit nové vláknoNahoru

Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

ISSN 1214-1267, (c) 1999-2007 Stickfish s.r.o.