Dotaz: Potize s instalaci Tensorflow

[zdenek2008]

Na Debianu 10 Stable jsem si nainstaloval DeepFace pomoci pip3. Ten vyzaduje Tensorflow ale muj procesor nepodporuje instrukce pozadovane predkompilovanou verzi TF takze pokus o import vyplivne 'Illegal instruction'. Vyzkousel jsem vsechny dostupne verze ale nic tak jsem si chtel zkompilovat TF sam. TF zavisi na Bazel, ten jsem nainstaloval pomoci pip3, ale kdyz v adresari tensorflow zadam ./configure tak zahlasi 'Cannot find bazel. Please install bazel.' Jeste jsem zkousel nainstalovat bazelisk, ale tam dostanu

'WARNING: pip is being invoked by an old script wrapper. This will fail in a future version of pip.
Please see https://github.com/pypa/pip/issues/5599 for advice on fixing the underlying issue.
To avoid this problem you can invoke Python with '-m pip' instead of running pip directly.
Defaulting to user installation because normal site-packages is not writeable
ERROR: Could not find a version that satisfies the requirement bazelisk
ERROR: No matching distribution found for bazelisk'

Verze bazel je 0.0.0.20200723 ale v tensorflow/configure.py se pise '_TF_MIN_BAZEL_VERSION = '3.7.2' _TF_MAX_BAZEL_VERSION = '3.99.0''. Takove verze mi ale pip3 nenainstaluje. Nevedeli byste nekdo co s tim? Kdyztak predem diky za pripadne tipy.

---

---

Odpovědi

[Gréta]

co uplně vynechat pip a skusit vzit release verzi nějakou z githubu hele strčit ji někam do /opt a do path :O :O

[zdenek2008]

Momentalne kompiluji TF bazelem 3.7.2 nainstalovanym podle techto pokynu: https://docs.bazel.build/versions/master/install-ubuntu.html

Kompiluje se polozka asi 1927 z asi 9892 takze nekdy ve treti dekade dubna budu vedet vic. Behem procesu litala spousta chybovych hlasek a varovani, takze az/jestli to dojede a pokusim se to spustit ocekavam nejakou opravdu stupidni hlasku typu 'sorry, neznamy operacniho system' nebo 'dvanactkrat dlouze seslapnete spojku, ctyrikrat obehnete blok, zkompilujte si sebrane spisy velkeho manitu v assembleru, do promptu zadejte jejich souhrn v hexadecimalnim kodu a pak se dovite zda je vas procesor touto verzi podporovan'.

[Gréta]

nóóó takle ňák to bylo cca před rokem u mě když sem tf kompilovala ze zdrojáků :D to číslo 9892 se eště bude průběžně zvěčovat myslim :O :D

zpomínám si že tam nějak dycky bylo nutný po chybný kompilaci jakoby nějak promazávat .cache nebo volat clean nebo prostě jako takovýho něco :O :O

[zdenek2008]

Bingo!

ERROR: /home/user/tensorflow/tensorflow/core/kernels/linalg/BUILD:198:18: C++ compilation of rule '//tensorflow/core/kernels/linalg:matrix_square_root_op' failed (Exit 1): gcc failed: error executing command /usr/bin/gcc -U_FORTIFY_SOURCE -fstack-protector -Wall -Wunused-but-set-parameter -Wno-free-nonheap-object -fno-omit-frame-pointer -g0 -O2 '-D_FORTIFY_SOURCE=1' -DNDEBUG -ffunction-sections ... (remaining 186 argument(s) skipped)
gcc: fatal error: Killed signal terminated program cc1plus
compilation terminated.
Target //tensorflow/tools/pip_package:build_pip_package failed to build
Use --verbose_failures to see the command lines of failed build steps.
INFO: Elapsed time: 31112.728s, Critical Path: 7555.91s
INFO: 4911 processes: 530 internal, 4381 local.
FAILED: Build did NOT complete successfully

Pustil jsem to znovu, zatim kompiluje, mozna pokracuje kde prestal?

[Gréta]

se bojim žeto bez tamtoho promazávání ~/.cache/bazel nebo podobný složšky to jakoby pak nemusí fungovat :O :O

btw kompiluješ to správnou verzí gcc?? :O :O debian 10 má jako výchozí nějaký gcc 4 něco hele ale tf chce min 7.3 hele :O :O

[Peter Golis]

To GCC v Debiane nie je náhodou 8.3.0? Veď to má priamu náväznosť na dep: gcc-8 (>= 8.3.0-1~).

[Gréta]

jj máš pravdu mě popletla tamta čtyrka nazačátku :O :O

[zdenek2008]

~$ gcc --version gcc (Debian 8.3.0-6) 8.3.0

Uprimne nemam poneti co kde promazavat. Nekdy behem noci to prestalo kompilovat (asi po 8 hodinach behu) a kdyz jsem rano videl ze to stejne skoncilou chybou tak jsem jen spustil ten samy prikaz znovu. Ted to kompiluje, noutas prakticky nereaguje na jine aktivity, tak asi zatim to necham bezet nez to opet zkolabuje. Pak nejspis dojde take na to mazani.

[trubicoid2]

no "nereaguje na jine aktivity" neswapuje to? to by odpovialo tomu zabitymu: "gcc: fatal error: Killed signal terminated program cc1plus"

malo pameti, nebo malo swapu, kolik mas pameti?

na tensorflow pisou: Building TensorFlow from source can use a lot of RAM. If your system is memory-constrained, limit Bazel's RAM usage with: --local_ram_resources=2048.

[zdenek2008]

Je to tak. Nakonec jsem to natvrdo resetoval, ozelel dosud zkompilovanou praci, trochu zkoumal online a ted to opet spustil takhle:

~/tensorflow$ bazel build --jobs=1 --discard_analysis_cache --nokeep_state_after_build --notrack_incremental_state --local_ram_resources=HOST_RAM*.67 //tensorflow/tools/pip_package:build_pip_package

Ted to jede pouze na jednom jadru, s nizsi pameti (mam celkove 4GB RAM) a melo by to setrit i redukovanym kesovanim. Toto nejspis nebude finalni kolo, jiste se neco zase vyvrbi. Ted tedy alespon mam kontrolu nad zbytkem vypocetnich zdroju ale kdovi jak dlouho to bude cele trvat a pak take jeste jestli vysledny produkt bude fungovat, jeste porad nevim jak se veci budou mit s (ne)podporou instrukci TF na tomto Lenovu G50-30.

[zdenek2008]

Příloha:

• mental.jpg (133969 bytů)

Tak mame (ne)rozuzleni, pokud to nekomu nejak pomuze: kompilace TF stale jeste bezi (nepretrzite od ctvrtka, nebo snad stredy...), jsme nekde u 14000 z 32000 souboru. Mezitim jsem na githubu vystrachal predkompilovany TF 2.4.1 - No AVX - No GPU - Ubuntu 18.04 a nainstaloval pomoci pip3. Slozka .cache/bazel zatim narostla na 6GB, pri spusteni DeepFace si tento stahl potrebne modely TF celkem ~2GB.

Ovoce celeho dosavadniho snazeni: podezreleho na prilozenem snimku DeepFace klasifikoval jako '46 years old latino hispanic happy Man'.

Diky vsem za laskave tipy.

[trubicoid2]

kompilace trvá dlouho taky kvůli tomu --jobs=1, možná by prošlo i 2 nebo dokonce 4, ale zvyšuje se tím riziko chcípnutí při vyčerpání paměti

taky ten tvůj notebook má nějaký ne moc rychlý celer, že?

[zdenek2008]

Je to Lenovo G50-30. Na latex a semtam nejaky ten pythonovy skriptik staci, na tohle ne. Defaultni hodnota --jobs je 200, ale hodnota '1' tomu povoli jen jedno jadro. To druhe udrzi pri zivote zbytek OS.