Dotaz: Bash: Přes HTML <form> vlézt do statistik a stáhnout data

[David Watzke]

Ahoj,

předem se omlouvám za titulek Mám HTMLko s <form>ulářem, který mě nahodí do statistik up/down přenosů (Karneval.cz) abych nemusel zadávat heslo... Potřeboval bych jenom vědět, jestli je nějaká možnost propašovat to přes bash a nějak stáhnout , pak už bych to zpacoval.

<form action="http://muj.karneval.cz/webmail/" method="post" name="login">
  <input name="logout" type="hidden" value="0">
  <input name="user" type="text" value="" >
  <input name="password" type="password" value="">
  <input type="hidden" name="host" value="mail.karneval.cz" >
  <input type="hidden" name="port" value="993">
  <input type="hidden" name="rootdir" value="">
</form>

Odpovědi

[tyctor]

skus to cez curl -d

[happy barney]

pohladaj si na freshmeate (alebo portage, ak nejake mas)

a skus najst napr pavuk (ten by to zvladat mal), alebo lwp-request (sucast lib-www-perl)

[David Watzke]

Děkuju za odpovědi... Pavuk se mi zalíbil, četl jsem manuál, ale nějak na to nemůžu přijít Jestli s tím někdo umíte, můžete sem prosím kopnout příklad použití (pro můj případ)?

[Tomáš]

Co takhle wget? Stačí jenom poskládat správný řetězec pro metodu POST.

[David Watzke]

No a tady je právě ten zásek

[Zdeněk Burda]

http://www.google.com/search?q=wget%20post%20form -> http://www.gnu.org/software/wget/faq.html

[David Watzke]

OK, zkusil jsem:

wget --post-data="login=&password=" \
"http://muj.karneval.cz/"

a pak místo login jsem dal user, ale stejně nic, pak

wget --post-data="login=&password=&logout=0\
&port=993&host=mail.karneval.cz&rootdir=''" "http://muj.karneval.cz/"

taky nic. Stáhne to jen stránku s formulářem k přihlášení.

[Zdeněk Burda]

Wgetem nusíš mířit na http://muj.karneval.cz/webmail/ protože se tam ten formulář posílá.

[David Watzke]

To jsem zkoušel, ale stáhne se naprosto totéž

[David Watzke]

Heh, místo login tam mělo být user, ale přesto stáhnu jen úvodní stránku s webmailem... po přihlášení bych ještě musel nějak přejít do sekce Internet a tak... ale whatever, Pythoní skript je v pohodě

[Pavel1]

Jakej zásek? Já takto (wgetem) tahám přenesená data, seznam hovorů, ... z webů, kam se musím normálně přihlašovat jménem a heslem.

[pok]

Asi by se taky dal pouzit primo prikaz POST (je to nejaky Perl-ovsky script, ve FC4 je to balik perl-libwww-perl)

[Zdeněk Štěpánek]

V perlu to jde moc pekne pomoci WWW::Mechanize, ale posledni verze ma tak trochu problem ze na mym serveru segfaultuje, cimz mi pridelala vcelku dost problemu, ale treba to poresi cista instalace nebo balicek pro tvou distribuci. Ja jsem to kompiloval z CPANu.

Wget muze neco vyresit, ale ne vse. Podle me je jen jednorazovy, cili poslu data (POST) a dostanu odpoved. Nic vic nic min, kdyztak me opravdu, rad bych se mylil.

S tim WWW::Mechanize jsem se prihlasil do banky (jmeno heslo), pak jsem zazadal o nejakej strasne dlouhy URL a banka mi vratila vypis z uctu v CVS. Kdyby tohle slo wgetem bylo by to prima.

Zdenek

[Zdeněk Burda]

Na spoustu věcí by měl wget stačit, prvním wgetem se přihlásíš a uložíš si cookie, druhým stáhneš konkrétní stránku se statistikama s tím, že tomu předhodíš to uložené cookie...

[Pavel1]

Ano, takto to dělám já. Není vždy nejjednodužší ze stránky vytáhnout příslušná data a cookie, ale dá se to. Určitě se to dá udělat jednodušeji a efektněji pomocí jiných zde naznačených nástrojů (když se to umí), ale i wgetem to jde.

[Jan Martinek]

Už se to tu řešilo, viz
Autologing pomocou bash cez http na web, http://www.abclinuxu.cz/forum/show/128078.
Možností je spousta (wget, perl), stačí si vybrat. Já jsem navrhoval python:
http://www.abclinuxu.cz/forum/show/128078#8
Je tam i demo program.

[David Watzke]

V Pythonu by to taky bylo pěkný. Doplnil bych to třeba takhle:

values = [
'user', 'Gbgb wr cbxhf.'
'password', 'heslo'
]

jenže to hodí chybu

Traceback (most recent call last):
  File "./hnoják.py", line 11, in ?
    data = urllib.urlencode(values)
  File "/usr/lib64/python2.4/urllib.py", line 1148, in urlencode
    raise TypeError
TypeError: not a valid non-string sequence or mapping object

a vzhledem k tomu jak je to (na mě) složitý a ještě k tomu když po přihlášení musím přejít na jinou stránku... skoro bych řekl, že to prozatím asi vzdám.

[Jan Martinek]

Zkus to takhle:

values = {'user':'Gbgb wr cbxhf.', 'password':'heslo'}

Pozor na tu závorku - patří tam složená místo hranaté.

[David Watzke]

Vypíše totéž, co stáhne wget... Hodil jsem to sem (v utf-8).

[Jan Martinek]

Škoda, že neznám jméno a heslo - nemají tam nějaký testovací účet, abych to mohl vyzkoušet? Jo a zkus tam napsat kompletní URL (pokud je to ono).

http://muj.karneval.cz/webmail/index.php

Nevím, proč se to nedaří. Třeba jim vadí user-agent případně referrer. Nebo to bude nějaká ptákovina, která mě teď nenapadá

[Jan Martinek]

Tak nakonec jsme to prostřednictvím mailů vyřešili. Zde je program v pythonu, který ve třech fázích přistupuje na stránku karnevalu. Nejdřív pošle metodou POST jméno a heslo, přičemž v odpovědi dostane cookies pro další autentizaci. Pak stáhne statistiku přenesených dat a na závěr se odloguje. Výstup z programu vypadá takto:

  2006-04-13  Prijate:  660,75 MB  Odeslane:  738,13 MB  Celkem:    1,37 GB
  2006-04-14  Prijate:  376,35 MB  Odeslane:  245,35 MB  Celkem:  621,71 MB
  2006-04-15  Prijate:  915,69 MB  Odeslane:  715,55 MB  Celkem:    1,59 GB
  2006-04-16  Prijate:  886,81 MB  Odeslane:  770,43 MB  Celkem:    1,62 GB
  2006-04-17  Prijate:  480,26 MB  Odeslane:  642,15 MB  Celkem:     1,1 GB
  2006-04-18  Prijate:  984,79 MB  Odeslane:   874,3 MB  Celkem:    1,82 GB
  2006-04-19  Prijate:   555,1 MB  Odeslane:  655,61 MB  Celkem:    1,18 GB
  2006-04-20  Prijate:  488,52 MB  Odeslane:  817,95 MB  Celkem:    1,28 GB
  2006-04-21  Prijate:    1,45 GB  Odeslane:  890,72 MB  Celkem:    2,32 GB
  2006-04-22  Prijate:    1,68 GB  Odeslane:  941,47 MB  Celkem:     2,6 GB
  2006-04-23  Prijate:    1,31 GB  Odeslane:  894,35 MB  Celkem:    2,18 GB
  2006-04-24  Prijate:  391,77 MB  Odeslane:  690,59 MB  Celkem:    1,06 GB
  2006-04-25  Prijate:   381,2 MB  Odeslane:  667,46 MB  Celkem:    1,02 GB
  2006-04-26  Prijate:   63,36 MB  Odeslane:  203,95 MB  Celkem:   267,3 MB
  2006-04-27  Prijate:   59,29 MB  Odeslane:    7,32 MB  Celkem:   66,61 MB
  2006-04-28  Prijate:   99,43 MB  Odeslane:   12,08 MB  Celkem:  111,51 MB
  2006-04-29  Prijate:  303,38 MB  Odeslane:  123,95 MB  Celkem:  427,33 MB
      Celkem  Prijate:   10,93 GB  Odeslane:    9,66 GB  Celkem:   20,59 GB

a zdroják je zde:

#!/usr/bin/env python
import re, cookielib, urllib, urllib2

cj = cookielib.CookieJar()
opener = urllib2.build_opener(urllib2.HTTPCookieProcessor(cj))

url1 = 'http://muj.karneval.cz/webmail/index.php'
values = {'logout':'0', 'user':'1234567', 'password':'nereknu', 'host':'mail.karneval.cz', 'port':'993', 'rootdir':''}
req1 = urllib2.Request(url1, urllib.urlencode(values))
stream1 = opener.open(req1)

url2 = 'http://muj.karneval.cz/internet/traffic.php'
req2 = urllib2.Request(url2)
stream2 = opener.open(req2)
statistics_html = stream2.read()

url3 = 'http://muj.karneval.cz/logout/'
req3 = urllib2.Request(url3)
stream3 = opener.open(req3)

regexp = re.compile(r'([\d|,]+ [M|G|]B)', re.MULTILINE)
traffic_txt = regexp.findall(statistics_html)

regexp = re.compile(r'(\d{4}-\d{2}-\d{2})', re.MULTILINE)
dates_txt = regexp.findall(statistics_html)
dates_txt.append('Celkem')

trf_count = 0
dates_count = 0
for traffic in traffic_txt:
  rem = trf_count % 3
  if rem == 0:
    print '%12s ' %(dates_txt[dates_count]), 
    print 'Prijate: %10s ' %traffic,
    dates_count += 1
  elif rem == 1:
    print 'Odeslane: %10s ' %traffic,
  else:
    print 'Celkem: %10s' %traffic
  trf_count += 1

[Jan Martinek]

... a ve svém osobním volnu se doučím regulární výrazy.
Měl jsem to blbě, tady je oprava. Místo původního

regexp = re.compile(r'([\d|,]+ [M|G|]B)', re.MULTILINE)

tam patří

regexp = re.compile(r'(\d+(?:,\d+)?\s+[kKMG]?B)')

[Pavel1]

Pěkná a inspirativní ukázka řešení v Pythonu. Jen více takovýchto ukázek! Podobné statistiky tahám z webu wgetem a upravuji v bashi.

Zrovna jsem potřeboval použít v bashi něco na překódování odkazu (předpokládám, že je to zde urllib.urlencode(values)). Málem jsem to chtěl použíl, ale našel jsem pro mě jednodužší řešení - příkaz od -A n -t x1.

[j3nda]

diky za skript. pythonu sice neholduji, uz jsem mel nacnute prihlasovani pres curl a hazelo mi to: "curl: (56) Received HTTP code 302 from proxy after CONNECT"

a pri laborovani jsem narazil na hotovy skriptik, autorum patri diky