Dotaz: Parsovani HTML pomoci regularnich vyrazu

[Bundas]

Ahojte vsichni.

Mam nekolik odkazu:
<a href="/dafuq/lol/1/">1</a>
<a href="/dafuq/lol/2/">2</a>
<a href="/dafuq/lol/3/">3</a>
<a href="/dafuq/lol/4/">...</a>
<a href="/dafuq/lol/8/">8</a>
<a href="/dafuq/lol/9/">9</a>

Potrebuju z nich dostat tu cislovku na konci odkazu (napr. <a href="/dafuq/lol/9/">9</a>) pomoci regularniho vyrazu. Jak to mam udelat? Regexy mi vubec, vubec nejdou. Predem diky za pomoc

---

---

Odpovědi

[Bundas]

Uz jsem to vyresil

 

<a href="/dafuq/[^/]*/([^/\"]*)/">[^<>/]*</a>

[Kit]

Zkus ještě utilitu xmllint. Ta umí parsovat HTML o něco lépe.

[Kit]

Místo regexpu se dá použít také XQuery:

for $x in doc("input.html")//a
    return substring-before(substring-after($x/@href, 'lol/'), '/')

Možná to nevypadá tak elegantně jako regexp, ale poradí si to i s více odkazy na řádku, zalomenými atributy, komentáři...

[Jakub Lucký]

povinná reference

[Josef Kufner]

lynx -dump -listonly -nonumbers http://abclinuxu.cz/

Na vytáhnutí odkazů z HTML to je velice praktické. Pak už ty regulární výrazy lze použít snadno.

[Kit]

Paráda. Lynx používám, ale o této volbě jsem netušil. Díky.

[Fuky]

Na parsování HTML bych doporučil nástroje k tomu určené a ne regulární výrazy.

$ vim get_a_href.py
#! /usr/bin/env python
# -*- coding: utf-8 -*-

import sys
from lxml.html import parse

if (len(sys.argv) != 2):
    print "Usage: %s FILENAME or URL" % sys.argv[0]
    sys.exit()

page = parse(sys.argv[1])
urls = page.xpath('//a/@href')

for url in urls:
    print url
$ chmod +x get_a_href.py

[Petr]

Jeste bych se pripojil ke kolegovi, mam podobny dotaz ale ohledne parsovani XML - pro obcasne potreby pouzivam reg. vyrazy, je nejaky silnejsi nastroj v linuxu pod licenci GNU?

[Fuky]

lxml - XML and HTML with Python

[Kit]

xmllint, xmlstarlet, xqilla, xsltproc, xmlto,...

[Josef Kufner]

Je, ale těžko se hledají. Ono většinou se s XML pracuje z větších programů prostřednictvím knihoven a pro příkazový řádek toho moc není.

Zkus: xpath, xmllint, xsltproc

Například z XML v dotazu:

<html>
<a href="/dafuq/lol/1/">1</a>
<a href="/dafuq/lol/2/">2</a>
<a href="/dafuq/lol/3/">3</a>
<a href="/dafuq/lol/4/">4</a>
<a href="/dafuq/lol/5/">5</a>
<a href="/dafuq/lol/6/">6</a>
<a href="/dafuq/lol/7/">7</a>
<a href="/dafuq/lol/8/">8</a>
<a href="/dafuq/lol/9/">9</a>
</html>

Lze všechny URL získat takto:

xpath -q -e '//a/@href' soubor.xml

Výsledek:

 href="/dafuq/lol/1/"
 href="/dafuq/lol/2/"
 href="/dafuq/lol/3/"
 href="/dafuq/lol/4/"
 href="/dafuq/lol/5/"
 href="/dafuq/lol/6/"
 href="/dafuq/lol/7/"
 href="/dafuq/lol/8/"
 href="/dafuq/lol/9/"

[Kit]

Teď koukám na xpath. Dalo by se z toho dostat např.

/dafuq/lol/1/
/dafuq/lol/2/
/dafuq/lol/3/
/dafuq/lol/4/
/dafuq/lol/8/
/dafuq/lol/9/

nebo

1, 2, 3, 4, 8, 9

jinak než sedem? Obvykle používám xsltproc, což je na některé drobnosti zbytečně těžký kalibr. Na jednodušší věci momentálně používám program xqilla, ale úplně mi nesedí.

[Kit]

Tak už jsem na to přišel sám. Stačí v tom perlovém skriptu xpath vyměnit volání metody toString za getNodeValue a případně dál upravit dle potřeby.

[Josef Kufner]

Nechceš to dát jako volbu a poslat autorům patch?

[Kit]

To není špatný nápad. Celý ten skript má jen 200 řádek, dá se to v něm snadno najít, ale přidání další volby pro mne není úplně triviální, protože v Perlu moc nedělám.

Asi bych to musel nejprve trochu refaktorovat, aby se to tam dalo přidat jako volba. Otázkou je, zda má smysl se tím zabývat, protože podobných utilit je (jak vidno) hromada.

[Josef Kufner]

Tak aspoň pošli feature request s diffem, třeba to doplní. Ono těch snadno použitelných nástrojů zas tak moc není.

[Kit]

Nerad dodělávám další vlastnosti. Raději odstraňuji ty, které považuji za zbytečné. Po odstranění zbytečných řádek zbylo z původních 205 jen 10.

Máme kolem sebe tolik univerzálně použitelných nástrojů, až se mi někdy jeví jako univerzálně nepoužitelné. Redukce je občas nezbytná.

[Kit]

Tak místo odpovědi autorům jsem ten skript trochu zkrátil a posílám ho sem:

#!/usr/bin/perl -w

use XML::XPath;
$xpath = XML::XPath->new(ioref => \*STDIN);
my $names = $xpath->find('//a/@href');
for my $node ($names->get_nodelist) {
    $_ = $node->getNodeValue;
    s|^.*/([^/]*)/$|$1|;
    print $_, "\n";
}

A to je celé. Volby jsou pryč, vstupem je STDIN. Dělá to jen to, co chce tazatel, ale přímo z HTML.