web-dev-qa-db-ja.com

xmstarletで解析するためにhtmlをマッサージまたはフォーマットする方法は？

最初にhtmlのようなものを介して実際にjsoupを実行する必要がありますか？人間の意味でそれを有効にしないために、それを意味不明に変えるかもしれませんが、少なくともxmlstarletがファイルを処理できるようにするためですか？

できれば、次のようにインストールして使用できるCLIを探します。

massage foo.html > bar.xhtml

または少なくともそれらの線に沿った何か。

使用事例：

thufir@doge:~/.html$ 
thufir@doge:~/.html$ curl http://int.soccerway.com/  > soccer.html
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  188k    0  188k    0     0   313k      0 --:--:-- --:--:-- --:--:--  313k
thufir@doge:~/.html$ 
thufir@doge:~/.html$ xmlstarlet sel -t -v "/html/body/table/tr/td[1]" -n soccer.html 
soccer.html:70.13: xmlParseEntityRef: no name
if (this.$ && this.$.fn && this.$.fn.jquery) {
            ^
soccer.html:70.14: xmlParseEntityRef: no name
if (this.$ && this.$.fn && this.$.fn.jquery) {
             ^
soccer.html:70.26: xmlParseEntityRef: no name
if (this.$ && this.$.fn && this.$.fn.jquery) {
                         ^
soccer.html:70.27: xmlParseEntityRef: no name
if (this.$ && this.$.fn && this.$.fn.jquery) {
                          ^
soccer.html:198.8: Opening and ending tag mismatch: link line 27 and head
</head>
       ^
soccer.html:209.45: EntityRef: expecting ';'
  j=d.createElement(s),dl=l!='dataLayer'?'&l='+l:'';j.async=true;j.src=
                                            ^
soccer.html:223.40: xmlParseEntityRef: no name
      if (typeof(e.data) === 'string' && (e.data.indexOf('onEplayerVideoStarted'
                                       ^

理想的には、URLに対して直接htmlstarletを実行しますが、そのような規定はないようです。

そこにisformatへのfoオプションがありますが、上記とは異なる結果を得ることができませんでした。

text-processingcommand-linexmlhtmlxmlstarlet
8
Thufir

テーブルのデータセルだけが必要な場合は、xmlstarlet foの後にxmlstarlet selを使用できます。あなたが抱えている主な問題はXPathにあります。いくつかの「ワイルドカード」要素（//）を追加すると、目的の結果が得られます。

# fetch URL silently, following redirects, and send to standard out
curl -sL http://int.soccerway.com/                          |

# interpret input as HTML (-H) and try to recover as much as possible (-R)
xmlstarlet fo  -H -R                           2> /dev/null |

# use the following XPath expression and return the value (-t -v), 
# also add a newline after the result (-n)
xmlstarlet sel -t -v '//table//tr//h3/span' -n 2> /dev/null |

# only show the first 10 values
head -n10

出力：

World - Friendlies
Argentina - Prim B Nacional
Australia - National Premier Leagues
Australia - NPL Youth League
Bangladesh - Premier League
Belarus - Premier League
Benin - Championnat National
Brazil - Serie A
Brazil - Serie D
Brazil - Copa Paulista
5
Thor