用Python中的LXML解析HTML表

Question

我需要解析以下结构的html表：

<table class="table1" width="620" cellspacing="0" cellpadding="0" border="0">
 <tbody>
   <tr width="620">
     <th width="620">Smth1</th>
     ...
   </tr>
   <tr bgcolor="ffffff" width="620">
     <td width="620">Smth2</td>
     ...
   </tr>
   <tr bgcolor="E4E4E4" width="620">
     <td width="620">Smth3</td>
     ...
   </tr>
   <tr bgcolor="ffffff" width="620">
     <td width="620">Smth4</td>
     ...
   </tr>
 </tbody>
</table>

Python代码：

r = requests.post(url,data)
html = lxml.html.document_fromstring(r.text)
rows = html.xpath(xpath1)[0].findall("tr")
#Getting Xpath with FireBug
data = list()
for row in rows:
    data.append([c.text for c in row.getchildren()])

但我在第三行看到：

IndexError: list index out of range

任务是从这里形成python dict。行数可能不同。

升级版。 更改了获取html代码的方式，以避免请求库可能出现的问题。现在它是一个简单的url：

html = lxml.html.parse(test_url)

这证明了html的所有功能都是正常的：

lxml.html.open_in_browser(html)

但同样的问题是：

rows = html.xpath(xpath1)[0].findall('tr')
data = list()
for row in rows:
    data.append([c.text for c in row.getchildren()])

下面是xpath1：

'/html/body/table/tbody/tr[5]/td/table/tbody/tr/td[2]/table/tbody/tr/td/center/table'

UPD2.实验发现，xpath崩溃于：

xpath1 = '/html/body/table/tbody'
print html.xpath(xpath1)
#print returns []

如果xpath1较短，则它看起来工作良好，并返回[<Element table at 0x2cbadb0>]for xpath1 = '/html/body/table'

Answer 1

您的.xpath(xpath1)XPath表达式找不到任何元素。检查该表达式是否有错误。

Answer 2

您没有包含XPath，所以我不确定您要做什么，但是如果我理解正确，这应该可以工作

xpath1 = "tbody/tr"
r = requests.post(url,data)
html = lxml.html.fromstring(r.text)
rows = html.xpath(xpath1)
data = list()
for row in rows:
    data.append([c.text for c in row.getchildren()])

不过，这是一个项目列表，如下所示：

[['Smth1'], ['Smth2'], ['Smth3'], ['Smth4']]

要有一个简单的值列表，可以使用以下代码

xpath1 = "tbody/tr/*/text()"
r = requests.post(url,data)
html = lxml.html.fromstring(r.text)
data = html.xpath(xpath1)

这都是假设r.text正是你在上面贴的。