11. 數(shù)據(jù)提取-PyQuery
1.1 介紹
如果你對(duì)CSS選擇器與Jquery有有所了解，那么還有個(gè)解析庫可以適合你--Jquery
https://pythonhosted.org/pyquery/
1.2 安裝
pip install pyquery
1.3 使用方式
字符串
? ?from pyquery import PyQuery as pq
? ?doc = pq(str)
? ?print(doc(tagname))
url
? ?from pyquery import PyQuery as pq
? ?doc = pq(url='http://www.baidu.com')
? ?print(doc('title'))
文件
? ?from pyquery import PyQuery as pq
? ?doc = pq(filename='demo.html')
? ?print(doc(tagname))
1.3.2 選擇節(jié)點(diǎn)
獲取當(dāng)前節(jié)點(diǎn)
? ?from pyquery import PyQuery as pq
? ?doc = pq(filename='demo.html')
? ?doc('#main #top')
獲取子節(jié)點(diǎn)
在doc中一層層寫出來
獲取到父標(biāo)簽后使用children方法
? ?from pyquery import PyQuery as pq
? ?doc = pq(filename='demo.html')
? ?doc('#main #top').children()
? ?
獲取父節(jié)點(diǎn)
獲取到當(dāng)前節(jié)點(diǎn)后使用parent方法
獲取兄弟節(jié)點(diǎn)
獲取到當(dāng)前節(jié)點(diǎn)后使用siblings方法
1.3.3 獲取屬性
? ?from pyquery import PyQuery as pq
? ?doc = pq(filename='demo.html')
? ?a = doc('#main #top')
? ?print(a.attrib['href'])
1.3.4 獲取內(nèi)容
? ?from pyquery import PyQuery as pq
? ?doc = pq(filename='demo.html')
? ?div = doc('#main #top')
? ?print(a.html())
? ?print(a.text())
1.3.5 樣例
from pyquery import PyQuery as pq
# 1.可加載一段HTML字符串，或一個(gè)HTML文件，或是一個(gè)url地址，
d=pq("<html><title>hello</title></html>")
d=pq(filename=path_to_html_file)
d=pq(url='http://www.baidu.com')注意：此處url似乎必須寫全
# 2.html()和text() ——獲取相應(yīng)的HTML塊或文本塊，
p=pq("<head><title>hello</title></head>")
p('head').html()#返回<title>hello</title>
p('head').text()#返回hello
# 3.根據(jù)HTML標(biāo)簽來獲取元素，
d=pq('<div><p>test 1</p><p>test 2</p></div>')
d('p')#返回[<p>,<p>]
print d('p')#返回<p>test 1</p><p>test 2</p>
print d('p').html()#返回test 1
# 注意：當(dāng)獲取到的元素不只一個(gè)時(shí)，html()方法只返回首個(gè)元素的相應(yīng)內(nèi)容塊
# 4.eq(index) ——根據(jù)給定的索引號(hào)得到指定元素。接上例，若想得到第二個(gè)p標(biāo)簽內(nèi)的內(nèi)容，則可以：
print d('p').eq(1).html() #返回test 2
# 5.filter() ——根據(jù)類名、id名得到指定元素，例：
d=pq("<div><p id='1'>test 1</p><p>test 2</p></div>")
d('p').filter('#1') #返回[<p#1>]
d('p').filter('.2') #返回[<p.2>]
# 6.find() ——查找嵌套元素，例：
d=pq("<div><p id='1'>test 1</p><p>test 2</p></div>")
d('div').find('p')#返回[<p#1>, <p.2>]
d('div').find('p').eq(0)#返回[<p#1>]
#7.直接根據(jù)類名、id名獲取元素，例：
d=pq("<div><p id='1'>test 1</p><p>test 2</p></div>")
d('#1').html()#返回test 1
d('.2').html()#返回test 2
# 8.獲取屬性值，例：
d=pq("<p id='my_id'><a href='http://hello.com'>hello</a></p>")
d('a').attr('href')#返回http://hello.com
d('p').attr('id')#返回my_id
# 9.修改屬性值，例：
d('a').attr('href', 'http://baidu.com')把href屬性修改為了baidu
# 10.addClass(value) ——為元素添加類，例：
d=pq('<div></div>')
d.addClass('my_class')#返回[<div.my_class>]
# 11.hasClass(name) #返回判斷元素是否包含給定的類，例：
d=pq("<div></div>")
d.hasClass('my_class')#返回True
# 12.children(selector=None) ——獲取子元素，例：
d=pq("<span><p id='1'>hello</p><p id='2'>world</p></span>")
d.children()#返回[<p#1>, <p#2>]
d.children('#2')#返回[<p#2>]
# 13.parents(selector=None)——獲取父元素，例：
d=pq("<span><p id='1'>hello</p><p id='2'>world</p></span>")
d('p').parents()#返回[<span>]
d('#1').parents('span')#返回[<span>]
d('#1').parents('p')#返回[]
# 14.clone() ——返回一個(gè)節(jié)點(diǎn)的拷貝
#15.empty() ——移除節(jié)點(diǎn)內(nèi)容
# 16.nextAll(selector=None) ——返回后面全部的元素塊，例：
d=pq("<p id='1'>hello</p><p id='2'>world</p><img scr='' />")
d('p:first').nextAll()#返回[<p#2>, <img>]
d('p:last').nextAll()#返回[<img>]
# 17.not_(selector) ——返回不匹配選擇器的元素，例：
d=pq("<p id='1'>test 1</p><p id='2'>test 2</p>")
d('p').not_('#2')#返回[<p#1>]
