纯净、安全、绿色的下载网站

首页|软件分类|下载排行|最新软件|IT学院

当前位置:首页IT学院IT技术

python xpath获取页面元素 python使用xpath获取页面元素的使用

Sun@Python   2021-09-10 我要评论
想了解python使用xpath获取页面元素的使用的相关内容吗,Sun@Python在本文为您仔细讲解python xpath获取页面元素的相关知识和一些Code实例,欢迎阅读和指正,我们先划重点:python,xpath获取页面元素,python,xpath,页面元素,下面大家一起来学习吧。

关于python 使用xpath获取网页信息的方法?

1、xpath的使用方法?

​ XPath 使用路径表达式来选取 XML 文档中的节点或节点集。节点是通过沿着路径 (path) 或者步 (steps) 来选取的。

常用路径表达式含义

表达式 描述
/ 从根节点选取(取子节点)
// 选择的当前节点选择文档中的节点
. 选取当前节点。
选取当前节点的父节点。
@ 选取属性
* 表示任意内容(通配符)
| 运算符可以选取多个路径

常用功能函数

函数 用法 解释
startswith() xpath(‘//div[starts-with(@id,”ma”)]‘) #选取id值以ma开头的div节点
contains() xpath(‘//div[contains(@id,”ma”)]‘) #选取id值包含ma的div节点
and() xpath(‘//div[contains(@id,”ma”) and contains(@id,”in”)]‘) #选取id值包含ma的div节点
text() _.xpath('./div/div[4]/a/em/text()') #选取em标签下文本内容

备注:

1、html中当相同层次存在多个标签例如div,它们的顺序是从1开始,不是0
2、浏览器中使用开发者工具可以快速获取节点信息

在这里插入图片描述

2、实例:

#!/usr/bin/python3
# -*- coding: utf-8 -*-
# @Time    : 2021/9/7 9:35
# @Author  : Sun
# @Email   : 8009@163.com
# @File    : sun_test.py
# @Software: PyCharm


import requests
from lxml import etree


def get_web_content():
    try:
        url = "htpps://***keyword=%E6%97%A0%E9%92%A2%E5%9C%88&wq=%E6%97%A0%E"
  "9%92%A2%E5%9C%88&ev=1_68131%5E&pvid=afbf41410b164c1b91d"
        "abdf18ae8ab5c&page=5&s=116&click=0 "
        header = {
            "user-agent": "Mozilla/5.0 (Windows NT 10.0; WOW64)"
            "AppleWebKit/537.36 (KHTML, like Gecko) "
                          "Chrome/75.0.3770.100 Safari/537.36 "}
        response = requests.request(method="Get", url=url, headers=header)
        result = response.text
        return result
    except TimeoutError as e:
        return None


def parsing():
    result = get_web_content()
    if result is not None:
        html = etree.HTML(result)
        # 先获取一个大的节点,包含了想要获取的所有信息
        ii = html.xpath('//*[@id="J_goodsList"]/ul/li')
       
        for _ in ii:
        # 采用循环,依次从大节点中获取小的节点内容
            # ''.join() 将列表中的内容拼接成一个字符串
            infoResult = {
            	# @href 表示:获取属性为href的内容
                'href': "https:" + _.xpath('./div/div[1]/a/@href')[0],
                'title': ''.join(
                        _.xpath('./div/div[2]/div/ul/li/a/@title')),
                # text()表示获取节点i里面的文本信息
                'price': _.xpath('./div/div[3]/strong/i/text()')[0],
                'info': ''.join(
                        _.xpath('./div/div[4]/a/em/text()')).strip(),
                'province': _.xpath('./div/div[9]/@data-province')[0]}
            print(infoResult)
    else:
        raise Exception("Failed to get page information, please check!")
    
    return None


if __name__ == '__main__':
    parsing()

结果图片:

在这里插入图片描述


相关文章

猜您喜欢

  • Java的递归算法 Java的递归算法详解

    想了解Java的递归算法详解的相关内容吗,Craftsman-L在本文为您仔细讲解Java的递归算法的相关知识和一些Code实例,欢迎阅读和指正,我们先划重点:Java递归,Java算法,下面大家一起来学习吧。..
  • java.sql.Timestamp丢失精度 解决java.sql.Timestamp丢失精度的问题

    想了解解决java.sql.Timestamp丢失精度的问题的相关内容吗,天已青色等烟雨来在本文为您仔细讲解java.sql.Timestamp丢失精度的相关知识和一些Code实例,欢迎阅读和指正,我们先划重点:java.sql.Timestamp,丢失精度,Timestamp精度,下面大家一起来学习吧。..

网友评论

Copyright 2020 www.hao45.cc 【好下载】 版权所有 软件发布

声明:所有软件和文章来自软件开发商或者作者 如有异议 请与本站联系 点此查看联系方式