爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      python爬虫:scrapy框架xpath和css选择器语法

      首页 知识中心 云端实践 文章详情页

      python爬虫:scrapy框架xpath和css选择器语法

      2024-06-24 08:38:15 阅读次数:40

      css,python

      Xpath基本语法

      一、常用的路径表达式:

      表达式

      描述

      实例

      nodename

      选取nodename节点的所有子节点

      //div

      /

      从根节点选取

      /div

      //

      选取所有的节点,不考虑他们的位置

      //div

      .

      选取当前节点

      ./div

      ..

      选取当前节点的父节点

      ..

      @

      选取属性

      //@calss

      举例元素标签为artical标签

      语法

      说明

      artical

      选取所有artical元素的子节点

      /artical

      选取根元素artical

      ./artical

      选取当前元素下的artical

      ../artical

      选取父元素下的artical

      artical/a

      选取所有属于artical的子元素a元素

      //div

      选取所有div 子元素,无论div在任何地方

      artical//div

      选取所有属于artical的div 元素,无论div元素在artical的任何位置

      //@class

      选取所有名为class 的属性的

      a/@href

      选取a标签的href属性

      a/text()

      选取a标签下的文本

      string(.)

      解析出当前节点下所有文字

      string(..)

      解析出父节点下所有文字

      二、谓语

      谓语被嵌在方括号内,用来查找某个特定的节点或包含某个制定的值的节点

      语法

      说明

      /artical/div[1]

      选取所有属于artical 子元素的第一个div元素

      /artical/div[last()]

      选取所有属于artical子元素的最后一个div元素

      /artical/div[last()-1]

      选取所有属于artical子元素的倒数第2个div元素

      /artical/div[position()<3]

      选取所有属于artical子元素的前2个div元素

      //div[@class]

      选取所有拥有属性为class的div节点

      //div[@class=”main”]

      选取所有div下class属性为main的div节点

      //div[price>3.5]

      选取所有div下元素值price大于3.5的节点

      三、通配符

      Xpath通过通配符来选取未知的XML元素

      表达式

      结果

      //*

      选取所有元素

      //div/*

      选取所有属于div元素的所有子节点

      //div[@*]

      选取所有带属性的元素

      四、取多个路径

      使用“|”运算符可以选取多个路径

      表达式

      结果

      //div | //table

      选取文档中所有的div和table节点

      //div/a | //div/p

      选取所有div元素的a和p 元素

      artical/div/pl | //span

      选取所有div下的pl和文档中所有span

      五、Xpath轴

      轴可以定义相对于当前节点的节点集

      轴名称

      表达式

      描述

      ancestor

      ./ancestor::*

      选取当前节点的所有先辈节点(父、祖父)

      ancestor-or-self

      ./ancestor-or-self::*

      选取当前节点的所有先辈节点以及节点本身

      descendant

      ./descendant::*

      返回当前节点的所有后代节点(子节点、孙节点)

      child

      ./child::*

      返回当前节点的所有子节点

      parent

      ./parent::*

      选取当前节点的父节点

      following

      ./following::*

      选取文档中当前节点结束标签后的所有节点

      following-sibling

      ./following-sibling::*

      选取当前节点之后的兄弟节点

      preceding

      ./preceding::*

      选取文档中当前节点开始标签前的所有节点

      preceding-sibling

      ./preceding-sibling::*

      选取当前节点之前的兄弟节点

      self

      ./self::*

      选取当前节点

      attribute

      ./attribute::*

      选取当前节点的所有属性

      六、功能函数

      使用功能函数能够更好的进行模糊搜索

      函数

      用法

      解释

      starts-with

      //div[starts-with(@id,”ma”)]

      选取id值以ma开头的div节点

      contains

      //div[contains(@id,”ma”)]

      选取所有id值包含ma的div节点

      and

      //div[contains(@id,”ma”) and contains(@id,”in”)]

      选取id值包含ma和in的div节点

      text()

      //div[contains(text(),”ma”)]

      选取节点文本包含ma的div节点

      注意事项:

      1) 按照审查元素的写法不一定正确,要按照网页源码的才行

      因为不一样,网页源码才是你看到的

      2) 浏览器有自带的复制xpath功能,firefox下载firebug插件

      3) xpath有c的速度,所以按照[@class=""]准确性较高

      CCS选择器语法

      语法

      说明

      *

      选择所有节点

      #container

      选择id为container的节点

      .container

      选择所有class包含container的节点

      div,p

      选择所有 div 元素​​和​​所有 p 元素

      li a

      选取所有li 下所有a节点

      ul + p

      选取ul后面的第一个p元素

      div#container > ul

      选取id为container的div的第一个ul子元素

      ul ~p

      选取与ul相邻的所有p元素

      a[title]

      选取所有有title属性的a元素

      a[href=”http://”]

      选取所有href属性为​​http://​​的a元素

      a[href*=”baidu”]

      选取所有href属性值中包含baidu的a元素

      a[href^=”http”]

      选取所有href属性值中以http开头的a元素

      a[href$=”.jpg”]

      选取所有href属性值中以.jpg结尾的a元素

      input[type=radio]:checked

      选择选中的radio的元素

      div:not(#container)

      选取所有id为非container 的div属性

      li:nth-child(3)

      选取第三个li元素

      li:nth-child(2n)

      选取第偶数个li元素

      a::attr(href)

      选取a标签的href属性

      a::text

      选取a标签下的文本

      提取内容

      方法

      返回

      Selector.xpath()

      返回SelectorList对象

      Selector.css()

      返回SelectorList对象

      SelectorList.extract()

      返回List对象

      SelectorList.extract_first(default)

      返回String对象,可以有默认值,类似dict.get(key, default)

      参考链接:

      1. 三、用Css来提取网页
      2. ​​Python爬虫:Xpath语法笔记​​
      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.51cto.com/mouday/5058703,作者:彭世瑜,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:Qt开发技术:Qt拽拖开发(一)拽托框架详解及Demo

      下一篇:后端框架的学习----mybatis框架(6、日志)

      相关文章

      2025-04-14 09:24:23

      python打印宝塔代码

      python打印宝塔代码

      2025-04-14 09:24:23
      python
      2025-04-09 09:16:56

      python四种抽样方法的使用:随机抽样、聚类抽样、系统抽样、分层抽样

      python四种抽样方法的使用:随机抽样、聚类抽样、系统抽样、分层抽样

      2025-04-09 09:16:56
      python , 代码 , 方法 , 机器学习 , 示例
      2025-04-09 09:16:42

      视频 | Python测试开发之调试print代码实例

      视频 | Python测试开发之调试print代码实例

      2025-04-09 09:16:42
      debug , log4j , logback , logging , python
      2025-04-09 09:16:42

      python简单介绍及基础知识(一)

      编程语言,是用来实现某种功能的编写给计算机读取和执行的语言

      2025-04-09 09:16:42
      print , python , 下划线 , 变量 , 变量名 , 编程语言 , 语言
      2025-04-09 09:16:00

      使用Python扩展PAM(part 2)

      在上篇part1 中编译的pam_python.so可以用Python代码进行一些额外的验证操作。动态密码,虚拟账号,都是可行的,只要编写的python鉴权脚本符合相应的PAM规范即可使用。

      2025-04-09 09:16:00
      python , 使用 , 密码 , 配置
      2025-04-09 09:13:27

      1行Python代码,把Excel转成PDF,python-office功能更新~

      1行Python代码,把Excel转成PDF,python-office功能更新~

      2025-04-09 09:13:27
      Excel , pdf , python , 代码 , 程序员
      2025-04-09 09:13:17

      python性能测试之pyperformance

      python性能测试之pyperformance

      2025-04-09 09:13:17
      json , python , Python , 性能 , 文档 , 测试
      2025-04-09 09:13:17

      IronPython 与 c# 交互之导入Python模块的两种方法

      当我们要在C#中调用python时,有时候需要用到python里的一些函数,比如进行一些数学运算,开方,取对数,这个时候我们需要用到python里的math模块(类似C#的命名空间,但概念不完全一样).

      2025-04-09 09:13:17
      python , 函数 , 导入 , 方法 , 模块
      2025-04-07 10:28:48

      一篇文章带你剖析Python 字节流处理神器struct

      一篇文章带你剖析Python 字节流处理神器struct

      2025-04-07 10:28:48
      python
      2025-04-07 10:28:48

      如何在交互式环境中执行Python程序

      如何在交互式环境中执行Python程序

      2025-04-07 10:28:48
      python , 命令行 , 缩进
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5240906

      查看更多

      最新文章

      python socket编程实例代码(含服务端和客户端)

      2025-01-06 08:37:58

      ansible生产实践一 二进制安装ansible

      2024-10-25 07:08:21

      [接口测试 - 基础篇] 03 unittest测试框架了解多少才够?

      2024-09-25 10:15:15

      python学习——编写web框架

      2024-09-25 10:14:21

      python学习——编写Web App骨架

      2024-09-25 10:14:21

      Pytest自动化测试框架----如何建立bash命令行自动补全

      2024-06-06 08:03:43

      查看更多

      热门文章

      Python编程:PyCharm对Python虚拟环境和第三方包管理实践

      2023-02-22 09:24:05

      Flask框架中虚拟环境的配置

      2023-06-01 06:41:49

      python中Flask框架介绍

      2023-06-13 08:33:22

      框架程序开发

      2023-06-26 08:40:28

      若依框架----图标(可能不全)css

      2023-07-05 06:07:00

      Git:Python代码开发到服务器上测试实践

      2022-11-14 02:56:39

      查看更多

      热门标签

      客户端 实践 基础知识 Java 服务器 java 数据库 框架 python 服务端 学习 代码 简单 javascript 编程
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      Python: PonyORM设计精巧的ORM框架

      jmeter性能测试实践注意事项12

      Python Web 框架要点

      Pytest----Pytest自动化测试框架中插件的安装使用和禁用方法

      python中Flask框架介绍

      Python|MitmProxy代理抓包工具实践难点

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号