本教程详细讲解了在scrapy中使用css选择器提取html中未被独立标签包裹的文本数据（如数字）的方法。通过分析`::text`选择器与`get()`和`getall()`方法的行为差异，展示了如何利用`getall()`获取所有匹配的文本节点，并通过列表索引和正则表达式精确提取目标数据，解决`get()`返回`none`或错误值的问题。
理解HTML文本节点的提取挑战
在使用Scrapy进行网页抓取时，我们经常需要从HTML中提取特定的文本信息。然而，当这些文本内容并非整齐地包裹在独立的标签（如、
等）中，而是作为父元素下的直接文本节点存在时，提取过程可能会变得复杂。例如，在一个包含多个子元素和文本节点的div中，直接使用::text选择器配合get()方法往往无法准确获取到我们期望的特定文本。
考虑以下HTML结构片段，我们的目标是提取数字“1”：
Chambres1
在这个例子中，数字“1”是父div（带有类search-results-listings-list__item-description__characteristics__item）的一个直接文本子节点，位于一个svg标签和一个包含“Chambres”的div之后。
::text选择器与get()/getall()的行为差异
在Scrapy中，::text伪元素用于选择元素的直接文本内容。然而，它的行为与我们使用的提取方法（get()或getall()）密切相关。
立即学习“前端免费学习笔记（深入）”；
巧文书
巧文书是一款AI写标书、AI写方案的产品。通过自研的先进AI大模型，精准解析招标文件，智能生成投标内容。
61 查看详情 
get()方法：当一个选择器匹配到多个文本节点时，get()方法只会返回第一个匹配到的文本节点。在上述HTML示例中，如果对最外层div使用::text，它可能会返回svg标签前的空白符、svg标签后的空白符，或者“Chambres”这个文本，而不是我们想要的“1”。这就是为什么最初尝试 house_listing.css(‘div.search-results-listings-list__item-description__characteristics__item::text’).get() 可能返回None或不相关文本的原因。
getall()方法：与get()不同，getall()方法会返回所有匹配到的文本节点，以列表的形式呈现。这对于提取分散在多个子元素之间的文本节点至关重要。
解决方案：结合getall()和列表索引
要精确提取上述HTML结构中的数字“1”，关键在于使用getall()获取所有文本节点，然后从结果列表中选择正确的项。
首先，我们可以使用一个更具特异性的CSS选择器来定位包含目标信息的父元素，并利用:contains()伪类来确保我们选择的是正确的列表项（例如，包含“Chambres”的特性项）。
import scrapyimport rehtml_snippet = """<path d="M5.106 0c-.997 0-1.52.904-1.52 1.533v11.965L.074 23.95c-.054.163-.074.38-.074.486V39.2c-.017.814.727 1.554 1.54 1.554.796 0 1.54-.74 1.52-1.554v-3.555h39.88V39.2c-.016.814.724 1.554 1.52 1.554.813 0 1.56-.74 1.54-1.554V24.436c0-.106-.017-.326-.074-.486l-3.512-10.449V1.537c0-.633-.523-1.534-1.52-1.534H5.106V0zm1.54 3.07h32.708v3.663a5.499 5.499 0 0 0-2.553-.614h-9.708c-1.614 0-3.06.687-4.093 1.77a5.648 5.648 0 0 0-4.093-1.77H9.2c-.924 0-1.793.217-2.553.614V3.07zm2.553 6.098h9.708c1.45 0 2.553 1.12 2.553 2.547v.523H6.646v-.523c0-1.426 1.103-2.547 2.553-2.547zm17.894以上就是Scrapy CSS选择器：精确提取HTML非标签包裹文本内容的实用技巧的详细内容，更多请关注创想鸟其它相关文章！
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/594827.html赞 (0)打赏微信扫一扫
支付宝扫一扫
关于作者
相关推荐
修复Django电商项目中AJAX过滤产品列表图片不显示问题
在Django电商项目中，当使用AJAX动态加载过滤后的产品列表时，常遇到图片无法正常显示的问题。这通常是由于前端模板中图片加载方式（如data-setbg属性结合JavaScript库）与AJAX动态内容更新机制不兼容所致。解决方案是直接在AJAX返回的HTML中使用标准的标签来渲染图片，确保浏览…
Golang JSON序列化：控制敏感字段暴露的最佳实践
本教程探讨golang中如何高效控制结构体字段在json序列化时的可见性。当需要将包含敏感信息的结构体数组转换为json响应时，通过利用`encoding/json`包提供的结构体标签，特别是`json:”-“`，可以轻松实现对特定字段的忽略，从而避免敏感数据泄露，确保api…
怎么在PHP代码中实现图片上传功能_PHP图片上传功能实现与安全处理教程
首先创建含enctype的HTML表单，再用PHP接收文件，检查目录、移动临时文件，验证类型与大小，生成唯一文件名，并调整php.ini限制以确保上传成功。 如果您尝试在PHP项目中添加图片上传功能，但服务器无法正确接收或保存文件，则可能是由于表单配置、文件处理逻辑或安全限制的问题。以下是实现该功能…
比特币新手教程 比特币交易平台有哪些
比特币是一种去中心化的数字货币，基于区块链技术实现点对点交易，具有匿名性、有限发行和不可篡改等特点；新手可通过交易所购买，P2P交易获得比特币，常用平台包括Binance、OKX和Huobi；交易流程包括注册账户、实名认证、绑定支付方式、充值法币并下单购买，可选择市价单或限价单；比特币存储方式有交易…
c++中的SFINAE技术是什么_c++模板编程中的SFINAE原理与应用
SFINAE 是“替换失败不是错误”的原则，指模板实例化时若参数替换导致错误，只要存在其他合法候选，编译器不报错而是继续重载决议。它用于条件启用模板、类型检测等场景，如通过 decltype 或 enable_if 控制函数重载，实现类型特征判断。尽管 C++20 引入 Concepts 简化了部分…
HTML如何隐藏滚动条或去除滚动条
滚动条可以存在也可以不存在，本文主要介绍了html 隐藏滚动条和去除滚动条的方法的相关资料,大家一起来学习一下html隐藏滚动条或去除滚动条的方法吧。 1. html 标签加属性 XML/HTML Code复制内容到剪贴板 2.body中加入以下代码 立即学习“前端免费学习笔记（深入）”； html…
Go语言mgo查询构建：深入理解bson.M与日期范围查询的正确实践
本文旨在解决go语言mgo库中构建复杂查询时，特别是涉及嵌套`bson.m`和日期范围筛选的常见错误。我们将深入剖析`bson.m`的类型特性，解释为何直接索引`interface{}`会导致“invalid operation”错误，并提供一种推荐的、结构清晰的代码重构方案，以确保查询条件能够正确…
vscode上怎么运行html_vscode上运行html步骤【指南】
首先保存文件为.html格式，再通过浏览器或Live Server插件打开预览；推荐安装Live Server实现本地服务器运行与实时刷新，提升开发体验。 在 VS Code 上运行 HTML 文件并不需要复杂的配置，只需几个简单步骤即可预览页面效果。VS Code 本身是一个代码编辑器，不直接运行…
css max-height属性怎么用
max-height 属性设置元素的最大高度。 说明 该属性值会对元素的高度设置一个最高限制。因此，元素可以比指定值矮，但不能比其高。不允许指定负值。 注意：max-height 属性不包括外边距、边框和内边距。 立即学习“前端免费学习笔记（深入）”； 值描述none 默认。定义对元素被允许的最大高…
修复点击时按钮抖动：CSS垂直对齐实践
本文探讨了在Web开发中，交互式按钮（如播放/暂停按钮）在点击时发生意外垂直位移的问题。通过分析CSS样式变化对元素布局的影响，我们发现这是由于按钮不同状态下的边框样式和内边距改变，以及默认的垂直对齐行为共同作用所致。核心解决方案是利用CSS的vertical-align属性，将其设置为middle…
理解编程指令：当结果正确，但实现方式不符要求时
本文探讨了在编程实践中，即使程序输出了正确的结果，但若其实现方式未能严格遵循既定指令，仍可能被视为“不正确”的问题。我们将通过具体示例，对比直接求和与累加求和两种实现策略，强调理解和遵守编程规范的重要性，以确保代码的健壮性、可维护性及符合项目要求。 在软件开发过程中，我们经常会遇到这样的情况：编写的…
Golang goroutine与channel调试技巧
使用go run -race检测数据竞争，结合runtime.NumGoroutine监控协程数量，通过pprof分析阻塞调用栈，利用select超时避免永久阻塞，有效排查goroutine泄漏、死锁和数据竞争问题。 Go语言的goroutine和channel是并发编程的核心，但它们也带来了调试上…
页面中文本域的值怎么设置
标签定义多行的文本输入控件。 文本区中可容纳无限数量的文本，其中的文本的默认字体是等宽字体（通常是 Courier）。 可以通过 cols 和 rows 属性来规定 textarea 的尺寸，不过更好的办法是使用 CSS 的 height 和 width 属性。 注释：在文本输入区内的文本行间，用 …
《魔兽世界》将于6月11日开启国服回归技术测试
《%ign%ignore_a_1%re_a_1%》官方宣布，将于6月11日开启国服回归技术测试，时间为7天，并称可以在6月内正式开服，玩家们可以访问官网下载战网客户端并预下载“巫妖王之怒”客户端，技术测试详情见下图。 WordAi WordAI是一个AI驱动的内容重写平台 53 查看详情 以上就是《…
使用 Jupyter Notebook 进行探索性数据分析
Jupyter Notebook通过单元格实现代码与Markdown结合，支持数据导入（pandas）、清洗（fillna）、探索（matplotlib/seaborn可视化）、统计分析（describe/corr）和特征工程，便于记录与分享分析过程。 Jupyter Notebook 是进行探索性…
如何在HTML中插入表单元素_HTML表单控件与输入类型使用指南
HTML表单通过标签构建，包含action和method属性定义数据提交目标与方式，常用input类型如text、password、email等适配不同输入需求，配合label、required、placeholder提升可用性，结合textarea、select、button等控件实现完整交互，是…
前端缓存策略与JavaScript存储管理
根据数据特性选择合适的存储方式并制定清晰的读写与清理逻辑，能显著提升前端性能；合理运用Cookie、localStorage、sessionStorage、IndexedDB及Cache API，结合缓存策略与定期清理机制，可在保证用户体验的同时避免安全与性能隐患。 前端缓存和JavaScript存…
HTML5网页如何实现手势操作 HTML5网页移动端交互的处理技巧
首先利用原生touch事件实现滑动判断，再通过preventDefault解决滚动冲突，接着引入Hammer.js处理复杂手势，最后通过优化点击区域、避免事件冲突和增加视觉反馈提升体验。 在移动端浏览器中，HTML5网页可以通过触摸事件实现手势操作，提升用户体验。虽然原生JavaScript提供了基…
创建指定大小并填充特定数据的Golang文件教程
本文将介绍如何使用Golang创建一个指定大小的文件，并用特定数据填充它。我们将使用 `os` 包提供的函数来创建和截断文件，从而实现快速生成大文件的目的。示例代码展示了如何创建一个10MB的文件，并将其填充为全零数据。掌握这些方法，可以方便地在例如日志系统或磁盘队列等场景中，预先创建测试文件或初始…
Python命令怎样使用profile分析脚本性能 Python命令性能分析的基础教程
使用Python的cProfile模块分析脚本性能最直接的方式是通过命令行执行python -m cProfile your_script.py，它会输出每个函数的调用次数、总耗时、累积耗时等关键指标，帮助定位性能瓶颈；为进一步分析，可将结果保存为文件python -m cProfile -o ou…
微信扫一扫 
支付宝扫一扫 
