简单爬取京东商品名称、价格(仅供学习)_爬京东价格-程序员宅基地

技术标签: python  Python  

以下内容是原创,仅供初学者学习用,京东能够开放给我们学习实在不容易,请模拟人类的行为学习爬取。

一 爬取的Python源码

#爬取的代码
import requests
import re
import time
goods='书包'  #搜索关键字
depth = 1  #搜索深度为2,即爬取第1页,第2页
start_url = 'https://search.jd.com/Search?keyword='+ goods+'&enc=utf-8&wq='+goods
infoList=[]
hd = {
   
    'user-agent':'Mozilla/5.0'}
for j in range(depth):  #对每一个页面进行处理,使用for循环
    try:
        url = start_url + '&page=' + str(j) # 组合成带翻页功能的url https://search.jd.com/Search?keyword=书包=utf-8&wq=书包&page=1
        try:
            r = requests.get(url,headers=hd,timeout=30)
            r.raise_for_status()
            r.encoding=r.apparent_encoding  #把获取到的页面信息 替换成utf-8信息,这样就不会乱码
            print(r.status_code)
            html = r.text
            print(r.url)
            print(r.text)
        except:
            print("抓取异常")
        try:
            plt = re.findall(r'<em>¥</em><i>.*?\.\d\d',html) #获取商品价格,搜索以<em>¥</em><i>开头,以.数字数字结尾的字符串            
            tlt = re.findall(r'[^(<em>¥</em>)]<em>.*?[\u4e00-\u9fa5].*?</em>',html)  #获取商品名称,搜索以<em>开始,以遇到的第一个</em>结尾的字符串,且 第一个字符是(<em>¥</em>)]<em>除外        
            for i in range(len(plt)):
                price = plt[i].split('<i>')[1]
                title = tlt[i]
                infoList.append([price,title]) # append() 方法用于在列表末尾添加新的对象。
        except: #让程序不会因为异常执行而溢出
            print("分析异常")
    except:
        continue  #如果某一个页面解析出了entity,那么继续解析下一个页面。
    time.sleep(2) #注意,为了长久学习,要模拟人类的输入,停留2秒
    
tplt = "{:^10}\t{:^10}\t{:^20}" #设定一个print模板,用大括号{}来定义槽函数
print(tplt.format("序号","价格","商品名称"))# Python2.6 开始,新增了一种格式化字符串的函数 str.format(),它增强了字符串格式化的功能。format用法举例:print("网站名:{name}, 地址 {url}".format(name="菜鸟教程", url="www.runoob.com"))
count=0
for g in infoList:
     count = count +1
     print(tplt.format(count,g[0],g[1])) #打印商品价格、名称,字符串没做处理

二 爬取到的信息:
序号 价格 商品名称
1 49.00 多功能学生挂书袋可调课桌挂袋书本收纳袋 学生挂书袋 书挂袋书桌收纳袋文件文具挂书袋课桌神器挂架 蓝色
2 99.00 稻草人双肩包男女14/15.6英寸大容量笔记本电脑包多功能旅行出差背包防泼水商务休闲学生书包50470黑色
3 69.00 双肩包男士背包大容量时尚休闲商务旅行笔记本电脑包高中大学生书包男潮流USb充电包包65199 黑色
4 159.00 七匹狼双肩包 背包男15.6英寸电脑包商务休闲通勤防泼水牛津布书包 黑色B0301872-201
5 168.00 瑞士SWICKY瑞驰双肩包男士背包新款大容量休闲商务旅行笔记本电脑包学生书包出差包USb充电包 黑色 大号带usb送多功能刀+锁
6 169.00 七匹狼背包男 牛津布双肩包休闲简约15.6寸电脑包时尚潮流旅行包大容量学生书包男 黑色B0301062-201
7 69.80 书包男士夜光双肩背包中小学生男韩版休闲电脑包大学usb旅行包 USB大号音乐小子+笔袋+防盗锁
8 159.00 第九城V.NINE 小学生书包男女孩儿童护脊书包1-3-6年级减负双肩背包初中学生休闲书包 VD9BV33972J 蓝配粉
9 79.00 京东超市第九城V.NINE 双肩包男女卡通印花书包六件套帆布休闲背包校园中小学生书包 VB7BV32884J 粉色套装
10 59.90 2020新款书包男背包女初中生开学包休闲简约时尚潮流帆布包百搭高中学生 黑色
11 149.00 波斯丹顿双肩包男士商务休闲潮流帆布学生校园运动书包大容量旅行背包15.6英寸笔记本电脑包 男 深灰色
12 88.00 梵者 新款双肩包男潮牌休闲帆布旅行包韩版男士背包商务电脑包高中初中大学生书包ins运动潮流 黑色
13 149.00 爱登堡 双肩包背包男士商务14寸电脑包休闲旅行包韩版多功能时尚潮流学生15.6寸笔记本包 黑色爆款 收藏加购 优先发货
14 159.00 第九城V.NINE 双肩包女士防泼水旅行背包大容量15.6英寸电脑包校园情侣款大中学生书包男 VD7BV32881J 粉配灰
15 229.00 七匹狼双肩包 男士背包电脑包15.6英寸笔记本休闲商务旅行学生书包黑色B248211-01IH1
16 79.00 耐拓 小学生书包男孩轻便减压1-3-6年级儿童书包 N897宝蓝大号3-6年级 均
17 69.00 双肩包男士背包新款大容量休闲商务旅行笔记本电脑包学生书包出差包 黑色大号
18 159.00 第九城V.NINE 双肩包男士大容量15.6英寸电脑包多功能旅行背包情侣款学生书包女 VD7BV33886J 米灰
19 355.00 七匹狼包商务双肩包男韩版潮 大中学生书包背包 男包旅行包电脑包 黑色【五层款】
20 89.90 迪士尼(Disney)小学生书包男米奇中学生双肩背包男女3-4-6年级儿童书包 DB96251深蓝
21 69.00 丛林鸟(JUNGLE BIRD)书包女韩版初高中小学生简约森系百搭尼龙双肩包大容量背包 黑色
22 69.00 丛林鸟 书包男韩版原宿ulzzang初高中大学生时尚潮流双肩包女大容量黑背包 黑色【送鸭子挂件】
23 99.00 京东超市十字勋章 瑞士双肩包男15.6英寸笔记本电脑包商务多功能大容量出差背包旅行包防泼水休闲学生书包CR-9001黑色
24 229.00 Dickies 潮流休闲双肩包男女学生书包大容量帆布包学院风防水14/15.6英寸电脑包C028 黑色经典款
25 188.00 李宁官方男子双肩包背包书包训练系列ABSP388 黑-1(300180520mm)) 000
26 79.00 双肩包潮牌书包男百搭时尚潮流背包青年韩版简约文艺初中大学生书包 黑色 (433017高宽厚)送挂饰香包
27 28.00 小米(MI)炫彩小背包男女情侣双肩包简约便携休闲旅游包旅行包学生小书包 小米炫彩小背包 黑色
28 59.00 格比森双肩包 男士背包15.6英寸笔记本电脑包初高中大学生小学生书包男女新款 帆布防波水 深灰色
29 55.00 蒂梵森2020款双肩男士商务休闲旅行背包大容量15.6寸笔记本电脑包潮流高中大学生书包男女外置USb 灰色
30 59.00 2020新款书包男女韩版 学院风初高中学生书包潮流男款背包双肩包个性时尚休闲电脑包 1810黑色

三 附上爬取的页面源码的一部分,这样可以对照着输出学习用

<div id="J_main" class="g-main2">
	<div class="m-list">
		<div class="ml-wrap">			<div id="J_filter" class="filter">
				<div class="f-line top">
					<div class="f-sort">
<a class="curr" href="javascript:;"><span class="fs-tit">综合</span><em class="fs-down"><i class="arrow"></i></em></a>
						<a class="" href="javascript:;"><span class="fs-tit">销量</span><em class="fs-down"><i class="arrow"></i></em></a>
						<a class="" href="javascript:;"><span class="fs-tit">评论数</span><em class="fs-down"><i class="arrow"></i></em></a>
						<a class="" href="javascript:;"><span class="fs-tit">新品</span><em class="fs-down"><i class="arrow"></i></em></a>
						<a class="" href="javascript:;"><span class="fs-tit">价格</span><em class="fs-up"><i class="arrow-top"></i><i class="arrow-bottom"></i></em></a>
					</div>
<div class="f-datagrid"><a href="javascript:;" class="fdg-item" data-range="0-55" data-tips="10%的用户喜欢的价位"><span class="def-bar" style="height:21%"></span></a><a href="javascript:;" class="fdg-item" data-range="55-107" data-tips="30%的用户喜欢的价位"><span class="def-bar" style="height:62%"></span></a><a href="javascript:;" class="fdg-item" data-range="107-198" data-tips="41%的用户喜欢的价位"><span class="def-bar" style="height:85%"></span></a><a href="javascript:;" class="fdg-item" data-range="198-321" data-tips="13%的用户喜欢的价位"><span class="def-bar" style="height:27%"></span></a><a href="javascript:;" class="fdg-item" data-range="321-¥" data-tips="6%的用户喜欢的价位"><span class="def-bar" style="height:12%"></span></a></div>					<div id="J_selectorPrice" class="f-price">
						<div class="f-price-set">
							<div class
版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/weixin_45563996/article/details/105467856

智能推荐

手把手教你安装Eclipse最新版本的详细教程 (非常详细,非常实用)_eclipse安装教程-程序员宅基地

文章浏览阅读4.4k次,点赞2次,收藏16次。写这篇文章的由来是因为后边要用这个工具,但是由于某些原因有部分小伙伴和童鞋们可能不会安装此工具,为了方便小伙伴们和童鞋们的后续学习和不打击他们的积极性,因为80%的人都是死在工具的安装这第一道门槛上,这门槛说高也不高说低也不是太低。所以就抽时间水了这一篇文章。_eclipse安装教程

分享11个web前端开发实战项目案例+源码_前端项目实战案例-程序员宅基地

文章浏览阅读4.1w次,点赞12次,收藏193次。小编为大家收集了11个web前端开发,大企业实战项目案例+5W行源码!拿走玩去吧!1)小米官网项目描述:首先选择小米官网为第一个实战案例,是因为刚开始入门,有个参考点,另外站点比较偏向目前的卡片式设计,实现常见效果。目的为学者练习编写小米官网,熟悉div+css布局。学习资料的话可以加下web前端开发学习裙:600加上610再加上151自己去群里下载下。项目技术:HTML+CSS+Div布局2)迅雷官网项目描述:此站点特效较多,所以通过练习编写次站点,学生可以更多练习CSS3的新特性过渡与动画的实_前端项目实战案例

计算质数-埃里克森筛法(间隔黄金武器)-程序员宅基地

文章浏览阅读73次。素数,不同的质数,各种各样的问题总是遇到的素数。以下我们来说一下求素数的一种比較有效的算法。就是筛法。由于这个要求得1-n区间的素数仅仅须要O(nloglogn)的时间复杂度。以下来说一下它的思路。思路:如今又1-n的数字。素数嘛就是除了1和本身之外没有其它的约数。所以有约数的都不是素数。我们从2開始往后遍历,是2的倍数的都不是素数。所以我们把他们划掉然后如...

探索Keras DCGAN:深度学习中的创新图像生成-程序员宅基地

文章浏览阅读532次,点赞9次,收藏14次。探索Keras DCGAN:深度学习中的创新图像生成项目地址:https://gitcode.com/jacobgil/keras-dcgan在数据驱动的时代,图像生成模型已经成为人工智能的一个重要领域。其中,Keras DCGAN 是一个基于 Keras 的实现,用于构建和训练 Deep Convolutional Generative Adversarial Networks(深度卷积生...

org.apache.ibatis.binding.BindingException: Invalid bound statement (not found):_spring-could org.apache.ibatis.binding.bindingexce-程序员宅基地

文章浏览阅读116次。今天在搭建springcloud项目时,发现如上错误,顺便整理一下这个异常:1. mapper.xml的命名空间(namespace)是否跟mapper的接口路径一致<mapper namespace="com.baicun.springcloudprovider.mapper.SysUserMapper">2.mapper.xml接口名是否和mapper.java接..._spring-could org.apache.ibatis.binding.bindingexception: invalid bound state

四种高效数据库设计思想——提高查询效率_数据库为什么能提高效率-程序员宅基地

文章浏览阅读1.1k次。四种高效数据库设计思想——提高查询效率:设计数据库表结构时,我们首先要按照数据库的三大范式进行建立数据。1. 1NF每列不可拆分2. 2NF确保每个表只做一件事情3. 3NF满足2NF,消除表中的依赖传递。三大范式的出现是在上世纪70年代,由于内存资源比较昂贵,所以严格按照三大范式进行数据库设计。而如今内存变得越来越廉价,在考虑效率和内存的基础上我们可以做出最优选择以达到最高效率。_数据库为什么能提高效率

随便推点

HTML标签分类及转义字符_ol是单标记还是双标记-程序员宅基地

文章浏览阅读302次。一. HTML标签分类1.根据标签个数分类。 单标签:只有一个标签。 <br>, <hr>,<img>,<meta>, 实现一个特定的功能。 双标签:既有开始标签,也有结束标签。 Html,head,Body,title,h1~h6,p,a,ul,li,ol,strong,em。2.根据标签特性分类(网页效果)。 2.1行属性..._ol是单标记还是双标记

什么是配置_基于配置是什么意思-程序员宅基地

文章浏览阅读1.6k次。应用程序在启动和运行的时候往往需要读取一些配置信息,配置基本上伴随着应用程序的整个生命周期,比如:数 据库连接参数、启动参数等。配置主要有以下几个特点:配置是独立于程序的只读变量配置对于程序是只读的,程序通过读取配置来改变自己的行为,但是程序不应该去改变配置配置伴随应用的整个生命周期配置贯穿于应用的整个生命周期,应用在启动时通过读取配置来初始化,在运行时根据配置调整行为。比如:启动时需要读取服务的端口号、系统在运行过程中需要读取定时策略执行定时任务等。配置可以有多种加载方式常见的有程序内部_基于配置是什么意思

二、使用GObject——一个简单类的实现-程序员宅基地

文章浏览阅读170次。Glib库实现了一个非常重要的基础类--GObject,这个类中封装了许多我们在定义和实现类时经常用到的机制: 引用计数式的内存管理 对象的构造与析构 通用的属性(Property)机制 Signal的简单使用方式 很多使用GObject..._

golang 定时任务处理-程序员宅基地

文章浏览阅读6.3k次,点赞2次,收藏9次。在 golang 中若写定时脚本,有两种实现。一、基于原生语法组装func DocSyncTaskCronJob() { ticker := time.NewTicker(time.Minute * 5) // 每分钟执行一次 for range ticker.C { ProcTask() }}func ProcTask() { log.Println("hello world")}二、基于 github 中封装的 cron 库实现package taskimport (_golang 定时任务

VC获取精确时间的方法_vc 通过线程和 sleep 获取精准时间-程序员宅基地

文章浏览阅读2.1k次。 来源:http://blog.csdn.net/clever101/archive/2008/10/18/3096049.aspx 声明:本文章是我整合网上的资料而成的,其中的大部分文字不是我所为的,我所起的作用只是归纳整理并添加我的一些看法。非常感谢引用到的文字的作者的辛勤劳动,所参考的文献在文章最后我已一一列出。 对关注性能的程序开发人员而言,一个好的计时部件既是益友,也_vc 通过线程和 sleep 获取精准时间

wml入门-程序员宅基地

文章浏览阅读58次。公司突然说要进行wap开发了,以前从没了解过,但我却异常的兴奋,因为可以学习新东西了,呵呵,我们大家一起努力吧。首先说说环境的搭建。可以把.wml的文件看做是另一种的html进行信息的展示,但并不是所有的浏览器都支持,好用的有Opera,还有WinWap。编写wml文件语法比较严格,不好的是我还没有找到好的提示工具,就先用纯文本吧。我找到了一个很好的学习网站:http://w3sc..._winwap学习