技术标签: excel python 数据分析 html 数据可视化
作者 | 黄伟呢
来源 | 数据分析与统计学之美
我觉得很有必要讲述这个文章,进行数据处理的第一步就是Python数据读取。但是你可能没想到,在进行数据读取的同时,我们其实可以配合相关参数做很多事儿,这对于后续的数据处理都是极其有帮助。
read_excel()函数和read_csv()函数,在参数上面有很多相同点,因此我就以read_excel()函数为例,进行详细的说明。
含义:选择要读取的sheet表;
sheet_name=0表示默认读取第一个sheet表,等同于sheet_name=“sheet名称”;
sheet_name=[“sheet名”,0]会返回一个字典,然后可以利用键获取每一个sheet表中的数据;
sheet_name=None也会返回一个字典,但是会返回全部的sheet表;
# 下面这两个读取方式等同。
#df2 = pd.read_excel("readexcel.xlsx",sheet_name=0)
df2 = pd.read_excel("readexcel.xlsx",sheet_name="Sheet1")
df2
结果如下:
df2 = pd.read_excel("readexcel.xlsx",sheet_name=[0,1])
df2
结果如下:
接着,我们可以使用键值对的方式,获取每个sheet表中的数据。
注:关于sheet_name=None效果同上,只不过会返回所有的sheet表中的数据。
含义:指定某一行作为表头;
header=None专门针对没有表头的表,这也是默认值;
header=1指定第一行作为表头;
header=[]主要针对复合表头的情况;
df3 = pd.read_excel("header.xlsx",header=None)
df3
结果如下:
df3 = pd.read_excel("header.xlsx",sheet_name=2,header=1)
df3
结果如下:
df3 = pd.read_excel("header.xlsx",sheet_name=3,header=[0,1],index_col=0)
df3
结果如下:
注意:上述用到了一个index_col参数,这个参数用于指定作为行索引的列,我就不详细举例了,看看下图。
含义:选择读取一张表中的指定列;
usecols=None也是默认情况,表示读取所有列;
usecols=[A,C]表示只选取A列和C列。usecols=[A,C:E]表示选择A列,C列、D列和E列;
usecols=[0,2]表示只选择第一列和第三列;
usecols=["列名1","列名2"...]这也是推荐使用的一种写法;
df4 = pd.read_excel("usecols.xlsx",usecols=None) # 默认
df4
结果如下:
df4 = pd.read_excel("usecols.xlsx",usecols="A,C")
df4
结果如下:
df4 = pd.read_excel("usecols.xlsx",usecols="A,C:D")
df4
结果如下:
df4 = pd.read_excel("usecols.xlsx",usecols=[0,2])
df4
结果如下:
这种方式照说是没有任何问题的,但是在我这边运行总是无结果,我很纳闷,大家可以下去试试。
含义:如果表中没有表头,可以用这个参数添加一个标题。如果表中有表头,可以用这个参数修改标题。
names = ["月份","语文","英语"]
df6 = pd.read_excel("names.xlsx",header=None,names=names)
df6
结果如下:
含义:读取数据时,设置每一列的数据类型(重要);
dtype={}传入一个字典,类似于{"列名":"类型"};
df7 = pd.read_excel("dtype.xlsx")
df7.dtypes
------------------------------------------------------
df7 = pd.read_excel("dtype.xlsx",dtype={"年龄":"str"})
df7.dtypes
结果如下:
含义:指定将哪些列,解析为日期格式;
parse_dates=True是专门用于将行索引,解析为日期格式;
parse_dates=[0,1,2,3,4]和parse_dates=["列名1","列名2","列名3","列名4"],都是将指定列一起解析为日期格式;
parse_dates=[[1,2,3]]和parse_dates=[["年","月","日"]],都是将多个列,解析为单个日期列;
parse_dates={"日期":[1,2,3]}不仅将多个日期列解析为单个日期列,同时还为这一列命名;
df8 = pd.read_excel("parse_dates",index_col=2,parse_dates=True)
df8.index
结果如下:
df8 = pd.read_excel("parse_dates",parse_dates=[0,1,2,3,4])
df8.dtypes
# 这个代码效果同上
df8 = pd.read_excel("parse_dates.xlsx",
parse_dates=["数值日期1","文本日期2","文本日期3","文本日期4","文本日期5"])
结果如下:
#df8 = pd.read_excel("parse_dates.xlsx",sheet_name="Sheet2",parse_dates=[["年","月","日"]])
df8 = pd.read_excel("parse_dates.xlsx",sheet_name="Sheet2",parse_dates=[[1,2,3]])
df8
结果如下:
df8 = pd.read_excel("parse_dates.xlsx",sheet_name="Sheet2",parse_dates={"日期":[1,2,3]})
df8
结果如下:
含义:利用lambda函数,将某个字符串列,解析为日期格式;
一般是配合parse_dates参数,一起使用;
df9 = pd.read_excel("date_parser.xlsx",parse_dates=[1],
date_parser=lambda x: pd.to_datetime(x,format="%Y年%m月%d"))
print(df9.dtypes)
df9
结果如下:
含义:用于将某些特定的值,解析为NaN值,然后便于我们后面做缺失值的处理;
na_values=”值1“表示将所有数据中值1全部替换为NaN;
na_values=[”值1“,"值2"]表示将所有数据中值1、值2全部替换为NaN;
na_values={"列1":[”值1“,"值2"]}表示将第一列中所有的值1、值2全部替换为NaN;
df10 = pd.read_excel("na_values.xlsx",na_values=" ")
df10
结果如下:
df10 = pd.read_excel("na_values.xlsx",na_values=["a","0"])
df10
结果如下:
# 只替换某一列中的某些值为NaN
df10 = pd.read_excel("na_values.xlsx",na_values={"列2":["0"," "]})
df10
结果如下:
含义:对某一列使用Lambda函数,进行某种运算;
例如:converters={"工资":lambda x: x + 1000};
df11 = pd.read_excel("converters.xlsx",
converters={"地址":lambda x: "中国"+x,"工资":lambda x: x + 1000})
df11
结果如下:
推荐阅读
文章浏览阅读3.8k次,点赞9次,收藏28次。直接上一个工作中碰到的问题,另外一个系统开启多线程调用我这边的接口,然后我这边会开启多线程批量查询第三方接口并且返回给调用方。使用的是两三年前别人遗留下来的方法,放到线上后发现确实是可以正常取到结果,但是一旦调用,CPU占用就直接100%(部署环境是win server服务器)。因此查看了下相关的老代码并使用JProfiler查看发现是在某个while循环的时候有问题。具体项目代码就不贴了,类似于下面这段代码。while(flag) {//your code;}这里的flag._main函数使用while(1)循环cpu占用99
文章浏览阅读347次。idea shift f6 快捷键无效_idea shift +f6快捷键不生效
文章浏览阅读135次。Ecmacript 中没有DOM 和 BOM核心模块Node为JavaScript提供了很多服务器级别,这些API绝大多数都被包装到了一个具名和核心模块中了,例如文件操作的 fs 核心模块 ,http服务构建的http 模块 path 路径操作模块 os 操作系统信息模块// 用来获取机器信息的var os = require('os')// 用来操作路径的var path = require('path')// 获取当前机器的 CPU 信息console.log(os.cpus._node模块中有很多核心模块,以下不属于核心模块,使用时需下载的是
文章浏览阅读10w+次,点赞435次,收藏3.4k次。SPSS 22 下载安装过程7.6 方差分析与回归分析的SPSS实现7.6.1 SPSS软件概述1 SPSS版本与安装2 SPSS界面3 SPSS特点4 SPSS数据7.6.2 SPSS与方差分析1 单因素方差分析2 双因素方差分析7.6.3 SPSS与回归分析SPSS回归分析过程牙膏价格问题的回归分析_化工数学模型数据回归软件
文章浏览阅读7.5k次。如何利用hutool工具包实现邮件发送功能呢?1、首先引入hutool依赖<dependency> <groupId>cn.hutool</groupId> <artifactId>hutool-all</artifactId> <version>5.7.19</version></dependency>2、编写邮件发送工具类package com.pc.c..._hutool发送邮件
文章浏览阅读867次,点赞2次,收藏2次。docker安装elasticsearch,elasticsearch-head,kibana,ik分词器安装方式基本有两种,一种是pull的方式,一种是Dockerfile的方式,由于pull的方式pull下来后还需配置许多东西且不便于复用,个人比较喜欢使用Dockerfile的方式所有docker支持的镜像基本都在https://hub.docker.com/docker的官网上能找到合..._docker安装kibana连接elasticsearch并且elasticsearch有密码
文章浏览阅读1.3w次,点赞57次,收藏92次。整理 | 郑丽媛出品 | CSDN(ID:CSDNnews)近年来,随着机器学习的兴起,有一门编程语言逐渐变得火热——Python。得益于其针对机器学习提供了大量开源框架和第三方模块,内置..._beeware
文章浏览阅读7.9k次。//// ViewController.swift// Day_10_Timer//// Created by dongqiangfei on 2018/10/15.// Copyright 2018年 飞飞. All rights reserved.//import UIKitclass ViewController: UIViewController { ..._swift timer 暂停
文章浏览阅读986次,点赞2次,收藏2次。1.硬性等待让当前线程暂停执行,应用场景:代码执行速度太快了,但是UI元素没有立马加载出来,造成两者不同步,这时候就可以让代码等待一下,再去执行找元素的动作线程休眠,强制等待 Thread.sleep(long mills)package com.example.demo;import org.junit.jupiter.api.Test;import org.openqa.selenium.By;import org.openqa.selenium.firefox.Firefox.._元素三大等待
文章浏览阅读3k次,点赞4次,收藏14次。Java软件工程师职位分析_java岗位分析
文章浏览阅读2k次。Java:Unreachable code的解决方法_java unreachable code
文章浏览阅读1w次。1、html中设置标签data-*的值 标题 11111 222222、点击获取当前标签的data-url的值$('dd').on('click', function() { var urlVal = $(this).data('ur_如何根据data-*属性获取对应的标签对象