pandas骚操作:transform 数据转换的 4 个常用技巧!
大家好,我是东哥。
本篇是pandas100个骚操作系列的第 8 篇:transform 数据转换的 4 个常用技巧!
transform
,相信很多朋友也用过,东哥这里再次进行详细分享下。transform
有4个比较常用的功能,总结如下:转换数值 合并分组结果 过滤数据 结合分组处理缺失值
一. 转换数值
pd.transform(func, axis=0)
以上就是transform
转换数值的基本用法,参数含义如下:
func
是指定用于处理数据的函数,它可以是普通函数
、字符串函数名称
、函数列表
或轴标签映射函数的字典
。axis
是指要应用到哪个轴,0
代表列,1
代表行。
1. 普通函数
func
可以是我们正常使用的普通函数,像下面例子这样自定义一个函数。
df = pd.DataFrame({'A': [1,2,3], 'B': [10,20,30] })def plus_10(x): return x+10df.transform(plus_10)
或者,也可以用lambda
函数简洁的实现,效果是一样的。
df.transform(lambda x: x+10)
2. 字符串函数
也可以传递任何有效的pandas
内置的字符串函数,例如sqrt
:
df.transform('sqrt')
3. 函数列表
func
还可以是一个函数的列表。例如numpy
的sqrt
和exp
函数的列表组合:
df.transform([np.sqrt, np.exp])
通过上面结果看到,两个函数分别作用于A
和B
每个列。
4. 轴标签映射函数的字典
如果我们只想将指定函数作用于某一列,该如何操作?
func
还可以是轴标签映射指定函数的字典。例如:
df.transform({ 'A': np.sqrt, 'B': np.exp,})
这样,就可以对A
和BL
两列分别使用相应函数了,互补干扰。
二、合并分组结果
这个功能是东哥最喜欢的,有点类似SQL
的窗口函数,就是可以合并grouby()
的分组结果。用一个例子说明:
df = pd.DataFrame({
'restaurant_id': [101,102,103,104,105,106,107],
'address': ['A','B','C','D', 'E', 'F', 'G'],
'city': ['London','London','London','Oxford','Oxford', 'Durham', 'Durham'],
'sales': [10,500,48,12,21,22,14]
})
传统方法是:先groupby
分组,结合apply
计算分组求和,再用merge
合并原表,然后再apply
计算百分比。
但其实用transform
可以直接代替前面两个步骤(分组求和、合并),简单明了。
首先,用transform
结合groupby
按城市分组计算销售总和。
df['city_total_sales'] = df.groupby('city')['sales'] .transform('sum')
可以看到,使用transfrom
计算分组的求和并不会像apply
一样改变原表的结构,而是直接在原表的基础上再增加一列。
这样就可以一步到位,得到我们想要的格式。
然后,再计算百分比调整格式,搞定。
df['pct'] = df['sales'] / df['city_total_sales']
df['pct'] = df['pct'].apply(lambda x: format(x, '.2%'))
三、过滤数据
transform
也可以用来过滤数据。仍用上个例子,我们希望获得城市总销售额超过40的记录,那么就可以这样使用。
df[df.groupby('city')['sales'].transform('sum') > 40]
上面结果来看,并没有生成新的列,而是通过汇总计算求和直接对原表进行了筛选,非常优雅。
四、结合分组处理缺失值
df = pd.DataFrame({
'name': ['A', 'A', 'B', 'B', 'B', 'C', 'C', 'C'],
'value': [1, np.nan, np.nan, 2, 8, 2, np.nan, 3]
})
在上面的示例中,数据可以按name
分为三组A、B、C,每组都有缺失值。我们知道替换缺失值的常见的方法是用mean
替换NaN
。下面是每个组中的平均值。
df.groupby('name')['value'].mean()nameA 1.0B 5.0C 2.5Name: value, dtype: float64
我们可以通过transform()
使用每组平均值来替换缺失值。用法如下:
df['value'] = df.groupby('name')
.transform(lambda x: x.fillna(x.mean()))
以上就是本次关于transform
的数据转换操作分享。