删除熊猫数据框中全为零的行
- 2025-04-15 09:19:00
- admin 原创
- 32
问题描述:
我可以使用pandas
dropna()
函数删除部分或所有列设置为 的行NA
。是否有等效函数可以删除所有列值为 0 的行?
P kt b tt mky depth
1 0 0 0 0 0
2 0 0 0 0 0
3 0 0 0 0 0
4 0 0 0 0 0
5 1.1 3 4.5 2.3 9.0
在这个例子中,我们想从数据框中删除前 4 行。
谢谢!
解决方案 1:
一行代码,无需转置:
df.loc[~(df==0).all(axis=1)]
对于那些喜欢对称的人来说,这也是有效的......
df.loc[(df!=0).any(axis=1)]
解决方案 2:
事实证明,这可以用矢量化的方式很好地表达:
> df = pd.DataFrame({'a':[0,0,1,1], 'b':[0,1,0,1]})
> df = df[(df.T != 0).any()]
> df
a b
1 0 1
2 1 0
3 1 1
解决方案 3:
我认为这个解决方案是最短的:
df= df[df['ColName'] != 0]
解决方案 4:
我大约每个月都会查阅一次这个问题,并且总是从评论中找出最好的答案:
df.loc[(df!=0).any(1)]
谢谢丹·艾伦!
解决方案 5:
将零替换为nan
,然后删除所有条目为的行nan
。之后nan
用零替换。
import numpy as np
df = df.replace(0, np.nan)
df = df.dropna(how='all', axis=0)
df = df.replace(np.nan, 0)
解决方案 6:
在查找这个问题时,我发现有几个解决方案很有帮助,特别是对于较大的数据集:
df[(df.sum(axis=1) != 0)] # 30% faster
df[df.values.sum(axis=1) != 0] # 3X faster
继续@U2EF1 的示例:
In [88]: df = pd.DataFrame({'a':[0,0,1,1], 'b':[0,1,0,1]})
In [91]: %timeit df[(df.T != 0).any()]
1000 loops, best of 3: 686 µs per loop
In [92]: df[(df.sum(axis=1) != 0)]
Out[92]:
a b
1 0 1
2 1 0
3 1 1
In [95]: %timeit df[(df.sum(axis=1) != 0)]
1000 loops, best of 3: 495 µs per loop
In [96]: %timeit df[df.values.sum(axis=1) != 0]
1000 loops, best of 3: 217 µs per loop
在更大的数据集上:
In [119]: bdf = pd.DataFrame(np.random.randint(0,2,size=(10000,4)))
In [120]: %timeit bdf[(bdf.T != 0).any()]
1000 loops, best of 3: 1.63 ms per loop
In [121]: %timeit bdf[(bdf.sum(axis=1) != 0)]
1000 loops, best of 3: 1.09 ms per loop
In [122]: %timeit bdf[bdf.values.sum(axis=1) != 0]
1000 loops, best of 3: 517 µs per loop
解决方案 7:
您可以使用快速lambda
函数来检查给定行中的所有值是否为0
。然后,您可以使用应用该结果lambda
来仅选择符合或不符合该条件的行:
import pandas as pd
import numpy as np
np.random.seed(0)
df = pd.DataFrame(np.random.randn(5,3),
index=['one', 'two', 'three', 'four', 'five'],
columns=list('abc'))
df.loc[['one', 'three']] = 0
print df
print df.loc[~df.apply(lambda row: (row==0).all(), axis=1)]
产量:
a b c
one 0.000000 0.000000 0.000000
two 2.240893 1.867558 -0.977278
three 0.000000 0.000000 0.000000
four 0.410599 0.144044 1.454274
five 0.761038 0.121675 0.443863
[5 rows x 3 columns]
a b c
two 2.240893 1.867558 -0.977278
four 0.410599 0.144044 1.454274
five 0.761038 0.121675 0.443863
[3 rows x 3 columns]
解决方案 8:
import pandas as pd
df = pd.DataFrame({'a' : [0,0,1], 'b' : [0,0,-1]})
temp = df.abs().sum(axis=1) == 0
df = df.drop(temp)
结果:
>>> df
a b
2 1 -1
解决方案 9:
按照接受的答案中的示例,一个更优雅的解决方案:
df = pd.DataFrame({'a':[0,0,1,1], 'b':[0,1,0,1]})
df = df[df.any(axis=1)]
print(df)
a b
1 0 1
2 1 0
3 1 1
解决方案 10:
另一种选择:
# Is there anything in this row non-zero?
# df != 0 --> which entries are non-zero? T/F
# (df != 0).any(axis=1) --> are there 'any' entries non-zero row-wise? T/F of rows that return true to this statement.
# df.loc[all_zero_mask,:] --> mask your rows to only show the rows which contained a non-zero entry.
# df.shape to confirm a subset.
all_zero_mask=(df != 0).any(axis=1) # Is there anything in this row non-zero?
df.loc[all_zero_mask,:].shape
解决方案 11:
这对我有用new_df = df[df.loc[:]!=0].dropna()
解决方案 12:
对我来说,这段代码df.loc[(df!=0).any(axis=0)]
不起作用。它返回了精确的数据集。
相反,我使用df.loc[:, (df!=0).any(axis=0)]
并删除了数据集中所有值为 0 的列
该函数.all()
删除了我的数据集中所有包含零值的列。
解决方案 13:
df = df [~( df [ ['kt' 'b' 'tt' 'mky' 'depth', ] ] == 0).all(axis=1) ]
尝试这个命令,它完美地运行。
解决方案 14:
仅访问行总和 > 0 的 TRUE 索引就足够了:
ndf=df[df.sum(axis=1)>0]
解决方案 15:
from io import StringIO
import pandas as pd
s = '''
P kt b tt mky depth
1 0 0 0 0 0
2 0 0 0 0 0
3 0 0 0 0 0
4 0 0 0 0 0
5 1.1 3 4.5 2.3 9.0
'''
df = pd.read_csv(StringIO(s), sep=r's+', engine='python',index_col=0)
print(df)
print()
print(
df.where(df != 0).dropna(how='all')
)
解决方案 16:
要删除任意行中所有值为 0 的列:
new_df = df[df.loc[:]!=0].dropna()
相关推荐
热门文章
项目管理软件有哪些?
热门标签
曾咪二维码
扫码咨询,免费领取项目管理大礼包!
云禅道AD