问题:将熊猫数据框列表连接在一起
我有一个熊猫数据框列表,我想将其合并为一个熊猫数据框。我正在使用Python 2.7.10和Pandas 0.16.2
我从以下位置创建了数据框列表:
import pandas as pd
dfs = []
sqlall = "select * from mytable"
for chunk in pd.read_sql_query(sqlall , cnxn, chunksize=10000):
dfs.append(chunk)
这将返回数据帧列表
type(dfs[0])
Out[6]: pandas.core.frame.DataFrame
type(dfs)
Out[7]: list
len(dfs)
Out[8]: 408
这是一些示例数据
# sample dataframes
d1 = pd.DataFrame({'one' : [1., 2., 3., 4.], 'two' : [4., 3., 2., 1.]})
d2 = pd.DataFrame({'one' : [5., 6., 7., 8.], 'two' : [9., 10., 11., 12.]})
d3 = pd.DataFrame({'one' : [15., 16., 17., 18.], 'two' : [19., 10., 11., 12.]})
# list of dataframes
mydfs = [d1, d2, d3]
我想将d1
,d2
和组合d3
成一个熊猫数据框。另外,使用该chunksize
选项时将大表直接读入数据框的方法将非常有帮助。
回答 0
鉴于所有数据框都具有相同的列,您可以简单地将concat
它们:
import pandas as pd
df = pd.concat(list_of_dataframes)
回答 1
如果数据帧的所有列都不相同,请尝试以下操作:
df = pd.DataFrame.from_dict(map(dict,df_list))
回答 2
您也可以使用函数式编程来做到这一点:
from functools import reduce
reduce(lambda df1, df2: df1.merge(df2, "outer"), mydfs)
回答 3
concat
对于使用“ loc”命令针对现有数据框提取的列表理解也可以很好地工作
df = pd.read_csv('./data.csv') # ie; Dataframe pulled from csv file with a "userID" column
review_ids = ['1','2','3'] # ie; ID values to grab from DataFrame
# Gets rows in df where IDs match in the userID column and combines them
dfa = pd.concat([df.loc[df['userID'] == x] for x in review_ids])
声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。