Heeft panda’s iterrows prestatieproblemen?

| | | | | | | |

Ik heb zeer slechte prestaties opgemerkt bij het gebruik van iterrows van panda's.

Is dit iets dat door anderen wordt ervaren? Is het specifiek voor iterrows en moet deze functie worden vermeden voor gegevens van een bepaalde grootte (ik werk met 2-3 miljoen rijen)?

Deze discussie op GitHub deed me geloven dat het wordt veroorzaakt bij het mixen van dtypes in het dataframe, maar het eenvoudige voorbeeld hieronder laat zien dat het er is, zelfs bij gebruik van één dtype (float64). duurt 36 seconden op mijn computer:

import panda's als pd import numpy as np importtijd s1 = np.random.randn(2000000) s2 = np.random.randn(2000000) dfa = pd .DataFrame({"s1": s1, "s2": s2}) start = time.time() i=0 voor rowindex, rij in dfa.iterrows(): i+=1 end = time.time() print end - start 

Waarom zijn gevectoriseerde bewerkingen zoals toepassing zo veel sneller? Ik kan me voorstellen dat daar ook rij voor rij iteratie moet plaatsvinden.

Ik kan niet achterhalen hoe om in mijn geval geen iterrows te gebruiken (dit bewaar ik voor een toekomstige vraag). Daarom zou ik het op prijs stellen om te horen of je deze iteratie consequent hebt kunnen vermijden. Ik maak berekeningen op basis van gegevens in afzonderlijke dataframes. Bedankt!

---Bewerken: vereenvoudigde versie van wat ik wil uitvoeren is hieronder toegevoegd---

import panda's als pd import numpy als np #%% Maak de originele tabellen t1 = {"letter":["a","b"], "number1":[50,-10]} t2 = {"letter ":["a","a","b","b"], "getal2":[0.2,0.5,0.1,0.4]} table1 = pd.DataFrame(t1) table2 = pd.DataFrame(t2) #%% Maak de hoofdtekst van de nieuwe tabel table3 = pd.DataFrame(np.nan, columns=["letter","number2"], index=[0]) #%% Herhaal door relevante gegevens te filteren, optimaliseren, retourneren info voor row_index, rij in table1.iterrows(): t2info = table2[table2.letter == row["letter"]].reset_index() table3.ix[row_index,] = optimaliseren(t2info,row["number1"] ) #%% Definieer optimalisatie def optimaliseren(t2info, t1info): berekening = [] voor index, r in t2info.iterrows(): berekening.append(r["nummer2"]*t1info) maxrow = berekening.index(max( berekening)) retourneer t2info.ix[maxrow] 

Shop

Learn programming in R: courses

$

Best Python online courses for 2022

$

Best laptop for Fortnite

$

Best laptop for Excel

$

Best laptop for Solidworks

$

Best laptop for Roblox

$

Best computer for crypto mining

$

Best laptop for Sims 4

$

Latest questions

NUMPYNUMPY

psycopg2: insert multiple rows with one query

12 answers

NUMPYNUMPY

How to convert Nonetype to int or string?

12 answers

NUMPYNUMPY

How to specify multiple return types using type-hints

12 answers

NUMPYNUMPY

Javascript Error: IPython is not defined in JupyterLab

12 answers

News


Wiki

Python OpenCV | cv2.putText () method

numpy.arctan2 () in Python

Python | os.path.realpath () method

Python OpenCV | cv2.circle () method

Python OpenCV cv2.cvtColor () method

Python - Move item to the end of the list

time.perf_counter () function in Python

Check if one list is a subset of another in Python

Python os.path.join () method