Gli iterrow di panda hanno problemi di prestazioni?

| | | | | | | |

Ho notato prestazioni molto scarse durante l'utilizzo di iterrow dai panda.

È qualcosa che è stato sperimentato da altri? È specifico per iterrow e questa funzione dovrebbe essere evitata per dati di una certa dimensione (sto lavorando con 2-3 milioni di righe)?

Questa discussione su GitHub mi ha portato a credere che sia causato quando si mescolano dtypes nel dataframe, tuttavia il semplice esempio seguente mostra che è presente anche quando si utilizza un dtype (float64). Questo impiega 36 secondi sulla mia macchina:

import pandas as pd import numpy as np import time s1 = np.random.randn(2000000) s2 = np.random.randn(2000000) dfa = pd .DataFrame({"s1": s1, "s2": s2}) start = time.time() i=0 per rowindex, riga in dfa.iterrows(): i+=1 end = time.time() print end - start 

Perché le operazioni vettoriali come l'applicazione sono molto più veloci? Immagino che ci debba essere qualche iterazione riga per riga anche lì.

Non riesco a capire come per non usare iterrows nel mio caso (questo lo salverò per una domanda futura). Pertanto apprezzerei l'ascolto se sei stato costantemente in grado di evitare questa iterazione. Sto eseguendo calcoli basati su dati in frame di dati separati. Grazie!

---Modifica: la versione semplificata di ciò che voglio eseguire è stata aggiunta di seguito---

import pandas as pd import numpy as np #%% Crea le tabelle originali t1 = {"letter":["a","b"], "number1":[50,-10]} t2 = {"lettera ":["a","a","b","b"], "number2":[0.2,0.5,0.1,0.4]} table1 = pd.DataFrame(t1) table2 = pd.DataFrame(t2) #%% Crea il corpo della nuova tabella table3 = pd.DataFrame(np.nan, columns=["letter","number2"], index=[0]) #%% Itera attraverso il filtraggio dei dati rilevanti, l'ottimizzazione, la restituzione info per row_index, riga in table1.iterrows(): t2info = table2[table2.letter == row["letter"]].reset_index() table3.ix[row_index,] = optimization(t2info,row["number1"] ) #%% Definisci ottimizzazione def optimization(t2info, t1info): calcolo = [] per indice, r in t2info.iterrows(): calcolo.append(r["numero2"]*t1info) maxrow = calcolo.index(max( calcolo)) return t2info.ix[maxrow] 

Shop

Learn programming in R: courses

$

Best Python online courses for 2022

$

Best laptop for Fortnite

$

Best laptop for Excel

$

Best laptop for Solidworks

$

Best laptop for Roblox

$

Best computer for crypto mining

$

Best laptop for Sims 4

$

Latest questions

NUMPYNUMPY

psycopg2: insert multiple rows with one query

12 answers

NUMPYNUMPY

How to convert Nonetype to int or string?

12 answers

NUMPYNUMPY

How to specify multiple return types using type-hints

12 answers

NUMPYNUMPY

Javascript Error: IPython is not defined in JupyterLab

12 answers

News


Wiki

Python OpenCV | cv2.putText () method

numpy.arctan2 () in Python

Python | os.path.realpath () method

Python OpenCV | cv2.circle () method

Python OpenCV cv2.cvtColor () method

Python - Move item to the end of the list

time.perf_counter () function in Python

Check if one list is a subset of another in Python

Python os.path.join () method