Lesen einer riesigen .csv-Datei

| | |

Ich versuche gerade, Daten aus .csv-Dateien in Python 2.7 mit bis zu 1 Million Zeilen und 200 Spalten (Dateien reichen von 100 MB bis 1,6 GB) zu lesen. Ich kann dies (sehr langsam) für die Dateien mit tun unter 300.000 Zeilen, aber sobald ich darüber hinausgehe, erhalte ich Speicherfehler.Mein Code sieht so aus:

def getdata(Dateiname, Kriterien): data=[] für Kriterium in Kriterien: Daten. append(getstuff(filename, criteron)) return data def getstuff(filename, criteron): import csv data=[] with open(filename, "rb") as csvfile: datareader=csv.reader(csvfile) for row in datareader: if row[3]=="column header": data.append(row) elif len(data)<2 and row[3]!=criterion: pass elif row[3]==criterion: data.append(row ) else: return data 

Der Grund für die else-Klausel in der getstuff-Funktion ist, dass alle Elemente, die das Kriterium erfüllen, zusammen in der CSV-Datei aufgelistet werden, also verlasse ich die Schleife when Ich komme an ihnen vorbei, um Zeit zu sparen.

Meine Fragen sind:

  1. Wie schaffe ich es, dorthin zu gelangen dies, um mit den größeren Dateien zu arbeiten?

  2. Gibt es eine Möglichkeit, es schneller zu machen?

Mein Computer hat 8 GB RAM, 64-Bit-Windows 7 und der Prozessor ist 3,40 GHz (nicht sicher, welche Informationen Sie benötigen).

Shop

Learn programming in R: courses

$

Best Python online courses for 2022

$

Best laptop for Fortnite

$

Best laptop for Excel

$

Best laptop for Solidworks

$

Best laptop for Roblox

$

Best computer for crypto mining

$

Best laptop for Sims 4

$

Latest questions

NUMPYNUMPY

psycopg2: insert multiple rows with one query

12 answers

NUMPYNUMPY

How to convert Nonetype to int or string?

12 answers

NUMPYNUMPY

How to specify multiple return types using type-hints

12 answers

NUMPYNUMPY

Javascript Error: IPython is not defined in JupyterLab

12 answers

News


Wiki

Python OpenCV | cv2.putText () method

numpy.arctan2 () in Python

Python | os.path.realpath () method

Python OpenCV | cv2.circle () method

Python OpenCV cv2.cvtColor () method

Python - Move item to the end of the list

time.perf_counter () function in Python

Check if one list is a subset of another in Python

Python os.path.join () method