Scrapy peut-il être utilisé pour récupérer du contenu dynamique sur des sites Web utilisant AJAX ?

| | | | |

J'ai récemment appris Python et je me lance dans la création d'un web-scraper. Ce n'est rien d'extraordinaire ; son seul but est d'obtenir les données d'un site Web de paris et de les mettre dans Excel.

La plupart des problèmes peuvent être résolus et j'ai un bon petit faire l'idiot. Cependant, je rencontre un énorme obstacle sur un problème. Si un site charge un tableau de chevaux et répertorie les prix actuels des paris, cette information ne se trouve dans aucun fichier source. L'indice est que ces données sont parfois en direct, les chiffres étant évidemment mis à jour. depuis un serveur distant. Le HTML sur mon PC a simplement un trou où leurs serveurs poussent à travers toutes les données intéressantes dont j'ai besoin.

Maintenant, mon expérience avec le contenu Web dynamique est faible, donc cette chose est quelque chose J'ai du mal à me faire une idée.

Je pense que Java ou Javascript est une clé, cela apparaît souvent.

Le scraper est simplement un moteur de comparaison de cotes. Certains sites ont des API mais j'en ai besoin pour ceux qui n'en ont pas. J'utilise la bibliothèque scrapy avec Python 2.7

Je m'excuse si cette question est trop ouverte. Bref, ma question est : comment scrapy peut-il être utilisé pour scraper ces données dynamiques afin que je puisse les utiliser ? Pour que je puisse récupérer ces données de cotes de paris en temps réel ?

Nous espérons que cet article vous a aidé à résoudre le problème. Outre Scrapy peut-il être utilisé pour récupérer du contenu dynamique sur des sites Web utilisant AJAX ?, consultez d'autres sujets liés à around.

Vous voulez exceller en Python? Consultez notre examen des meilleurs cours en ligne Python 2022. Si vous êtes intéressé par la science des données, découvrez également comment apprendre la programmation en R.

Au fait, ce matériel est également disponible dans d'autres langues:



Ken OConnell

Rome | 2022-11-29

StackOverflow est tout un peu confus 😭 Scrapy peut-il être utilisé pour récupérer du contenu dynamique sur des sites Web utilisant AJAX ? n'est pas le seul problème que j'ai rencontré. Je vais l'utiliser dans ma thèse de licence

Schneider Galleotti

Rome | 2022-11-29

Peut-être y a-t-il d'autres réponses ? Qu'est-ce que le Scrapy peut-il être utilisé pour récupérer du contenu dynamique sur des sites Web utilisant AJAX ? signifie exactement ?. Vérifié hier, ça marche !

Anna Zelotti

New York | 2022-11-29

C'est simple et clair. Merci de partager. Scrapy peut-il être utilisé pour récupérer du contenu dynamique sur des sites Web utilisant AJAX ? et autres problèmes avec log ont toujours été mon point faible 😁. Vérifié hier, ça marche !

Shop

Learn programming in R: courses

$

Best Python online courses for 2022

$

Best laptop for Fortnite

$

Best laptop for Excel

$

Best laptop for Solidworks

$

Best laptop for Roblox

$

Best computer for crypto mining

$

Best laptop for Sims 4

$

Latest questions

NUMPYNUMPY

Common xlabel/ylabel for matplotlib subplots

12 answers

NUMPYNUMPY

How to specify multiple return types using type-hints

12 answers

NUMPYNUMPY

Why do I get "Pickle - EOFError: Ran out of input" reading an empty file?

12 answers

NUMPYNUMPY

Flake8: Ignore specific warning for entire file

12 answers

NUMPYNUMPY

glob exclude pattern

12 answers

NUMPYNUMPY

How to avoid HTTP error 429 (Too Many Requests) python

12 answers

NUMPYNUMPY

Python CSV error: line contains NULL byte

12 answers

NUMPYNUMPY

csv.Error: iterator should return strings, not bytes

12 answers

News


Wiki

Python | How to copy data from one Excel sheet to another

Common xlabel/ylabel for matplotlib subplots

Check if one list is a subset of another in Python

sin

How to specify multiple return types using type-hints

exp

Printing words vertically in Python

exp

Python Extract words from a given string

Cyclic redundancy check in Python

Finding mean, median, mode in Python without libraries

cos

Python add suffix / add prefix to strings in a list

Why do I get "Pickle - EOFError: Ran out of input" reading an empty file?

Python - Move item to the end of the list

Python - Print list vertically