Python Crawler written Python 3
pycrawler Python Crawler written Python 3. (Supports major Python releases Python3.6, Python3.7 and Python 3.8) Installation and Use Setup VirtualEnv which python3 this will output the path of your python3 #now setup a python3 virtualenv mkvirtualenv crawl3 -p $(which python3) workon crawler python main.py -d5 http://gotchacode.com // -d5 means crawl to the depth of 5. Results: And the output is: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 50/50 [00:00<00:00, 29200.11it/s] 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 9/9 [00:00<00:00, 22563.50it/s] 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 9/9 [00:00<00:00, 21375.28it/s] 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 10/10 [00:00<00:00, 22227.37it/s] CRAWLER STARTED: https://vinitkumar.me, will […]
Read more