Skip to content

About

Скрипт для скачивания всех картинок с сайта

Topics

Resources

Stars

1 star

Watchers

0 watching

Forks

Latest commit

 

History

27 Commits

Folders and files

Repository files navigation

Скрипт для скачивания всех картинок со всех страниц сайта

Особенности скрипта:

  1. Рекурсивный обход страниц - скрипт посещает все внутренние ссылки в пределах домена
  2. Многопоточная загрузка - использует несколько потоков для ускорения загрузки изображений
  3. Контроль посещенных страниц - избегает повторной обработки одних и тех же URL
  4. Фильтрация по домену - скачивает только изображения с указанного домена
  5. Ограничения:
    • Максимальное количество страниц (по умолчанию 100)
    • Максимальное количество потоков (по умолчанию 5)
  6. Поддержка различных форматов - jpg, png, gif, bmp, webp, svg

Как использовать:

  1. Установите зависимости:

    pip install requests beautifulsoup4
    
  2. Запустите скрипт и введите URL сайта

  3. Все изображения будут сохранены в папку downloaded_images

Важные замечания:

  1. Скрипт может работать долго для больших сайтов
  2. Некоторые сайты могут блокировать такие запросы (проверьте robots.txt)
  3. Убедитесь, что у вас есть права на скачивание контента
  4. Для ускорения можно увеличить max_threads, но это может привести к блокировке

Для обработки очень больших сайтов рекомендуется добавить задержки между запросами и использовать пользовательские заголовки (User-Agent).

About

Скрипт для скачивания всех картинок с сайта

Topics

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages