Skip to content

Latest commit

 

History

History
32 lines (23 loc) · 2.09 KB

README.md

File metadata and controls

32 lines (23 loc) · 2.09 KB

Скрипт для скачивания всех картинок со всех страниц сайта

Особенности скрипта:

  1. Рекурсивный обход страниц - скрипт посещает все внутренние ссылки в пределах домена
  2. Многопоточная загрузка - использует несколько потоков для ускорения загрузки изображений
  3. Контроль посещенных страниц - избегает повторной обработки одних и тех же URL
  4. Фильтрация по домену - скачивает только изображения с указанного домена
  5. Ограничения:
    • Максимальное количество страниц (по умолчанию 100)
    • Максимальное количество потоков (по умолчанию 5)
  6. Поддержка различных форматов - jpg, png, gif, bmp, webp, svg

Как использовать:

  1. Установите зависимости:

    pip install requests beautifulsoup4
    
  2. Запустите скрипт и введите URL сайта

  3. Все изображения будут сохранены в папку downloaded_images

Важные замечания:

  1. Скрипт может работать долго для больших сайтов
  2. Некоторые сайты могут блокировать такие запросы (проверьте robots.txt)
  3. Убедитесь, что у вас есть права на скачивание контента
  4. Для ускорения можно увеличить max_threads, но это может привести к блокировке

Для обработки очень больших сайтов рекомендуется добавить задержки между запросами и использовать пользовательские заголовки (User-Agent).