Система скачивания сайта. Как правильно выбрать количество файлов?

Опубликовано: 2020-02-12

Наша система скачивания сайтов и конвертации их на нашу Archivarix CMS позволяет бесплатно скачивать до 200 файлов с сайта. Если на сайте файлов больше и все они нужны, то за эту услугу вы можете заплатить. Стоимость скачивания зависит от количества файлов. Как узнать сколько файлов действительно находится на сайте и сколько в итоге будет стоить скачать их всех?

Для начала надо указать, что количество файлов сайта почти всегда больше, чем количество страниц сайта. Оно будет одинаковым только тогда, когда все страницы сайта - чистые html файлы, без картинок, CSS, скриптов и так далее. Подобное можно встретить разве что на самом первом сайте интернета, появившемся в 1991 году - http://info.cern.ch/ . Если ваш скачиваемый сайт не похож на артефакт из раннего интернета и включает в себа графику и CSS стили, тогда файлов на нем будет горздо больше, чем страниц. Как же узнать сколько их?

Знать точно, сколько файлов находится на сайте может только его администратор. Если вы не имеете к скачиваемому сайту полного доступа, то вы можете посчитать файлы только приблизительно. Самый простой способ - посчитать с помошью нашей системы восстановления сайтов из веб архива сколько файлов на нем проиндексировал Archive.org. Заполняем поле "Домен", а поля "До временной отметки" и "Начиная с временной отметки" можно не заполнять. Нажимаем кнопу "Восстановить" и ждем когда вам на почту придет скриншот сайта с подсчетом файлов. Следует участь, что эта цифра означает только то, сколько файлов было проиндексировано Веб Архивом, а не сколько на нем на самом деле есть сейчас. Их может быть как больше, так и меньше.

Следующий способ - посчитать количество страниц сайта в sitemap.xml. Этот файл обычно находится по адресу yourwebsite.com/sitemap.xml или его положение может быть указано в robots.txt .Из полученного количества страниц можно примерно прикинуть сколько на сайте находится файлов. В среднем на сайте файлов в 2 раза больше, чем страниц. Но если сайт содержит много графики, то отношение файлы/страницы может быть гораздо выше.

Если файл Sitemap на сайте отстутствует, узнать количество страниц можно в гугле, с помошью простого запроса https://www.google.com/search?q=site: yourwebsite.com. Но это будет только количество проиндексированных страниц, а не то, сколько их реально на сайте.

Важное замечание! Мы не рекомендуем скачивать с помошью нашей системы сайты с автоматически генерируемым контентом, либо сайты с автоматически генерируемыми внутренними ссылками. На таких сайтах содержится "бесконечное" количество файлов. 

Использование материалов статьи разрешается только при условии размещения ссылки на источник: https://ru.archivarix.com/blog/website-downloader/

1 Как работает Архиварикс?

Система Архиварикс предназначена для скачивания и восстановления сайтов - как уже не работающих из Веб Архива, так и живых, находящихся в данный момент онлайн. В этом заключается ее основное отличие о…

4 месяца назад
2 Как перенести контент из web.archive.org на Wordpress?

С помошью параметра "Извлечение структурированного контента" можно очень просто сделать Wordpress блог как из сайта, найденного в Веб Архиве, так и из любого другого сайта. Для этого находим сайт-исто…

4 месяца назад
3 Простая и легкая Archivarix CMS. Редактор копированных сайтов.

Для того, чтобы вам было удобно редактировать восстановленные в нашей системе сайты, мы разработали простую Flat File CMS состоящую всего из одного небольшого файла. Не смотря на свой размер, эта CMS …

1 месяц назад
4 Регулярные выражения, используемые в Archivarix CMS

В данной статье содержаться регулярные выражения, применяемые для поиска и замены в контенте сайтов, восстановленных с помощью системы Archivarix. Они не являются чем-то свойственным только этой систе…

1 месяц назад
5 Система скачивания сайта. Как правильно выбрать количество файлов?

Наша система скачивания сайтов и конвертации их на нашу Archivarix CMS позволяет бесплатно скачивать до 200 файлов с сайта. Если на сайте файлов больше и все они нужны, то за эту услугу вы можете запл…

1 месяц назад
Последние новости:
2020.02.14
Новая пятница, новые обновления!
Много нового и полезного было сделано в Archivarix CMS:
- В Поиске и Замене теперь можно фильтровать по дате урла.
- Теперь внешние ссылки со всех страниц сайта можно удалять нажатием одной кнопки. Анкоры сохраняются.
- Новый параметр ACMS_SAFE_MODE, который запрещает менять настройки Лоадера/CMS и загружать кастомные файлы, у импортов тоже запрещается импортировать настройки и кастомные файлы.
- JSON-файлы настроек Лоадера и CMS теперь можно скачать себе на компьютер и загрузить в CMS из файла на компьютере. Таким образом перенос настроек на другие сайты стал ещё проще.
- Создание кастомных правил стало удобнее, есть часто используемые шаблоны, которые можно выбрать.
- Новые кастомные файлы можно создать в файл менеджере без необходимости загружать файл.
- Дерево урлов для основного домена всегда идёт первым.
- Если вы скрываете дерево урлов для домена/поддомена, то эта настройка сохраняется во время работы с CMS.
- Вместо двух кнопок раскрыть/свернуть дерево урлов, теперь одна, которая умеет и то и другое.
- Создание нового урла упростилось и при создании можно сразу указать файл с компьютера.
- В мобильной вёрстке основная рабочая часть идёт первой.
- После каждой манипуляции с файлом, в базе обновляется его размер.
- Исправлена работа кнопок выборочных откатов истории.
- Исправлено создание новых урлов для поддоменов, которые содержат цифры в названии домена.
2020.02.07
Новая порция обновлений!
В исходном-коде файлов теперь ничего менять не нужно.
- Загружать сайты на сервер теперь можно загрузив на сервер лишь один скрипт с нашей Archivarix CMS.
- Для того чтобы что-то поменять в настройках CMS больше не нужно открывать её исходный код. Поставить пароль или понизить лимиты можно напрямую из раздела Настроек.
- Для подключения своих счётчиков, трекеров, кастомных скриптов теперь используется отдельная папка "includes" внутри папки .content.xxxxxx. Загружать кастомные файлы можно тоже напрямую через новый файловый менеджер в CMS. Добавление счётчиков и аналитики на все страницы сайта тоже стало удобным и понятным.
- Импорты поддерживают новую структуру файлов с настройками и папкой "includes".
- Добавлены комбинации клавиш для работы в редакторе кода.

Эти и многие другие улучшения в новой версии. Лоадер тоже обновился и работает с настройками, которые создаёт CMS.
2020.01.23
Ещё одно мега-обновление Archivarix CMS!

Добавлены очень полезные инструменты, которые позволяют нажатием одной кнопки:
- вычистить все битые внутренние ссылки,
- удалить отсутствующие изображения,
- установить rel="nofollow" для всех внешних ссылок.

Теперь дополнительные восстановления можно импортировать непосредственно из самой CMS. Вы можете объединять разные восстановления в один рабочий сайт.

Для тех кто работает с большими сайтами или используют плохой хостинг - все действия, которые раньше могли останавливаться по таймауту вашего хостинга, теперь будут разбиваться на части и автоматически продолжаться, пока не будут завершены. Хотите сделать замену в коде 500 тысяч файлов? Импортировать восстановление размером в несколько гигабайт? Все это теперь возможно на любом, даже очень дешевом хостинге. Время таймаута (по-умолчанию, 30 секунд) можно поменять в параметре ACMS_TIMEOUT.

Наш лоадер (index.php) теперь работает как на http, так и на https протоколах вне зависимости от параметров сборки. Поставить протокол принудительно можно поменяв значение параметра ARCHIVARIX_PROTOCOL.
2020.01.07
Очередное обновление Archivarix CMS с добавлением нового функционала. Теперь любой старый сайт можно корректно переконвертировать в UTF-8 нажатием одной кнопки. Фильтрация в поиске стала ещё лучше, т.к. теперь результаты можно фильтровать и по MIME-типу.
2019.12.20
Мы выпустили долгожданное обновление Archivarix CMS. В новой версии кроме различным улучшений и оптимизаций появилась очень полезный фукнционал дополнительной фильтрации результатов поиска и полная поддержка древовидной структуры URLs для восстановлений с большим количеством файлов. Более детально можно посмотреть в логе изменений скрипта Archivarix CMS.