Skip to content

Instantly share code, notes, and snippets.

@ratik
Last active June 19, 2017 06:35
Show Gist options
  • Save ratik/82bf7611beb935b07bc57d18119cb0c9 to your computer and use it in GitHub Desktop.
Save ratik/82bf7611beb935b07bc57d18119cb0c9 to your computer and use it in GitHub Desktop.
tz_backend

Необходимо создать консольную (работающую из командной строки) утилиту. Программа спрашивает домен и забирает с введённого адреса файл robots.txt. Затем скрипт парсит файл и выводит его содержимое в виде объекта. Ключами объекта являются параметры User-Agent, а значениями — вложенный объект. Вложенный объект содержит два поля Allow и Dissallow, каждый из которых является массивом соответствующих URL из robots.txt.
Код выложить на GitHub
Код должен быть написан на Node.js
Пример:

{
  "*": {
      "Disallow": ["/cgi-bin"],
      "Allow": ["/"]
   },
  "GoogleBot": {
      "Disallow": ["/cgi-bin"],
      "Allow": ["/"]
   }
}
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment