BiggerBot
BiggerBot è il crawler del motore Bigger Search.
Rispetta robots.txt, direttive noindex/nofollow, canonical, crawl-delay e limiti di frequenza.
User-Agent: BiggerBot/3.1
Per escludere il crawler:
User-agent: BiggerBot Disallow: /
BiggerBot è il crawler del motore Bigger Search.
Rispetta robots.txt, direttive noindex/nofollow, canonical, crawl-delay e limiti di frequenza.
User-Agent: BiggerBot/3.1
Per escludere il crawler:
User-agent: BiggerBot Disallow: /