Generador de Robots.txt
Genera un archivo robots.txt correcto para indicar a los buscadores qué rastrear.
User-agent: * Allow: / Disallow: /admin/ Disallow: /api/ Disallow: /tmp/ Sitemap: https://www.dgntool.com/sitemap.xml
Descripción General
Configura directivas Allow y Disallow para controlar el rastreo de Googlebot y otros agentes.
Robots.txt Generator: Crawler Directives & Sitemap Mapping
The Robots.txt Generator builds standard crawler instructions (Allow/Disallow) and sitemap pointers for search engine bots.
How to Build a Robots.txt File
Rápido e IntuitivoSpecify User-Agents
Set rules for all bots (*) or individual crawlers.
Add Disallow Paths
Exclude private admin folders and internal search paths.
Export robots.txt
Upload file directly to your website root directory.
Características Principales y Ventajas
Sin subidas a servidores. Todo se procesa de forma segura en la memoria de su dispositivo.
Resultados al instante sin colas de espera ni tiempos de carga de red.
Sin registros, sin suscripciones y sin tarifas ocultas.
Diseño adaptable a móviles, tabletas y ordenadores de escritorio.
Procesamiento en tiempo real compatible con estándares web modernos W3C.
- Never use robots.txt to hide sensitive data; it is publicly readable by anyone.
Guías Relacionadas
Preguntas Frecuentes
1 Preguntas y RespuestasWhere must the robots.txt file be hosted?
Strictly at the root level of your domain (e.g. `domain.com/robots.txt`).
Herramientas Relacionadas
Generador de Metaetiquetas SEO
Crea metaetiquetas HTML completas, Open Graph y tarjetas de Twitter para mejorar el SEO.
Generador de Slug para URLs
Convierte cualquier título en un slug limpio, en minúsculas y separado por guiones.

