Herramientas SEO

Comprobar una URL contra robots.txt

Pegue el contenido de su robots.txt y la dirección de una página: la herramienta determina si el rastreo está permitido para el bot elegido y muestra la regla que se aplicó.

Funciona en el navegador: los datos no se envían a ningún servidor

La comprobación funciona como en Google y Yandex: se elige el grupo del bot (o *) y, entre las reglas aplicables, gana la más larga; a igual longitud, Allow prevalece sobre Disallow. Se admiten * y $ en las rutas. Un Disallow vacío significa "todo permitido".

¿No busca utilidades, sino datos a medida?

Recopilamos y ordenamos datos de sitios web: precios, productos, contactos, reseñas — en el formato y con la frecuencia que necesite.