#Indicamos a los robots la dirección de nuestro sitemap Sitemap: http://monteseirinabogado.com/index.php/index.php?option=com_xmap #Acceso a robots generales User-agent: * #Impedimos el acceso a algunos directorios Disallow: /administrator/ Disallow: /cache/ Disallow: /components/ Disallow: /images/ Disallow: /includes/ Disallow: /installation/ Disallow: /language/ Disallow: /libraries/ Disallow: /logs/ Disallow: /media/ Disallow: /modules/ Disallow: /plugins/ Disallow: /templates/ Disallow: /tmp/ Disallow: /xmlrpc/ #Impedimos el acceso a algunos tipos de archivo Disallow: /*,js$ Disallow: /*.inc$ Disallow: /*.css$ Disallow: /*.gz$ Disallow: /*.wmv$ Disallow: /*.cgi$ #Limitamos las peticiones de estos robots al servidor User-agent: noxtrumbot Crawl-delay: 100 User-agent: msnbot Crawl-delay: 30 User-agent: Slurp Crawl-delay: 30 #Impedimos el acceso al robot de imágenes de google User-agent: Googlebot-Image Disallow:/ #Impedir acceso a robot de ad-sense User-agent: Mediapartners-Google Disallow: / # disallow all files with ? in url ¿ES ESTO INTERESANTE SI USO FRIENDLY URLS? # Disallow: /*?* # Para que no siga los enlaces de mi página # #Impedimos el acceso a robots que no suelen hacer nada positivo User-agent: MSIECrawler Disallow: / User-agent: WebCopier Disallow: / User-agent: HTTrack Disallow: / User-agent: Microsoft.URL.Control Disallow: / User-agent: libwww Disallow: /