# Rally de Moto - Robots.txt # Permitir indexación de contenido público User-agent: * Allow: / # Bloquear rutas privadas y administrativas Disallow: /dashboard/ Disallow: /api/ Disallow: /admin/ Disallow: /_next/ Disallow: /test- Disallow: /private/ Disallow: /user/ Disallow: /launch-session/ Disallow: /download/temp/ # Bloquear archivos de sistema Disallow: /*.json$ Disallow: /*.xml$ Disallow: /*.txt$ # Permitir específicamente ciertos archivos importantes Allow: /sitemap.xml Allow: /robots.txt Allow: /llms.txt Allow: /manifest.json # Configuración específica para bots de redes sociales User-agent: facebookexternalhit Allow: / User-agent: Twitterbot Allow: / User-agent: LinkedInBot Allow: / User-agent: WhatsApp Allow: / # Configuración para Google User-agent: Googlebot Allow: / Crawl-delay: 1 User-agent: Googlebot-Image Allow: / Disallow: /dashboard/ Disallow: /api/ # Configuración para Bing User-agent: Bingbot Allow: / Crawl-delay: 1 # Motores de busqueda generativos / asistentes de IA # Permitidos para que el contenido de eventos pueda ser citado con atribucion. User-agent: OAI-SearchBot Allow: / User-agent: ChatGPT-User Allow: / User-agent: GPTBot Allow: / User-agent: ClaudeBot Allow: / User-agent: Claude-User Allow: / User-agent: PerplexityBot Allow: / User-agent: Perplexity-User Allow: / User-agent: Google-Extended Allow: / User-agent: Applebot-Extended Allow: / User-agent: cohere-ai Allow: / User-agent: Bytespider Disallow: / # Host y Sitemaps Host: https://rallymoto.lat Sitemap: https://rallymoto.lat/sitemap.xml