# www.robotstxt.org/ # www.google.com/support/webmasters/bin/answer.py?hl=en&answer=156449 Sitemap: https://www.epoxia.com/sitemap.xml User-agent: * Disallow: /admin/ Disallow: /api/ Disallow: /checkout/ Disallow: /cart/ Disallow: /account/ Disallow: /_profiler/ Disallow: /*?sorting* Disallow: /search* # Crawlers IA — autorisés explicitement : objectif GEO de l'epic #106 # (contenu citable par les moteurs génératifs, pas seulement indexable SEO classique) # Liste limitée aux user-agents officiellement documentés par chaque éditeur — pas de nom # inventé pour les IA qui n'opèrent pas leur propre crawler (voir note Mistral plus bas). # OpenAI (ChatGPT) User-agent: GPTBot Allow: / User-agent: OAI-SearchBot Allow: / User-agent: ChatGPT-User Allow: / # Anthropic (Claude) User-agent: ClaudeBot Allow: / User-agent: Claude-Web Allow: / # Perplexity User-agent: PerplexityBot Allow: / User-agent: Perplexity-User Allow: / # Google (Gemini / IA générative — Googlebot classique déjà couvert par "User-agent: *") User-agent: Google-Extended Allow: / # Microsoft Copilot s'appuie sur l'index Bingbot, déjà couvert par "User-agent: *" User-agent: Bingbot Allow: / # Apple Intelligence User-agent: Applebot-Extended Allow: / # Meta AI User-agent: meta-externalagent Allow: / # Amazon (Alexa+ / Rufus) User-agent: Amazonbot Allow: / # ByteDance (Doubao) User-agent: Bytespider Allow: / # Common Crawl — jeu de données d'entraînement générique utilisé par de nombreux modèles # tiers (dont Mistral, qui ne publie pas de crawler dédié à ce jour — pas de user-agent # officiel "MistralBot" à autoriser, ce serait sans effet réel) User-agent: CCBot Allow: /