# ============================================
# robots.txt - 允许 AI 爬虫访问

# 1. 传统搜索引擎（必须允许）
# ============================================
User-agent: Googlebot
Allow: /

User-agent: Bingbot
Allow: /

# ============================================
# 2. OpenAI 系列（ChatGPT / SearchGPT）
# ============================================
User-agent: GPTBot
Allow: /

User-agent: OAI-SearchBot
Allow: /

User-agent: ChatGPT-User
Allow: /

# ============================================
# 4. Google AI（Gemini 训练）
# ============================================
User-agent: Google-Extended
Allow: /

# ============================================
# 5. Perplexity AI
# ============================================
User-agent: PerplexityBot
Allow: /

User-agent: Perplexity-User
Allow: /

# ============================================
# 6. 其他主要 AI 爬虫
# ============================================
User-agent: Meta-ExternalAgent
Allow: /

User-agent: Applebot-Extended
Allow: /

User-agent: Amazonbot
Allow: /

User-agent: DuckAssistBot
Allow: /

User-agent: Bytespider
Allow: /

User-agent: CCBot
Allow: /

User-agent: YouBot
Allow: /

User-agent: QwenBot
Allow: /

# ============================================
# 7. 默认规则（允许所有其他爬虫）
# ============================================
User-agent: *
Allow: /

# ============================================
# 8. 屏蔽敏感目录（根据需要调整）
# ============================================
User-agent: *
Disallow: /admin/
Disallow: /wp-admin/
Disallow: /api/
Disallow: /login/

# ============================================
# 9. Sitemap 位置
# ============================================
Sitemap: https://www.kuaxintong.com/sitemap.xml