AIクローラー制御2026:robots.txt設計ガイド
GPTBot・Anthropic-AI・PerplexityBot・Googlebot-Extended の正式 User-agent 名と許可/拒否の判断フレームワーク、コピペで使える robots.txt テンプレ3パターン。
AI開発の検証室 編集部
読了時間 約21分
読み込み中...
1 件の記事が見つかりました
GPTBot・Anthropic-AI・PerplexityBot・Googlebot-Extended の正式 User-agent 名と許可/拒否の判断フレームワーク、コピペで使える robots.txt テンプレ3パターン。