About
robots.txt 是放在網站根目錄的純文字檔,主要用來告訴搜尋引擎哪些頁面可以或不能被抓取。基本語法如下:
makefile Copy Edit User-agent: * Disallow: /private/ Allow: / 這代表所有爬蟲不能訪問 /private/ 目錄,但其他部分可自由抓取。
sitemap.xml 則是一個 XML 格式的地圖檔,列出網站所有重要頁面,有助於搜尋引擎更有效地索引。你可以用工具如 Yoast SEO、Google Search Console 或手動編寫:
xml Copy Edit