Robots.txt là một loại tệp đặc biệt không phải là HTML hay bất kỳ thiết bị gì gần giống. Mục đích của tệp robots.txt là để cho các phương tiện tìm kiếm biết content nào trên website của bạn có lẽ được các bot thu thập và lập chỉ mục.
Sitemap robots txt
Sitemap txt
Mục đích của file Robots.txt là gì? Khi các công cụ tìm tìm kiếm tin tức về web site của bạn, tệp Robots.txt thường là nơi đầu tiên họ search. Tệp này đưa cho các phương tiện search biết những gì tốt nhất nên lập chỉ mục và những gì không cần lập chỉ mục. Bạn cũng thường xuyên hỗ trợ vị trí trang web của mình trong sơ đồ web site XML. công cụ search gửi “chương trình”, “rô-bốt” hoặc “trình thu thập dữ liệu” để craw dữ liệu website của bạn, theo hướng dẫn cụ thể trong tệp Robots.txt (nếu tệp “rô-bốt” không được gửi, phương tiện search sẽ không gửi ). .txt chỉ ra rằng điều này không thể lập chỉ mục). 
Sitemap robot
File Robots.txt nằm ở đâu? Tệp sơ đồ web site robots.txt thường nằm trong thư mục gốc. Bạn có lẽ tiện lợi tạo một tệp trống và đặt tên là Robots.txt. Điều này sẽ Giúp bạn tránh các lỗi website và hoàn tất đa số công việc của mình. công cụ search thu thập dữ liệu các trang website đẹp. Ví dụ trang web bạn là sieutocviet.com thì file robots sẽ là sieutocviet.com/robots.txt File Robots mặc định của wordpress:
User-agent: * Disallow: /wp-admin/ Disallow: /wp-includes/
Hoặc Bạn thường tham khảo lập trình này
User-agent: * Disallow: /wp-admin/ User-agent: * Allow: / Disallow: /*?* Disallow: /*/?* Sitemap: https://web.sieutocviet.com/sitemap.xml
