Robots.Txt là dạng tập tin đặc biệt không phải là html hay một loại nào khác. Mục đích của việc có file robots.Txt là khai báo cho công cụ search biết rằng những content nào trên trang web của bạn được cho phép các bot search và lập chỉ mục.

MỤc ĐÍch cỦa file robots.Txt lÀ gÌ?

Khi có một công cụ search thông báo trang web của bạn, điều đầu tiên mà nó search đa số là file Robots.Txt. File này sẽ nói với công cụ search những gì cần và không cần lập chỉ mục. Nó cũng có lẽ chỉ ra vị trí trang web của bạn trên xml sitemap. Sau đó các công cụ search sẽ gửi “bot”, “robot” hoặc “spider” để thu thập thông báo trang web của bạn theo giống như có các hướng dẫn của file robots.Txt (các công cụ search sẽ không gửi nếu file robot.Txt nói với họ là không thể chỉ mục).

File robots.Txt nẰm Ở ĐÂu?

File robots.TxtCó lẽ nằm ở thư mục gốc của bạn, bạn có lẽ lợi ích tạo một file trống và đặt tên là robots.Txt, điều này giúp bạn giảm thiểu được các lỗi cho trang web cùng lúc cho phép đa số các công cụ search thu thập thông báo về trang web của bạn. Ví dụ trang web bạn là sieutocviet.Com thì file robots sẽ là sieutocviet.Com/robots.Txt