Đang chuẩn bị liên kết để tải về tài liệu:
Robots.txt những điều cần biết

Không đóng trình duyệt đến khi xuất hiện nút TẢI XUỐNG Tải xuống

Robots.txt những điều cần biết Một trong những điều quan trọng để web site của bạn có thể đạt High ranking (thứ hạng cao) trong các cỗ máy tìm kiếm là bạn phải xây dựng cho mình một file Robots.txt. Vậy file Robots.txt là gì? Khi một search engine tìm đến (nguyên văn Crawler) Website nào đó, nó sẽ tìm một file đặc biệt trước tiên, đó là file robots.txt. File robots.txt cho search engine đó biết rằng, Website này có thể index hoặc không (tùy theo lệnh được viết trong file robots.txt) | T-U 1 1 1 1 1 Ầ 1 Á. Robots.txt những điêu cân biêt Một trong những điêu quan trọng để web site của bạn có thể đạt High ranking thứ hạng cao trong các cỗ máy tìm kiêm là bạn phải xây dựng cho mình một file Robots.txt. Vậy file Robots.txt là gì Khi một search engine tìm đến nguyên văn Crawler Website nào đó nó sẽ tìm một file đặc biệt trước tiên đó là file robots.txt. File robots.txt cho search engine đó biết rằng Website này có thể index hoặc không tùy theo lệnh được viết trong file robots.txt . Thực chất file robots.txt là một tập tin văn bản đơn giản không chứa mã HTML được đặt trong thư mục gốc của web site ví dụ http www.example .com robots.txt. Vậy làm thế nào để tạo ra một file robots.txt Rất đơn giản bạn có thể mở chương trình Notepad hay bất cứ chương trình soạn thảo văn bản nào lưu file với tên robots.txt là xong. Các dòng lệnh trong file này có cấu trúc như sau User-agent googlebot Disallow cgi-bin Trong đó User-agent là đại diện của một search engine Googlebot là spider của Google. Trong ví dụ này chỉ các spider của Google là được phép index web site. Disallow là không cho phép thực hiện điều gì đó. ở ví dụ trên là không cho phép các spider index thư mục cgi-bin trong web site. Một ví dụ nữa User-agent googlebot Disallow support Tất cả các trang nằm trong thư mục support hay support-desk sẽ không được index. Nếu bạn muốn tất cả các search engine có thể index web site của bạn nhưng không được index các trang trong thư mục cgi-bin thì sử dụng lệnh sau User-agent Disallow cgi-bin Tk. Ti Ă i r A Những điêu nên tránh