Googlebot

Googlebot là tên gọi chung cho trình thu thập dữ liệu web của Google. Googlebot là tên gọi chung cho hai loại trình thu thập dữ liệu khác nhau: trình thu thập dữ liệu trên máy tính (Googlebot Desktop) – mô phỏng người dùng trên máy tính, và trình thu thập trên thiết bị di động (Googlebot Smartphone) – mô phỏng người dùng trên thiết bị di động.

Có thể cả Googlebot Desktop và Googlebot Smartphone đều sẽ thu thập dữ liệu trên trang web của bạn. Bạn có thể xác định loại phụ của Googlebot bằng cách xem chuỗi tác nhân người dùng trong yêu cầu. Tuy nhiên, cả hai loại trình thu thập dữ liệu này đều có cùng một mã sản phẩm (mã tác nhân người dùng) trong tệp robots.txt. Do đó, bạn không thể dùng tệp robots.txt để tùy ý nhắm mục tiêu đến Googlebot Smartphone (dành cho điện thoại thông minh) hoặc Googlebot Desktop (dành cho máy tính).

Nếu bạn đã chuyển đổi trang web sang chế độ ưu tiên lập chỉ mục trên thiết bị di động trên Google, thì phần lớn yêu cầu thu thập dữ liệu của Googlebot sẽ do trình thu thập dữ liệu dành cho thiết bị di động thực hiện, phần nhỏ còn lại sẽ do trình thu thập dữ liệu dành cho máy tính thực hiện. Đối với các trang web chưa chuyển đổi, phần lớn các lần thu thập dữ liệu sẽ do trình thu thập dữ liệu trên máy tính thực hiện. Trong cả hai trường hợp, trình thu thập phụ chỉ thu thập dữ liệu các URL mà trình thu thập chính đã thu thập dữ liệu.

Cách Googlebot truy cập trang web của bạn

Với hầu hết trang web, trung bình Googlebot sẽ không truy cập trang web của bạn nhiều hơn một lần trong vài giây. Tuy nhiên, do vấn đề trễ mạng nên có thể tốc độ truy cập trong những khoảng thời gian ngắn sẽ cao hơn một chút.

Chúng tôi đã thiết kế để có thể cho phép hàng nghìn máy chạy Googlebot cùng lúc nhằm cải thiện hiệu suất và quy mô tương ứng với sự phát triển của môi trường web. Ngoài ra, để giảm mức sử dụng băng thông, chúng tôi chạy nhiều trình thu thập dữ liệu trên các máy nằm gần những trang web mà các trình đó có thể thu thập dữ liệu. Vì thế nhật ký của bạn có thể hiển thị các lượt truy cập từ nhiều máy tại google.com và tất cả đều có tác nhân người dùng Googlebot. Mục tiêu của chúng tôi là thu thập dữ liệu trên tối đa các trang trên trang web của bạn trong phạm vi có thể trong mỗi lần truy cập mà không làm quá tải băng thông máy chủ của bạn. Nếu trang web của bạn không thể đáp ứng các yêu cầu thu thập dữ liệu của Google, thì bạn có thể yêu cầu thay đổi tốc độ thu thập dữ liệu.

Nhìn chung, Googlebot thu thập dữ liệu qua HTTP/1.1. Tuy nhiên, bắt đầu từ tháng 11 năm 2020, nếu cho rằng một trang web có thể thu được nhiều lợi ích từ việc thu thập dữ liệu qua HTTP/2, thì Google sẽ có thể thu thập dữ liệu trang đó qua HTTP/2 nếu trang hỗ trợ giao thức này. Việc này có thể giúp tiết kiệm tài nguyên điện toán (ví dụ như CPU, RAM) cho trang web và Googlebot, nhưng không ảnh hưởng đến việc lập chỉ mục hoặc xếp hạng trang web của bạn.

Để chọn không cho phép thu thập dữ liệu qua HTTP/2, hãy hướng dẫn máy chủ lưu trữ trang web của bạn phản hồi bằng mã trạng thái HTTP 421 khi Googlebot cố gắng thu thập dữ liệu trên trang web của bạn qua HTTP/2. Nếu việc này không khả thi, bạn có thể gửi tin nhắn cho nhóm Googlebot (mặc dù giải pháp này chỉ là tạm thời).

Chặn Googlebot truy cập trang web của bạn

Phương thức giữ bí mật một máy chủ web bằng cách không xuất bản các đường liên kết đến máy chủ đó hầu như không có hiệu quả. Ví dụ: ngay khi một người nào đó theo một đường liên kết từ máy chủ "bí mật" của bạn đến một máy chủ web khác, URL "bí mật" của bạn có thể xuất hiện trong thẻ liên kết giới thiệu và có thể được máy chủ web khác lưu trữ và xuất bản trong nhật ký liên kết giới thiệu của máy chủ đó. Tương tự như vậy, có nhiều đường liên kết đã lỗi thời và bị hỏng trên web. Mỗi khi ai đó phát hành một đường liên kết không chính xác đến trang web của bạn hoặc không cập nhật đường liên kết để phản ánh thay đổi trong máy chủ của bạn, Googlebot sẽ cố gắng thu thập dữ liệu trên một đường liên kết không chính xác từ trang web của bạn.

Bạn có thể lựa chọn một số cách để ngăn Googlebot thu thập dữ liệu nội dung trên trang web của bạn. Hãy lưu ý sự khác biệt giữa việc ngăn Googlebot thu thập dữ liệu một trang/ngăn Googlebot lập chỉ mục một trang và ngăn cả trình thu thập dữ liệu hoặc người dùng truy cập một trang.

Xác minh Googlebot

Trước khi bạn quyết định chặn Googlebot, hãy lưu ý rằng các trình thu thập dữ liệu khác thường giả mạo chuỗi tác nhân người dùng mà Googlebot sử dụng. Điều quan trọng là bạn phải xác minh được rằng yêu cầu gặp vấn đề thực sự đến từ Google. Cách tốt nhất để xác minh rằng một yêu cầu thực sự đến từ Googlebot là sử dụng quy trình tra cứu DNS ngược đối với IP nguồn của yêu cầu đó.

Googlebot và tất cả bot công cụ tìm kiếm có uy tín sẽ tuân theo các lệnh trong tệp robots.txt, nhưng một số người có ý đồ bất chính và kẻ gian lận lại không làm như vậy. Google tích cực ngăn chặn những kẻ dùng mánh khóe để tăng thứ hạng tìm kiếm. Nếu nhận thấy các trang hoặc trang web có mánh khóe tăng thứ hạng trong kết quả của Google Tìm kiếm, bạn có thể báo cáo mánh khóe đó cho Google.