Infos zur Kontrolle über Crawling und Indexierung auf code.google.com

Dienstag, 14. Dezember 2010

Wisst ihr, wie der Google Crawler, Googlebot, mit sich widersprechenden Anweisungen in eurer robot.txt-Datei umgeht? Wisst ihr, wie die Indexierung einer PDF-Datei verhindert werden kann? Kennt ihr das Lieblingslied des Googlebot? Anworten auf diese Fragen (ok, die letzte einmal ausgenommen :)), findet ihr auf code.google.com. Es gibt dort natürlich noch mehr Informationen darüber, wie ihr das Crawling und die Indexierung eurer Website beeinflußen könnt.

Im Moment sind die Texte zwar nur auf Englisch vorhanden, aber ein Blick lohnt sich auf jeden Fall:

Controlling crawling and indexing




Webmaster können sich hier über robots.txt-Dateien, Robots-Meta-Tags und X-Robots-Tag-HTTP-Header informieren. Falls ihr Fragen und Kommentare habt, schreibt uns im Webmaster-Forum !

Controlling crawling and indexing now documented on code.google.com (English version)

Post von Jonathan Simon, Webmaster Trends Analyst (Übersetzung von Jörg Pacher, Search Quality Team)