Wir hatten in der Vergangenheit einige schwerwiegende Probleme mit der (unglaublich) schlecht geschriebenen Spinne von Yahoo und haben sie daher blockiert. Marco Arment von Tumblr teilte uns am 31.08.2009 auch seine Frustrationen mit, was ein Faktor dafür war, dass wir sie blockierten.
[Yahoo's Spider] hat uns seit ungefähr 5:30 EST mit 70-200 Anfragen / Sekunde überflutet. Ich habe so etwas noch nie gesehen, auch nicht von ihren "experimentellen" Schurken, die uns in der Vergangenheit missbraucht haben. Das Verbot von Robots.txt reicht nicht aus: Ich muss sie auf Load-Balancer-Ebene nach IP blockieren. Da sie Stack Overflow in der Vergangenheit missbraucht haben, habe ich mir gedacht, dass Sie es wissen möchten.
Es sieht so aus, als wäre die Websuche von Yahoo "Powered by Bing!" jetzt. Das ist gut, denn wir hatten noch nie ein Problem mit Bings Spinne (auch bekannt als MSNBOT).
Ist die Yahoo-Suche nun die gleiche wie die Bing-Suche, oder sollten wir sie möglicherweise entsperren, wenn sie trotz aller Widrigkeiten aufgehört haben, so hart zu saugen?