Google Webmaster-Tools können es sehen, aber ich kann es nicht finden. Irgendeine Idee, wie es generiert wird oder wo es die Dateistruktur ist? Ich sehe die Datei nicht in meinem Stammverzeichnis. Meine Website befindet sich unter http://mikewills.me und die URL der robots.txt-Datei lautet http://mikewills.me/robots.txt .
Am Ende indiziert Google meine Website nicht und ich versuche herauszufinden, wie die robots.txt so bearbeitet werden kann, dass die Indizierung zulässig ist. Ich habe die Datenschutzoption geändert, um die Indizierung zuzulassen, aber die robots.txt wurde dadurch nicht aktualisiert.