Plik robots.txt jest jednym z pierwszych plików, sprawdzanym przez roboty indeksujące witrynę. W pliku tym definiowane są informacje dotyczące części serwisu, których nie chcesz udostępniać robotom. Jego odpowiednia konfiguracja wpłynie...