Disallow robots from indexing /interact/ (#10666) · c4f2433300 - mastodon - code.as

Przeglądaj źródła

Disallow robots from indexing /interact/ (#10666)

This does not provide any new information and may just triple the number
of crawled pages

master^2

ThibG 5 lat temu

committed by

Eugen Rochko

rodzic

0db269f3dc

commit

c4f2433300

1 zmienionych plików z 1 dodań i 0 usunięć

Widok podzielony

							
								+ 1
								
								- 0
							
public/robots.txtWyświetl plik
								
			@@ -2,3 +2,4 @@
		
			User-agent: *
		
			Disallow: /media_proxy/
		
			Disallow: /interact/