Disallow robots from indexing /interact/ (#10666) · c4f2433300 - mastodon - code.as

Quellcode durchsuchen

Disallow robots from indexing /interact/ (#10666)

This does not provide any new information and may just triple the number
of crawled pages

master^2

ThibG vor 5 Jahren

committed by

Eugen Rochko

Ursprung

0db269f3dc

Commit

c4f2433300

1 geänderte Dateien mit 1 neuen und 0 gelöschten Zeilen

Geteilte Ansicht

							
								+ 1
								
								- 0
							
public/robots.txtDatei anzeigen
								
			@@ -2,3 +2,4 @@
		
			User-agent: *
		
			Disallow: /media_proxy/
		
			Disallow: /interact/