Configura y genera robots.txt para tu sitio
Usar * para todos los rastreadores
# Haz clic en "Generar robots.txt" para ver la salida