Imagine você o quanto trabalhoso seria navegar, conhecer e ler todos os sites do mundo para fazer a indexação em sua lista e ordena-los de maneira organizada por relevância. Pois é, este é o trabalho dos crawlers do nosso tio Google, e a verdade, é que eles se esforçam bastante para conseguir rastrear tudo isso e hoje fazem de maneira eficiente, o grande desafio é conseguir um bom posicionamento entre centenas, milhares de resultados para as palavras-chaves relevantes para seu negócio, para isso existem diversas estratégias para lhe ajudar, mas hoje vamos falar a respeito da indexação, quais são os problemas e como melhorar a de seu site.

Ao criar um novo site ou adicionar novas seções, categorias, sub-categorias até mesmo páginas finais de produto em um e-commerce, nem todas as páginas necessariamente conseguiram ser indexadas. Para acompanhar e controlar estes dados é interessante analisar o nível de indexação de seu site, ou seja, quantas páginas seu site possui e quantas páginas seu site possui indexadas no Google, caso seu site não esteja completamente indexado, este pode ser um índice de que temos alguns probleminhas em nosso site. Para isso existem várias razões, como, por exemplo, uma página inacessível ao rastreador, não ter uma boa arquitetura de linkagem interna, não ter link juice suficiente e até mesmo penalidade.

Como analisar indexação

É muito simples obter estes dados básicos de indexação. Lembrando que os três principais mecanismos de buscas (Google, Bing e Yahoo) suportam a sintaxe básica para isso: site:seusite.com.br. A figura a baixo elucida um exemplo do que aparece no Google.

 

Vale ressaltar que manter um registro do nível de indexação ao longo do tempo, pode ajudá-lo a entender como as coisas estão andando.

Analisando taxa de Rastreamento

A taxa de rastreamento de seu site também está ligada diretamente a indexação de seu site. O Google fornece estes dados diretamente pelo Search Console e para acessar vá até o menu rastreamento e depois estatísticas de rastreamento. A figura abaixo mostra um exemplo do relatório – De cima para baixo, o primeiro gráfico apresenta quantas páginas foram rastreadas por dia, no segundo gráfico colhemos quantos quilobytes foram recebidos a partir de seu site e no terceiro gráfico qual o tempo médio para download (leitura completa) de uma página em média.

Interpretando estes dados, podemos reparar que este site está sendo otimizado, pois a partir de maio de 2016 tivemos um aumento de páginas rastreadas por dia, este é um indicador positivo para as classificações e indexação do site, e tivemos uma redução significativa de tempo de download.

Caso você cuide de um site grande, como um e-commerce, seria interessante colher e documentar os dados a cada quatro meses. Picos curtos não são motivos para preocupação, nem mesmo quedas periódicas, neste relatório o valioso é a tendência geral, faça comparativos de 2 em 2 e 4 em 4 meses.

Testando e acelerando indexação de novas páginas

Uma das maneiras para testar a indexação, leitura e rendereização de sua nova página, é realizar o envio das url's de novas páginas direto pelo search console pela ferramenta Buscar como o Google. A ferramenta é muito útil e permite que você valide se o Googlebot consegue acessar uma determinada url, como ele renderiza esta página e se existe algum problema, como um bloqueio por algum script que possa estar implementado na página e não permita a leitura.

Para ter acesso a tal funcionalidade basta clicar aqui e selecionar o domínio, caso você já esteja em seu search console, basta acessar no menu lateral Rastreamento >> Buscar como o Google. A imagem abaixo ilustra como é a página e como utilizar o envio de novas url's.

Vale ressaltar, caso você esteja utilizando um domínio http://www.seusite.com.br e tentar utilizar a ferramenta em um subdomínio ou https a ferramenta não irá funcionar. Neste caso será necessário fazer a confirmaçao deste subdomínio ou https para executar o teste. Após escolher se você quer validar apenas a leitura ou leitura e renderização, sua solicitação será cadastrada no histórico de buscas conforme imagem abaixo.

Após conclusão do envio o status deve ficar Parcial e basta você clicar em enviar ao indíce e selecionar se quer rastrear apenas esta url ou rastrear esta url e seus links diretos, após basta clicar em avançar, conforme imagem abaixo, caso queira ver detalhes sobre rastreamento ou renderização basta clicar em cima de sua solicitação.