PrestaShop Inteligência Artificial

AI Crawler Manager: PrestaShop 8 e 9

Retome o controlo dos robôs de IA que recolhem o conteúdo da sua loja

Os crawlers de IA aspiram as suas fichas de produto para treinar os LLM, alimentar os assistentes conversacionais e abastecer os motores de pesquisa de IA. Com o AI Crawler Manager, retoma o controlo: mais de 30 robôs de IA seguidos e identificáveis com um clique, construtor visual de robots.txt, bloqueio HTTP 403 para os robôs que ignoram o robots.txt e estatísticas em tempo real do rastreio por IA.

PrestaShop 8 PrestaShop 9 Multilingue Multiloja RGPD
  • Reembolso em 30 dias
  • 12 meses de atualizações
  • Suporte em 24h
www.datafirefly.com/pt/
Gestão dos crawlers de IA e das regras de acesso no PrestaShop
v1.0.0 · atualizado 2026-05-26
O que faz

A versão curta.

01

Mais de 30 robôs de IA seguidos em 2026

OpenAI (GPTBot, ChatGPT-User, OAI-SearchBot), Anthropic (ClaudeBot, Claude-Web, anthropic-ai), Google-Extended, Apple (Applebot-Extended), Perplexity, ByteDance (Bytespider), Meta (Meta-ExternalAgent), Mistral, xAI, Cohere, Amazon, Common Crawl, You.com, Diffbot, DuckAssistBot, Kagi e muitos mais.

02

Construtor visual de robots.txt

Passe cada robô para permitido ou bloqueado com um interruptor, aplique uma predefinição com um clique (bloquear treino, estrito, bloquear tudo, permitir tudo, bloquear Bytespider), pré-visualize o robots.txt em direto e escreva o ficheiro sem mexer no resto.

03

Bloqueio HTTP 403

Alguns robôs ignoram o robots.txt (Bytespider, anthropic-ai antigo). O bloqueio HTTP devolve um 403 antes mesmo da renderização da página, poupa recursos do servidor e impede realmente a recolha.

04

Bloqueio seletivo por caminho

Permita, por exemplo, o ClaudeBot nas fichas de produto mas bloqueie-o no blogue. Padrões com asterisco e fim de cadeia, ao estilo do robots.txt clássico.

05

Estatísticas de rastreio

Painel com indicadores (visitas a 30 dias, robôs distintos, acessos bloqueados), gráfico de tráfego diário, principais robôs, principais URL visitados e registo das visitas recentes com IP e estado.

06

Importação dos registos do Apache e do Nginx

Lê o ficheiro de registo de acessos em formato combined para contabilizar retroativamente as visitas de IA, mesmo as anteriores à instalação. Análise incremental com deslocamento guardado: sem duplicados e com releituras seguras. Deteção automática dos caminhos correntes.

A versão longa

Tudo o que quer saber antes de instalar.

Uma análise detalhada de como o AI Crawler Manager: PrestaShop 8 e 9 funciona, porque o construímos assim e o raciocínio por trás das funcionalidades acima.

§ 01

Porquê gerir os robôs de IA em 2026

Em dois anos, os crawlers de IA passaram de curiosidade a maior consumidor de largura de banda em muitos sites de comércio eletrónico. O GPTBot da OpenAI, o ClaudeBot da Anthropic, o Google-Extended, o Applebot-Extended, o PerplexityBot, o Bytespider da ByteDance e mais duas dezenas aspiram diariamente as suas fichas de produto, descrições, preços, avaliações de clientes e artigos de blogue. Três utilizações: treinar os futuros grandes modelos de linguagem, alimentar em tempo real as respostas dos assistentes conversacionais (ChatGPT, Claude, Perplexity) e abastecer os novos motores de pesquisa de IA.

§ 02

O problema do robots.txt manual

Bloquear um robô de IA no robots.txt exige conhecer o user-agent exato (por vezes vários por editor, alguns a mudar sem aviso), manter essa lista atualizada e perceber que nem todos os robôs respeitam o robots.txt. O Bytespider é conhecido por o ignorar, e o anthropic-ai antigo só o respeita parcialmente. Sem uma ferramenta dedicada, o administrador anda entre ficheiros de texto, documentação dispersa e registos do servidor.

§ 03

O que o AI Crawler Manager faz

O módulo instala mais de 30 robôs de IA pré-configurados com os user-agents corretos em maio de 2026, a documentação oficial e a categoria de utilização (treino, assistente, pesquisa, rastreio). O administrador permite ou bloqueia cada robô com um interruptor visual, aplica uma predefinição com um clique, pré-visualiza o robots.txt resultante e escreve-o sem risco, graças às marcas sentinela que preservam as diretivas manuais existentes.

§ 04

Bloqueio HTTP para os robôs renitentes

Para os robôs que ignoram o robots.txt, o hook actionDispatcherBefore deteta o user-agent logo no primeiro pedido e devolve um código HTTP 403 antes de qualquer processamento do PrestaShop. O servidor poupa ciclos de CPU, a base de dados não é consultada e o robô fica mesmo bloqueado.

§ 05

Estatísticas com duas fontes

Primeira fonte: o acompanhamento em tempo real pelo hook do PrestaShop, que regista cada visita de IA detetada com URL, IP, user-agent, estado HTTP e data e hora. Segunda fonte: a importação do ficheiro de registo de acessos do Apache ou do Nginx em formato combined, com análise incremental segura (deslocamento em bytes guardado, sem releituras duplicadas). O módulo deteta automaticamente os caminhos mais comuns nos alojamentos.

§ 06

Granularidade por caminho

Para os casos em que quer autorizar um robô apenas em certas zonas (por exemplo, a Anthropic nas fichas de produto para que sejam recomendadas no Claude, mas não no blogue, para não ceder o seu conteúdo editorial), o separador Regras permite definir autorizações ou proibições por caminho de URL, com padrões de asterisco e fim de cadeia, exatamente como num robots.txt clássico.

§ 07

Arquitetura sólida

PSR-4 com namespace DataFirefly/AiCrawlerManager, autoloader próprio incluído (sem composer install na implantação), 5 tabelas em utf8mb4 com índices adequados, 6 controladores de administração em AdminParentConfigure, templates Smarty separados, CSS e JavaScript minimalistas (gráfico em canvas nativo, sem dependências externas) e traduções incluídas. Compatível com o PrestaShop 8.0 a 9.x através do ModuleAdminController legacy.