Sümptom
- Sinu e-pood ei ilmu kunagi ChatGPT, Perplexity ega Copiloti vastustesse — isegi sinu enda brändinime järgi otsides.
https://sinupood.ee/robots.txtsisaldab ridu naguUser-agent: GPTBot, millele järgnebDisallow: /, või üldistUser-agent: *+Disallow: /.- Aastatel 2024–2025 paigaldati turva-, SEO- või „AI-blokeerija“ plugin, mis lisas need reeglid vaikselt.
Miks see loeb
AI-assistendid kasutavad veebilehtede lugemiseks ja tsiteerimiseks eraldi roboteid: OAI-SearchBot (ChatGPT otsinguvastused), GPTBot (OpenAI treenimine ja osaliselt päringud), PerplexityBot, ClaudeBot, Google-Extended (Gemini vastuste alus) ja Bingbot (Copilot). Kui robots.txt need keelab, ei laadi nad sinu lehti — ja poodi, mida ei saa lugeda, ei saa ka soovitada.
Paljud WordPressi „blokeeri AI“ pluginad sihivad kõiki neid roboteid korraga. Uudisteportaalile, kes muretseb treeningandmete pärast, võib see olla mõistlik; e-poe jaoks tähendab see eemaldamist kõige kiiremini kasvavast ostuvalmis klientide allikast.
Kõige kahjulikum on just OAI-SearchBoti blokeerimine: see on robot, mis toidab ChatGPT ostu- ja otsinguvastuseid, mitte treenimist.
Kuidas ise kontrollida
- Ava brauseris
https://sinupood.ee/robots.txt. Otsi gruppe, mis nimetavadGPTBot,OAI-SearchBot,ChatGPT-User,PerplexityBot,ClaudeBot,Claude-SearchBot,Google-Extended,CCBotvõiBingbotkoos reegligaDisallow: /. - Kontrolli üldgruppi:
User-agent: *koosDisallow: /blokeerib kõik, ka Google’i. - Käivita allpool tasuta Aivoma kontroll — see parsib robots.txt iga AI-roboti jaoks ja testib ka, kas server neid võrgu servas (edge) läbi laseb.
Kuidas parandada
- Leia, kes faili kirjutab. WordPress genereerib robots.txt virtuaalselt; Rank Math (SEO → General → Edit robots.txt), Yoast (Tools → File editor), All in One SEO ja mitmed turvapluginad võivad seda üle kirjutada. Kui veebijuurikas on füüsiline
robots.txt, on see kõigi pluginate suhtes ülimuslik. - Eemalda AI-robotite keelureeglid või asenda need selgesõnaliste lubadega. Turvaline baas WooCommerce e-poele:
User-agent: *·Disallow: /wp-admin/·Disallow: /cart/·Disallow: /checkout/·Disallow: /my-account/·Disallow: /*?add-to-cart=·Allow: /wp-admin/admin-ajax.php·Sitemap: https://sinupood.ee/sitemap_index.xml- Ära keela
/?s=,/product/,/product-category/ega oma pildikausta; assistendid ja Google Shopping vajavad tootelehti ja pilte. - Kui soovid treeningrobotid eemal hoida, kuid jääda nähtavaks, luba
OAI-SearchBot,ChatGPT-User,PerplexityBot,Claude-SearchBotjaBingbotning keela ainultGPTBot,CCBotjaGoogle-Extended. Pane tähele, et Google-Extended juhib Gemini vastuste alust, nii et selle blokeerimine võib maksta Gemini/AI Mode’i mainimisi. - Pärast salvestamist ava robots.txt uuesti privaataknas (vahemälu!) ja käivita kontroll uuesti. Robotid võtavad muudatused üle mõne päevaga.