robots.txt Checker für Shopware & Shopify:
Lässt Ihr Shop die richtigen Crawler herein?
Eine einzige Zeile in der robots.txt entscheidet, ob Google Ihre Produkte findet, ob Filterseiten Ihr Crawl-Budget verbrauchen und ob ChatGPT, Claude, Gemini und Perplexity Ihren Shop empfehlen können. Fehler fallen oft erst auf, wenn Umsatz fehlt.
Der Checker erkennt Shopware 5, Shopware 6 und Shopify automatisch, liest Ihre robots.txt in Echtzeit und testet die Regeln an echten Seiten Ihres Shops.
Jetzt Ihre robots.txt prüfen
Geben Sie die Adresse Ihres Shops ein. Sie sehen sofort, welches Shopsystem erkannt wurde, welche Crawler hereinkommen und welche Regeln Probleme verursachen. Die vollständige Analyse mit korrigierter robots.txt erhalten Sie auf Wunsch als PDF per E-Mail.
Was Ihre robots.txt richtig machen muss.
Acht Bereiche, abgestimmt auf Shopware 5, Shopware 6 und Shopify. Jeder Bereich zeigt eine Stelle, an der eine falsche Regel Sichtbarkeit kostet.
Erreichbarkeit und Syntax
Antwortet Ihr Shop unter /robots.txt korrekt, oder liefert er Fehler, Weiterleitungen oder ungültige Zeilen, die Suchmaschinen anders auslegen als gedacht?
Google und Bing
Dürfen Googlebot und Bingbot Startseite, Kategorien und Produkte abrufen, oder sperrt eine Regel mehr als beabsichtigt?
KI-Crawler
Welche Crawler von ChatGPT, Claude, Gemini und Perplexity kommen herein? Getrennt nach Bots für das Training und Bots, die Ihren Shop in Antworten nennen.
Filter, Sortierung und Suche
Verbrauchen Filter-, Sortier- und Such-URLs Ihr Crawl-Budget? Geprüft mit den Parametern, die Shopware und Shopify tatsächlich erzeugen.
Ressourcen
Sind CSS, JavaScript oder Bilder gesperrt, die Google braucht, um Ihre Seiten richtig darzustellen?
Sitemap
Ist Ihre Sitemap angegeben und erreichbar, und enthält sie URLs, die Ihre robots.txt gleichzeitig sperrt?
noindex-Konflikte
Sind Seiten gesperrt, die ein noindex tragen? Dann sieht Google das noindex nie, und die Seite kann trotzdem im Index bleiben.
Echte Seiten im Test
Startseite, Kategorien und Produkte aus Ihrer Sitemap werden gegen jede Regel getestet. Sie sehen, welche Seiten betroffen sind und durch welche Zeile.
Wo die robots.txt in Shopware und Shopify meistens hakt.
Jedes Shopsystem erzeugt eigene URLs und hat eigene Stellen, an denen die robots.txt gepflegt wird. Genau dort entstehen die typischen Fehler.
Shopware 5
Viele Shopware-5-Shops tragen Regeln aus der Zeit vor KI-Crawlern, die nie angepasst wurden. Die robots.txt entsteht über ein Template im Theme. Wer den Umstieg auf Shopware 6 oder Shopify plant, setzt sie am besten gleich neu auf.
Shopware 6
Je nach Version und Setup liefert Shopware 6 keine oder nur eine allgemeine robots.txt. Bei mehreren Verkaufskanälen und Domains braucht jede Domain passende Regeln, sonst geraten Filterseiten oder falsche Sitemaps in den Crawl.
Shopify
Shopify erzeugt die robots.txt automatisch und sperrt bereits vieles sinnvoll. Anpassungen laufen über die Vorlage robots.txt.liquid im Theme. Häufigster Fehler: Eine angepasste Vorlage überschreibt die Standardregeln, oder Filter- und Tag-URLs von Collections bleiben offen.
Pauschal sperren kostet Sichtbarkeit.
Nicht jeder KI-Crawler hat dieselbe Aufgabe. Manche sammeln Inhalte für das Training von Sprachmodellen, andere rufen Ihren Shop ab, wenn ein Kunde in ChatGPT, Claude, Gemini oder Perplexity nach einem Produkt fragt. Wer alle KI-Bots sperrt, verschwindet auch aus diesen Antworten. Wer alle zulässt, gibt mehr frei als nötig.
Ein Beispiel: Sperren Sie Google-Extended, nutzt Google Ihre Inhalte nicht mehr für Gemini. Ihr Ranking in der Google-Suche bleibt davon unberührt. Der Checker zeigt für jeden Bot, ob er hereinkommt und was das für Ihren Shop bedeutet. Ob KI-Assistenten Ihren Shop auch technisch erreichen, prüft der KI-Bot-Checker.
Schnell einordnen oder gründlich prüfen lassen.
| Kostenlosrobots.txt Checker | robots.txt-Prüfung durch arboro | |
|---|---|---|
| Wer prüft | Automatische Prüfung | Experten aus dem SEO-/GEO-Team |
| Dauer | Wenige Sekunden | Mehrere Stunden Expertenarbeit |
| Datenbasis | robots.txt, Sitemap und öffentliche Seiten | Zusätzlich Server-Logs und Google Search Console |
| Ergebnis | Bewertung, wichtigste Befunde, PDF mit korrigierter robots.txt | Geprüfte Konfiguration für alle Domains und Verkaufskanäle |
| Umsetzung | Durch Sie oder Ihre Agentur | Direkt durch das Team von arboro |
robots.txt-Prüfung durch arboro
- Wer prüft
- Experten aus dem SEO-/GEO-Team
- Dauer
- Mehrere Stunden Expertenarbeit
- Datenbasis
- Zusätzlich Server-Logs und Google Search Console
- Ergebnis
- Geprüfte Konfiguration für alle Domains und Verkaufskanäle
- Umsetzung
- Direkt durch das Team von arboro
- Kostenlos
robots.txt Checker
- Wer prüft
- Automatische Prüfung
- Dauer
- Wenige Sekunden
- Datenbasis
- robots.txt, Sitemap und öffentliche Seiten
- Ergebnis
- Bewertung, wichtigste Befunde, PDF mit korrigierter robots.txt
- Umsetzung
- Durch Sie oder Ihre Agentur
Ihre robots.txt prüfen lassen.
Sie möchten wissen, ob Ihre robots.txt Such-Crawler versehentlich aussperrt oder KI-Crawlern mehr erlaubt als Google? Das Team von arboro prüft die Konfiguration Ihres Shopware- oder Shopify-Shops, gleicht sie mit Server-Logs und Search Console ab und setzt die Korrekturen direkt um.
)
Emmanuel Zouboulis
Head of SEO/GEO | Prokurist
)
René Härer
Head of Content
)
Daniel Böttcher
SEO/GEO-Manager
)
Sebastian Lörz
Technical Online Marketing
)
Andra Schmidt
Senior Content Managerin
)
Benjamin Breuer
Senior Content Manager
Die Menschen hinter Ihrer Analyse.
Hinter dem Checker steht das SEO- und GEO-Team von arboro. Die vollständige Analyse und jede weitere Prüfung verantworten Experten, die Shopware- und Shopify-Shops für Google und KI-Systeme optimieren, von der robots.txt bis zum Code.
Häufige Fragen zum robots.txt Checker.
Die robots.txt ist eine Textdatei im Hauptverzeichnis Ihres Shops, die Crawlern sagt, welche Bereiche sie abrufen dürfen. Suchmaschinen und die meisten KI-Crawler lesen sie vor dem Besuch. Sie steuert das Crawling, nicht die Indexierung: Eine gesperrte Seite kann trotzdem bei Google erscheinen, wenn andere Seiten auf sie verlinken.
Er prüft, ob Ihre robots.txt Suchmaschinen und KI-Crawler so durch Ihren Shop führt, wie Sie es wollen. Dazu erkennt er Ihr Shopsystem, wertet jede Regel aus und testet sie an echten Seiten aus Ihrer Sitemap. Ob KI-Assistenten Ihren Shop technisch erreichen, zeigt der KI-Bot-Checker. Wie gut Ihr Shop bei Google dasteht, prüft der SEO Commerce Scanner.
Weil allgemeine Tester die Eigenheiten dieser Systeme nicht kennen:
Shopware 5: robots.txt über ein Template im Theme, oft mit Regeln aus der Zeit vor KI-Crawlern
Shopware 6: eigene Filter-Parameter, mehrere Verkaufskanäle und Domains mit eigenen Regeln
Shopify: automatisch erzeugte robots.txt, Anpassungen über robots.txt.liquid
arboro arbeitet ausschliesslich mit diesen Systemen. Deshalb sind Befunde und die korrigierte robots.txt im Bericht genau darauf abgestimmt.
Ja, Prüfung und Kurzergebnis sind kostenlos und ohne Anmeldung. Für die vollständige Analyse als PDF mit korrigierter robots.txt brauchen Sie nur Ihre E-Mail-Adresse.
Das hängt davon ab, ob Sie in Antworten von ChatGPT, Claude, Gemini und Perplexity genannt werden wollen. Bots für das Training lassen sich in der Regel sperren, ohne dass Ihr Shop aus diesen Antworten verschwindet. Wer auch die Bots sperrt, die Inhalte für Antworten abrufen, wird dort nicht mehr empfohlen. Der Bericht zeigt für jeden Bot die Folge.
Der Checker liest nur öffentlich erreichbare Dateien und Seiten Ihres Shops, wie es auch Suchmaschinen tun. Ihre E-Mail-Adresse wird nur für den Versand der Analyse verwendet. Den Newsletter erhalten Sie nur, wenn Sie ihn ausdrücklich auswählen.
Die vollständige Analyse enthält eine korrigierte robots.txt für Ihr Shopsystem und zeigt, wo sie hingehört. Vieles kann Ihre Shop-Agentur direkt umsetzen. Wenn Sie Unterstützung wünschen, übernimmt das Team von arboro Prüfung und Umsetzung im Rahmen der SEO für Onlineshops, auch wenn Ihre Shop-Agentur bleibt.
Ihr Ergebnis liegt vor. Und jetzt?
Eine falsche Zeile ist schnell korrigiert, wenn man weiss, welche. Im Erstgespräch besprechen Sie mit einem Experten, welche Befunde in Ihrem Shop am meisten kosten und wie Sie sie beheben.
)
)
)
)
)
)
)
)
)
)