Alle Funktionen

KI-Crawler: Welche KI-Bots Ihre Website lesen, und welche Seiten

Verbinden Sie Cloudflare und sehen Sie jeden Besuch von KI-Crawlern auf Ihrer Website: wenn eine KI eine Seite liest, um jemandem zu antworten, wenn eine Suchmaschine sie indexiert, wenn ein Modell sie fürs Training sammelt. Seite für Seite, neben den Zitierungen, die jede Seite erhält.

Kostenlos testen
KI-Crawler · letzte 7 Tage

Antwort-Abrufe

312

Suchindexierung

1.140

Trainings-Crawls

2.486

Meistbesuchte Seiten

/pricing4189-mal zitiert
/lemlist-vs-instantlyErstellt2364-mal zitiert
/blog/cold-email-guide191nicht zitiert

Aus Cloudflare, jede Nacht synchronisiert.

Das Wichtigste in Kürze

  • KI-Bots besuchen Ihre Website aus drei verschiedenen Gründen: um eine Seite zu lesen, während sie jemandem antworten, um sie in einen KI-Suchindex aufzunehmen, oder um sie für das Training eines Modells zu sammeln. Mentionable zählt jede Art getrennt.
  • Die Seite KI-Crawler zeigt jeden Besuch im Zeitraum, den Verlauf pro Tag, die am häufigsten gecrawlten Seiten mit der Anzahl ihrer Zitierungen in KI-Antworten, die Besuche pro Bot und die Fehler, die Ihre Website an KI-Bots ausgeliefert hat.
  • Für eine mit Mentionable veröffentlichte Seite verfolgen Sie die Zeit von der Veröffentlichung bis zum ersten KI-Besuch und dann bis zur ersten Zitierung.
  • Die Besuche stammen aus Ihrem Cloudflare-Konto, über eine reine Leseverbindung. Der Verlauf beginnt 7 Tage vor der Verbindung und wird danach jede Nacht synchronisiert.
  • Diese Seite behandelt Bots. Menschliche Besucher, die aus einer KI-Antwort heraus klicken, finden Sie auf der Seite KI-Besuche, gelesen aus Google Analytics.

Sie haben vor zwei Wochen eine Vergleichsseite veröffentlicht. Ihr Tracking zeigt, dass noch keine KI-Suchmaschine sie zitiert. Das kann passieren. Aber eine Frage kann Ihnen niemand beantworten: Hat überhaupt ein KI-Crawler sie gelesen?

Hat ChatGPT die Seite nie geöffnet, liegt das Problem nicht an Ihrem Inhalt. Die Seite war schlicht nie im Rennen.

Was zeigt die Seite KI-Crawler?

Mentionable liest die Besuche, die KI-Bots auf Ihrer Website machen, und zeigt auf einer Seite, wer gekommen ist, was gelesen wurde und wozu es geführt hat.

Vier Zahlen oben. Die gesamten Besuche von KI-Bots im Zeitraum, verglichen mit dem vorherigen, dann dieselben Besuche aufgeteilt in Antwort-Abrufe, Suchindexierung und Trainings-Crawls.

Besuche im Zeitverlauf. Ein Diagramm pro Tag und pro Besuchsart. Orange Linien markieren die Tage, an denen Sie eine Seite veröffentlicht oder eine Maßnahme protokolliert haben. So vergleichen Sie vorher und nachher, ohne zu raten.

Die am häufigsten gecrawlten Seiten. Jede Seite, die KI-Bots geladen haben, mit ihren Besuchen, ihren Antwort-Abrufen, der Anzahl ihrer Zitierungen in KI-Antworten auf Ihre getrackten Fragen und dem Tag ihres letzten Besuchs. Mit Mentionable veröffentlichte Seiten tragen eine Markierung. Sie können nach einer Seite suchen oder nach dem HTTP-Code filtern, den Ihre Website ausgeliefert hat.

Besuche pro Bot. Welche Bots gekommen sind, und wie oft. Filter zeigen nur ein Unternehmen (OpenAI, Anthropic, Perplexity…) oder einen Bot.

An KI-Bots ausgelieferte Fehler. Die Seiten, die einem KI-Bot mit einem Fehler geantwortet haben. Eine Seite, die nicht gelesen werden kann, kann nicht zitiert werden.

Was sind die drei Arten von KI-Bot-Besuchen?

Nicht jeder KI-Besuch bedeutet dasselbe. Deshalb fasst Mentionable sie nie zu einer einzigen Schönwetterzahl zusammen.

  • Antwort-Abrufe. Eine KI hat die Seite abgerufen, während sie jemandem antwortete: ChatGPT-User, Claude-User, Perplexity-User. Hinter dem Besuch steht eine echte Frage. Das ist das stärkste Signal für eine Antwort, die auf Ihrer Seite aufbaut.
  • Suchindexierung. Eine Suchmaschine nimmt die Seite in ihren Suchindex auf: OAI-SearchBot, Claude-SearchBot, PerplexityBot, Applebot. Ohne Indexierung kann die Seite in Antworten nicht auftauchen.
  • Trainings-Crawls. Ein Unternehmen sammelt die Seite, um künftige Modelle zu trainieren: GPTBot, ClaudeBot, Bytespider, CCBot. Kein direkter Einfluss auf die heutigen Antworten.

Eine Seite mit vielen Trainings-Crawls und keinen Antwort-Abrufen ist den Modellen bekannt, aber noch führt keine Frage zu ihr.

Welche KI-Bots trackt Mentionable?

Die Bots der Unternehmen, deren Assistenten Ihre Kunden nutzen:

Unternehmen Bots
OpenAI GPTBot, OAI-SearchBot, ChatGPT-User
Anthropic ClaudeBot, Claude-SearchBot, Claude-User
Perplexity PerplexityBot, Perplexity-User
Mistral MistralAI-User
DuckDuckGo DuckAssistBot
Apple Applebot
Amazon Amazonbot
Meta Meta-ExternalAgent, Meta-ExternalFetcher
ByteDance Bytespider
Common Crawl CCBot

Wie lange dauert es, bis eine neue Seite gelesen und dann zitiert wird?

Öffnen Sie eine beliebige Seite aus der Tabelle, und Sie sehen ihre ganze Geschichte: Besuche pro Tag, die an KI-Bots ausgelieferten HTTP-Codes und die Suchmaschinen, die sie zitieren.

Für eine mit Mentionable veröffentlichte Seite stellt eine Zeitleiste drei Daten nebeneinander: die Veröffentlichung, den ersten KI-Besuch (und welcher Bot ihn gemacht hat) und die erste Zitierung (und welche Suchmaschine sie geliefert hat), jeweils in Tagen nach der Veröffentlichung gezählt. Ist ein Schritt noch nicht eingetreten, sagt die Zeitleiste das auch.

So unterscheiden Sie eine Seite, die darauf wartet, gefunden zu werden, von einer Seite, die gelesen und trotzdem nicht ausgewählt wurde.

Wie verbinde ich Cloudflare?

Ihre Website muss über Cloudflare mit aktiviertem Proxy ausgeliefert werden, der orangen Wolke. Eine Website, die Cloudflare nur für DNS nutzt, liefert keine Besuche.

  1. Öffnen Sie KI-Crawler in Ihrem Projekt und klicken Sie auf Cloudflare verbinden.
  2. Bestätigen Sie den reinen Lesezugriff in Cloudflare. Er liest Ihre Zonen und deren Analysen, sonst nichts.
  3. Wählen Sie die Zone, die Ihre Website ausliefert.

Mentionable ruft dann die Besuche der letzten 7 Tage ab, was wenige Sekunden dauert, und synchronisiert danach jede Nacht. Unten auf der Seite können Sie die Zone wechseln, neu verbinden oder die Verbindung trennen. Das Trennen stoppt die Synchronisierung und behält den Verlauf.

Was ist der Unterschied zwischen KI-Crawlern und KI-Traffic?

KI-Crawler sind Bots. KI-Traffic sind Menschen.

Die Seite KI-Crawler zählt die Besuche, mit denen KI-Bots Ihre Seiten lesen, indexieren oder sammeln, aus Cloudflare. Die Seite KI-Besuche zählt die Menschen, die auf einen Link in einer KI-Antwort klicken und auf Ihrer Website landen, aus Google Analytics. Das eine zeigt Ihnen, ob die Suchmaschinen Sie lesen, das andere, ob ihre Antworten Ihnen Besucher schicken.

Kann meine eigene KI die Crawler-Daten lesen?

Ja, über den MCP-Server von Mentionable. Die Tools get_ai_crawler_overview, list_ai_crawler_pages, get_ai_crawler_page und list_ai_crawler_visits liefern dieselben Besuche, nach Art aufgeteilt, abgeglichen mit den Zitierungen jeder Seite, mit der Zeit von der Veröffentlichung bis zum ersten Besuch und zur ersten Zitierung für mit Mentionable veröffentlichte Seiten.

Welche Pläne enthalten das KI-Crawler-Tracking?

Alle, und auch die 7-tägige kostenlose Testphase. Einzige Voraussetzung ist eine Website, die über Cloudflare ausgeliefert wird. Teammitglieder mit reinem Lesezugriff sehen die Seite, sobald jemand mit Bearbeitungsrechten sie verbunden hat.

Erwähnt die KI Ihre Marke?

Starten Sie einen kostenlosen Scan und sehen Sie, wo Sie bei ChatGPT stehen.

Kostenloser KI-Scan

Weiterlesen

Häufig gestellte Fragen

Welche KI-Bots besuchen meine Website?

Die großen KI-Unternehmen betreiben jeweils mehrere Bots. OpenAI betreibt GPTBot, OAI-SearchBot und ChatGPT-User. Anthropic betreibt ClaudeBot, Claude-SearchBot und Claude-User. Perplexity betreibt PerplexityBot und Perplexity-User. Mentionable zählt außerdem MistralAI-User, DuckAssistBot, Applebot, Amazonbot, Meta-ExternalAgent, Meta-ExternalFetcher, Bytespider und CCBot. Sobald Ihre Website verbunden ist, zeigt die Seite KI-Crawler, welche gekommen sind und welche Seiten sie gelesen haben.

Was ist der Unterschied zwischen ChatGPT-User und GPTBot?

ChatGPT-User ruft eine Seite ab, während ChatGPT jemandem antwortet: Hinter dem Besuch steht eine echte Frage. GPTBot sammelt Seiten, um künftige OpenAI-Modelle zu trainieren, und hat keinen direkten Einfluss auf die heutigen Antworten. Mentionable nennt die erste Art Antwort-Abruf und die zweite Trainings-Crawl und zählt sie getrennt, ebenso wie Bots zur Suchindexierung wie OAI-SearchBot.

Brauche ich Cloudflare, um KI-Crawler zu tracken?

Ja. Mentionable liest die Besuche von KI-Bots aus Cloudflare. Ihre Website muss also über Cloudflare mit aktiviertem Proxy (der orangen Wolke) ausgeliefert werden. Eine Website, die Cloudflare nur für DNS nutzt, liefert keine Besuche. Läuft Ihre Website nicht über Cloudflare, erklärt die Seite, wie Sie sie verbinden, und bleibt bis dahin leer.

Ist die Cloudflare-Verbindung sicher?

Die Verbindung ist rein lesend: Sie liest Ihre Zonen und deren Analysen und ändert nichts an Ihrer Website oder Ihren Cloudflare-Einstellungen. Sie können sie jederzeit in Cloudflare widerrufen oder in Mentionable trennen. Das Trennen stoppt die nächtliche Synchronisierung und behält den bereits abgerufenen Verlauf.

Wie weit reicht der Verlauf der KI-Crawler zurück?

Beim Verbinden ruft Mentionable die Besuche der letzten 7 Tage ab. Danach wird jede Nacht synchronisiert, die Seite zeigt also Daten bis gestern, und der Verlauf wächst ab dem Tag der Verbindung.

Kann ich sehen, ob eine KI eine Seite gelesen hat, bevor sie sie zitiert?

Ja. Die Tabelle der am häufigsten gecrawlten Seiten zeigt neben jeder Seite ihre Besuche, ihre Antwort-Abrufe und wie oft sie in KI-Antworten auf Ihre getrackten Fragen zitiert wird. Wenn Sie eine Seite öffnen, sehen Sie ihre Besuche pro Tag, die ausgelieferten HTTP-Codes und welche Suchmaschinen sie zitieren. Für eine mit Mentionable veröffentlichte Seite zeigt eine Zeitleiste das Veröffentlichungsdatum, den ersten KI-Besuch und die erste Zitierung.

Ist das KI-Crawler-Tracking in jedem Plan enthalten?

Ja. Die Seite KI-Crawler ist in jedem Mentionable-Plan und in der 7-tägigen kostenlosen Testphase enthalten. Sie braucht nur eine Website, die über Cloudflare ausgeliefert wird.

Sehen Sie noch heute, wo Sie stehen.

Kostenlose Testphase. Messen Sie Ihre KI-Sichtbarkeit, ohne Kreditkarte.