Je zichtbaarheid meten in AI-tools: zo doe je dat

Tijd om het onderwerp in te duiken: serverlogs. Wat zijn dit nu eigenlijk precies? 

Serverlogs zijn tekstbestanden (meestal in .txt- of .log-formaat) die automatisch door de server van je website worden aangemaakt en gebeurtenissen op de server registreren. 

En zoals wij hebben onderzocht: deze documenten zijn waardevol voor het verkrijgen van inzicht in jouw zichtbaarheid in AI-tools. In serverlogs zie je namelijk wie welke informatie op jouw website opvraagt. En zo kun je dus ook zien of jouw content is geraadpleegd door AI-bots. 

Laten we doorpakken op die user-agents. Als het gaat om het meten van zichtbaarheid in AI, zijn er twee belangrijke categorieën: user-agents die jouw content raadplegen voor het trainen van kennis, en user-agents die jouw content gebruiken voor het ophalen van actuele informatie.

1. User-agents die jouw content raadplegen voor het trainen van kennis

Eens in de zoveel tijd werken LLM’s hun interne kennis bij. Dit is informatie die niet per se heel actueel hoeft te zijn; het gaat met name om ‘algemene kennis’. 

Het kan gebeuren dat een LLM jóúw content raadpleegt voor het trainen van hun kennis. In dat geval kunnen ze, in het vervolg, jouw content dus ook gebruiken voor het formuleren van antwoorden. Deze content is dan immers onderdeel geworden van het geheugen van de LLM.  

Is jouw content gecrawld voor het trainen van kennis? Dat herken je aan een user-agent in de serverlog die eindigt op ‘bot’. Zoals: 

• GPTBot 
• PerplexityBot
• ClaudeBot

2. User-agents die jouw content crawlen voor actuele informatie

Wordt er een zoekopdracht gedaan in een LLM die niet beantwoord kan worden met de interne kennis waar die LLM over beschikt? Zoals ‘Wie heeft gisteren de 400 meter horden gewonnen?’. In dat geval kan een LLM besluiten om actuele informatie op te halen op het web. 

Als jouw content is geraadpleegd voor het ophalen van actuele informatie, dan herken je dit aan een user-agent in de serverlog die eindigt op ‘user’. Zoals: 

• ChatGPT-user 
• Perplexity-user 
• Claude-user 

Niet van toepassing op AI-tools Google en Bing 

Let op: Bovenstaande informatie is niet van toepassing op de AI-tools van Google en Bing. Google en Bing maken voor hun AI-tools namelijk gebruik van hun reguliere crawlers; dezelfde die ze gebruiken voor hun zoekmachines. 

Hoe je jouw eigen serverlogs kunt zien en analyseren lees je straks. Eerst delen we 6 waardevolle inzichten over serverlogs die we opdeden in ons SEO voor AI-experiment. Want: welke gegevens vertellen je nu hoe zichtbaar je écht bent in AI-zoekmachines? En wanneer word je wel als bron vermeld in antwoorden en wanneer niet?

1. Content crawlen voor ophalen actuele informatie = bronvermelding

In ChatGPT en Perplexity word je als bron vermeld in antwoorden als ze jouw content raadplegen voor het ophalen van actuele informatie. 

Hoe zit dit precies? Laten we nog even terugkijken naar de verschillende user-agents, waar we het eerder over hebben gehad. Je hebt een categorie user-agents die jouw content kan raadplegen voor het trainen van kennis. Maar je hebt ook een categorie user-agents die jouw content mogelijk raadpleegt als er actuele informatie opgehaald moet worden, die niet in de interne kennis voorkomt. 

En raadpleegt ChatGPT of Perplexity jouw content voor het ophalen van actuele informatie? Dán wordt jouw naam direct als bron vermeld in het antwoord. En dit leidt dus direct tot zichtbaarheid van jouw bedrijf. 

Wordt jouw content geraadpleegd voor het trainen van kennis? Dan word je niet direct als bron vermeld (mogelijk wel indirect, als jouw naam onderdeel is geworden van de interne kennis van een LLM).  

Hoe ziet zo’n bronvermelding er precies uit? Het betekent dat er in ChatGPT of Perplexity een link naar jouw website achter de tekst komt te staan, of dat je als bron wordt genoemd onderaan het gegeven antwoord. 

Gemini, Copilot en Claude gebruiken geen externe bronnen voor actuele informatie

Goed om rekening mee te houden: bovenstaand inzicht geldt alleen voor ChatGPT en Perplexity. Gemini van Google en Copilot van Bing werken namelijk met hun eigen actuele index. En Claude haalt nauwelijks actuele informatie op.

2. Aantal bronvermeldingen meetbaar met user-agents eindigend op ‘user’

Doorpakkend op bovenstaand inzicht, kunnen we ook direct concluderen hoe je meetbaar maakt hoe vaak je als bron wordt vermeld in ChatGPT en Perplexity. 

Want zoals eerder verteld: telkens wanneer jouw content wordt geraadpleegd voor het ophalen van actuele informatie, zie je dat terug in je serverlogs. Dit herken je namelijk aan een user-agent die eindigt op ‘user’. 

Concreet kun je daarom zeggen: het aantal keer dat je als bron wordt vermeld in AI-zoekmachines meet je door het aantal user-agents eindigend op ‘user’ bij elkaar op te tellen. 

Wel goed om te weten: serverlogs worden vaak slechts 30 dagen bewaard. Verder dan dat kun je dus niet terugkijken.

3. Niet alle content is geschikt voor het ophalen van actuele informatie

Misschien denk je nu: waarom zou je überhaupt willen dat mijn content opgehaald wordt voor training van kennis, als mijn naam hier niet direct als bron wordt vermeld? Waarom zou ik me niet volledig richten op content die opgehaald wordt voor actuele informatie? 

Heel simpel: LLM’s gaan lang niet altijd op zoek naar actuele informatie. Sterker nog: als het niet nodig is, doen ze dit liever niet. Actuele informatie ophalen is namelijk kostbaar. 

Informatie over tuinonderhoud is bijvoorbeeld nog steeds hetzelfde als vorig jaar. Dit soort vragen zal door een AI-tool eerder beantwoord worden op basis van zijn interne kennis, aangezien de informatie ongewijzigd is en er geen behoefte is om up-to-date gegevens op te zoeken. Dit verschilt van een vraag zoals “Hoeveel punten staat Max Verstappen achter op Oscar Piastri in de Formule 1?”, waarbij actuele gegevens van het internet nodig zijn om een antwoord te geven. 

Het is daarom belangrijk om kritisch na te denken over de inhoud van je content. Maar ook: over een goede balans tussen content die geschikt is voor het trainen van kennis, en content die geschikt is voor het ophalen van actuele informatie. 

Content die wél geschikt is voor het ophalen van actuele informatie 

Voorbeelden van content die wél vaak live wordt opgevraagd:   

• Nieuws   

• Evenementen   

• Sportuitslagen en -standen   

• Weer en natuurverschijnselen   

• Actuele wetgeving   

• Technologie en software   

• Reisinformatie   

• Producten en prijzen

4. Met extra links vergroot je de kans dat jouw content gecrawld wordt voor training

Tijd om dieper in te gaan op content die gecrawld kan worden voor het trainen van kennis. In de serverlogs te herkennen aan user-agents die eindigen op ‘bot’.  

Zoals hierboven verteld is óók deze content belangrijk. Want ook al wordt jouw naam hier niet direct als bron vermeld in het antwoord; op deze manier laat je LLM’s wel kennismaken met jouw bedrijf, producten of diensten. Die informatie kunnen LLM’s gebruiken bij het formuleren van antwoorden. En ook dat leidt dus tot zichtbaarheid. Jouw producten, diensten en/of bedrijf wordt op deze manier immers mogelijk genoemd in antwoorden. 

Blijkt uit de serverlogs dat de content die je graag geïndexeerd wil hebben, maar niet gecrawld wordt voor het trainen van kennis? Het kan helpen om extra interne of externe links naar deze content te genereren.

5. Alle AI-tools hebben hun eigen crawlpatroon voor trainen kennis

Hoe vaak crawlen AI-tools content om kennis te trainen? Uit ons experiment blijkt dat er grote verschillen zijn tussen AI-tools. 

ChatGPT en Claude crawlen doorgaans minder frequent, maar vertonen af en toe plotselinge pieken waarin ze intensief crawlen gedurende meerdere dagen. Deze pieken blijken bovendien afhankelijk te zijn van de taal: bij meertalige websites komen de pieken per taal op verschillende tijdstippen voor. Perplexity heeft daarentegen een consistenter crawlpatroon, vergelijkbaar met dat van Bing en Google. 

Over de precieze frequentie van het crawlen zijn helaas nog geen uitspraken te doen.

6. Shopping-resultaten in ChatGPT werken anders dan je verwacht

Het laatste inzicht uit ons GEO-experiment heeft betrekking op shopping-resultaten in ChatGPT. Hiermee bedoelen we productresultaten, met productnaam, afbeelding, prijs en link naar een productpagina. Eigenlijk zoals je het kent uit Google Shopping. 

Opvallend hierbij is: deze resultaten werken anders dan je verwacht. Je zou verwachten dat deze informatie altijd in realtime wordt opgehaald, maar uit ons onderzoek blijkt dat dit niet altijd het geval is. 

Wanneer je een algemene vraag stelt, zoals “Ik ben op zoek naar een krik voor de auto, wat zou je me aanraden?”, voert ChatGPT wel een zoekopdracht uit. Aangezien er echter weinig specifieke details worden gevraagd, haalt het de productinformatie uit de beschikbare rich snippets. De productpagina wordt dus niet bezocht. Het is daarom essentieel om gestructureerde data op je productpagina te hebben, zodat je rich snippets kunt genereren. 

Als je echter meer gedetailleerde input geeft, bijvoorbeeld “Ik ben op zoek naar een pneumatische krik voor een Ford Focus van 1.300 kilo. Ik wil de auto tot 50 cm kunnen opkrikken. Wat beveel je aan?”, moet ChatGPT dieper ingaan op de specificaties en de productpagina wél zelf bezoeken. Als dit is gebeurt, zie je dit uiteraard terug in de serverlogs, met de user-agent ‘ChatGPT-user’.