Aller au contenu
Abysia Demander un accès

Comment savoir si une IA parle de ma marque, et que noter à chaque essai ?

Par Gaétan Berthelot, fondateur d’Abysia · Publié le · Mis à jour le

Pour savoir si une IA parle d’une marque, il faut poser plusieurs fois des questions qui ne la nomment pas, dans les mêmes conditions, et noter pour chaque réponse ce qu’elle contient. Une grille de relevé évite d’oublier le service, le mode, le modèle et la date, sans lesquels un constat ne se compare à rien. Les limites d’un test à la main sont détaillées dans l’article sur les pièges de la mesure.

Quel protocole suivre pour tester à la main ?

Dix étapes, toujours dans le même ordre. Elles fixent d’abord la question, le service et le mode, puis le nombre d’essais, avant de noter chaque réponse. Le protocole ne dit pas si la marque est visible en général : il dit si elle apparaît dans ces réponses, dans ces conditions, ce jour-là.

  1. Choisir une question d’acheteur qui ne nomme ni la marque ni ses concurrents, comme le décrit notoriété spontanée ou assistée.
  2. Choisir le service et le mode (avec ou sans recherche) et les garder pour tout le test.
  3. Noter le modèle quand le service l’affiche : Perplexity permet de le choisir avec Pro Search.
  4. Repartir d’une conversation neuve à chaque essai. C’est une règle de prudence d’Abysia : aucune source consultée ne mesure l’effet d’un historique de conversation.
  5. Répéter la question autant de fois que le temps le permet : la référence de l’API d’OpenAI décrit une sortie plus ou moins aléatoire, qu’un seul essai ne résume pas.
  6. Noter pour chaque réponse la date, le service, le mode, le modèle et la question.
  7. Noter si la marque est nommée, et si une source est affichée.
  8. Noter une réponse en erreur ou vide comme telle, sans la lire comme une absence de la marque.
  9. Ne rien changer à la question entre deux essais, sauf pour en ouvrir une nouvelle série.
  10. Écrire le constat avec ses conditions et le nombre de réponses : « sur tant de réponses, dans ce service et ce mode, à cette date ».

À quoi ressemble une grille de relevé à copier ?

Une ligne par réponse, neuf colonnes séparées par des points-virgules pour s’ouvrir dans un tableur. La grille ci-dessous est un modèle à copier ; ses lignes d’exemple sont inventées, sur une marque fictive. Elle fixe les faits à noter, sans seuil ni règle de décision.

date;service;mode;modele;question;essai;mention;source_affichee;etat
2026-11-03;service A;recherche;modele X;Quel outil choisir pour suivre ses factures ?;1;oui;oui;ok
2026-11-03;service A;recherche;modele X;Quel outil choisir pour suivre ses factures ?;2;oui;oui;ok
2026-11-03;service A;sans recherche;modele X;Quel outil choisir pour suivre ses factures ?;1;non;non;ok
2026-11-03;service A;sans recherche;modele X;Quel outil choisir pour suivre ses factures ?;2;;;erreur
  1. Première ligne : l’en-tête. Le garder tel quel quand le fichier est partagé entre plusieurs personnes.
  2. date, service, mode, modele : les conditions de la réponse. Deux lignes qui diffèrent sur l’une d’elles ne se mélangent pas.
  3. question et essai : la question reste identique d’un essai à l’autre ; seul le numéro d’essai change.
  4. mention et source_affichee : oui ou non, à remplir pour chaque réponse reçue.
  5. etat : ok, erreur ou vide. Les lignes en erreur ou vides restent dans le fichier, avec les champs de résultat vides : elles comptent comme données manquantes.

Exemple chiffré : marque fictive, relevé inventé pour illustrer la lecture.

La Marque Alpha est relevée sur cinq réponses du service A : trois en mode recherche, deux sans recherche.

Mode Réponses Marque nommée
Avec recherche 3 3
Sans recherche 2 0
Tous modes confondus 5 3, soit 60 %

Le total de 60 % ne décrit aucun des deux chemins : il mélange une marque toujours nommée quand le service cherche et jamais nommée quand il répond sans chercher. Le relevé se lit par groupe de conditions, jamais en bloc.

Comment lire le relevé sans conclure trop vite ?

En regroupant les lignes par service, mode et modèle, puis en calculant, dans chaque groupe, la part des réponses qui nomment la marque, avec le nombre de réponses. Un groupe de quelques lignes ne permet pas de conclure : l’article sur les pièges de la mesure explique pourquoi, et la marge d’erreur dit ce que le groupe permet d’affirmer.

Le taux de mention se lit toujours avec sa marge d’erreur. Les lignes en erreur ou vides sortent du calcul, mais s’affichent à part : un groupe dont la moitié des réponses manque ne dit presque rien.

Quand passer d’un test à la main à une mesure ?

Dès que la décision qui dépend du résultat compte, ou que le nombre de réponses nécessaires dépasse ce qu’une personne peut relever. Un test à la main sert à découvrir un problème ; une mesure répétée, avec marge d’erreur et méthode fixée, sert à décider et à suivre une évolution.

Le nombre de réponses nécessaires dépend du taux visé et de la précision voulue : voir combien de réponses pour conclure et mesurer en continu.

Questions fréquentes

Faut-il noter le modèle utilisé pour chaque réponse ?

Oui, quand le service l’affiche. D’après son centre d’aide, Perplexity permet avec Pro Search de choisir le modèle appliqué à la réponse : deux réponses peuvent donc venir de modèles différents et ne pas se comparer. (source)

Peut-on demander à l’IA de chercher sur le web pour obtenir plus de sources ?

Cela change ce que l’on mesure. Le centre d’aide de Claude suggère d’écrire « Search the web » pour s’assurer qu’il cherche : une telle consigne fait passer la réponse de la mémoire à la recherche. Si on l’emploie, il faut l’employer à chaque essai et le noter. (source)

Une réponse en erreur ou vide compte-t-elle comme une absence de la marque ?

Non. Une erreur ou une réponse vide est une donnée manquante : elle se note comme telle et ne se lit jamais comme une absence. Abysia applique la même règle à ses mesures, sous le nom de mesure partielle.

Un test à la main doit-il être répété dans le temps ?

Oui, dans les mêmes conditions et à intervalles fixés avant le premier relevé. Sinon, une évolution observée peut venir du changement de service, de mode ou de modèle plutôt que de la marque.

Ce qui a changé

  •  : Publication.

Sources

  1. How does Perplexity work? (Perplexity), vérifiée le 23 octobre 2026
  2. Enable and use web search (Claude Help Center (Anthropic)), vérifiée le 23 octobre 2026
  3. Create a model response (référence de l’API Responses) (OpenAI), vérifiée le 23 octobre 2026

À lire aussi