Portail d'apprentissage

Essais contrôlés randomisés

L'essai contrôlé randomisé (ECR) est une méthode d'évaluation dans laquelle des exploitations agricoles (ou d'autres unités) sont affectées à différentes options politiques par sélection aléatoire, à l'instar d'un tirage au sort. Dans cette approche, au moins un groupe bénéficie de l'intervention étudiée, tandis qu'un autre groupe ne bénéficie d'aucune intervention (c'est-à-dire le groupe témoin).

Two farmers in a field controling a machine

Notions de base

En bref

Dans un ECR, les évaluateurs définissent d'abord une cible (par exemple, les agriculteurs éligibles dans certaines régions), puis les répartissent de manière aléatoire en :

  • un groupe d'intervention, qui bénéficie d'une nouvelle version de la politique (par exemple, un contrat remanié, une rémunération plus élevée ou un service de conseil spécifique) ; et
  • un groupe témoin, qui bénéficie de la version actuelle de la politique ou n'en bénéficie pas.

Les résultats (tels que l'adoption de pratiques ou l'évolution d'indicateurs environnementaux ou économiques, par exemple le revenu) sont ensuite mesurés dans les deux groupes et comparés.

L'hypothèse clé est que, grâce à la randomisation, la seule différence systématique entre les groupes est la variante de la politique elle-même. Dans ces conditions, la différence entre les résultats peut être interprétée comme l'effet causal de cette conception de la politique.

Avantages et inconvénients

Avantages Inconvénients
Fournit des preuves causales de haute qualité quant à l'efficacité d'une variante spécifique de la politique, car la randomisation réduit fortement le biais de sélection et les facteurs de confusion non observés. Très difficile à mettre en œuvre pour des raisons politiques, éthiques ou juridiques, en particulier lorsque le refus ou le report d'une aide est considéré comme inacceptable.
Permet des comparaisons claires entre différentes conceptions (par exemple, différents niveaux de paiement ou formats de contrat) dans des conditions réelles. Les résultats sont généralement spécifiques au contexte (régions, secteurs ou groupes particuliers) ; leur généralisation à d’autres régions, secteurs ou contextes, ou à des périodes futures, doit donc être effectuée avec prudence.
Nécessite une planification minutieuse, une coordination solide et des ressources additionnelles pour la conception, la communication, la collecte de données et le suivi.

Quand les utiliser ?

Les ECR ne peuvent pas être introduits rétrospectivement pendant la phase d’évaluation. Ils doivent être planifiés à l’avance. La répartition aléatoire des unités entre les groupes de traitement et de contrôle doit être intégrée dès le départ dans la conception de la mesure, les groupes devant être définis et attribués de manière aléatoire avant de mettre en œuvre la politique (ou la variante de politique). Si les groupes ne sont pas établis ex ante par un processus aléatoire, on ne peut élaborer un ECR ex post.

Les ECR sont particulièrement appropriés lorsque :

  1. La question d'évaluation porte sur les choix de conception de la politique (par exemple, le mode de paiement, le type de contrat ou la fourniture d'un soutien consultatif), généralement dans le cadre d'une intervention volontaire nouvelle ou existante. Dans le contexte de la PAC, il n’est généralement ni faisable ni acceptable de randomiser l’accès à l’ensemble d’une mesure de la PAC. Cependant, la randomisation peut être possible lorsqu’il s’agit de comparer une intervention nouvellement introduite (par exemple, un programme agro-environnemental pilote) avec le statu quo, ou lorsqu’il s’agit de tester des variantes alternatives au sein de cette nouvelle intervention.
  2. La mesure est volontaire et soumise à des contraintes budgétaires ou de capacité, comme c'est le cas des programmes agro-environnementaux et climatiques ou des éco-régimes, ce qui signifie que tous les agriculteurs éligibles ne peuvent pas ou ne doivent pas recevoir immédiatement la même version. Cela permet, en principe, d'introduire une variation contrôlée quant à qui reçoit quelle variante de la politique sans pour autant priver quiconque de l'accès à l'ensemble de la mesure.
  3. Il est possible de tester la mesure avant son déploiement complet, par exemple en l'expérimentant dans des zones sélectionnées ou auprès d'un sous-ensemble d'agriculteurs éligibles. Dans de tels cas, l'assignation aléatoire au sein du groupe éligible peut être utilisée pour comparer différentes options de conception avant d'étendre la mesure à l'échelle nationale.

Conditions préalables

  • Un nombre suffisant d'exploitations agricoles éligibles pour former des groupes de traitement et de contrôle. Il n'y a pas de « nombre magique » établi, mais chaque groupe doit être suffisamment grand pour garantir une puissance statistique adéquate. En pratique, la taille minimale requise de l’échantillon dépend de plusieurs facteurs : l’ampleur attendue de l’effet de la politique, la variabilité du résultat, le niveau de signification choisi (par exemple 5 %), la puissance statistique souhaitée (souvent fixée à 80 %) et le fait que la randomisation s’effectue au niveau de l’exploitation individuelle ou au niveau d’un regroupement (par exemple, des groupes d’exploitations ou des zones géographiques). Ces éléments sont généralement combinés dans le cadre d’un calcul formel de la puissance statistique afin de déterminer le nombre d’exploitations nécessaires dans les groupes de traitement et de contrôle.
  • Capacité à mettre en œuvre, à surveiller et à suivre les différentes variantes de la politique au fil du temps.
  • Accord des autorités de gestion et des parties prenantes sur l’utilisation de la randomisation à des fins d’évaluation.

Comme l'affectation est aléatoire, les groupes sont, en moyenne, similaires sur toutes les caractéristiques pertinentes avant l'intervention. Cela signifie que toute différence systématique observée par la suite entre les deux groupes, le « groupe de traitement » et le « groupe témoin », peut être attribuée à la politique elle-même et non à des différences préexistantes entre les exploitations. C'est pourquoi les ECR sont considérés comme la « référence absolue » pour identifier les effets causaux dans l'évaluation.

Il est toutefois important de noter que cette approche est rarement utilisée dans l’évaluation des politiques, car les mesures introduites permettent aux agriculteurs de décider s’ils souhaitent y participer en fonction de leurs propres attentes, ce qui rend la répartition non aléatoire par nature.

Étape par étape

Étape 1 – Identifiez quel élément de conception de la politique (par exemple, le niveau de paiement) doit être évalué.

Étape 2 – Décidez quels agriculteurs ou quelles zones sont éligibles pour participer à l’expérience.

Étape 3 – Précisez clairement ce que reçoit le groupe de traitement et ce que reçoit le groupe témoin (statu quo ou alternative).

Étape 4 – Utilisez un processus aléatoire transparent et documenté pour affecter les exploitations (ou autres unités) aux groupes de traitement et témoins.

Étape 5 – Mettez en œuvre les variantes de la politique comme prévu, veillez au respect de la conception et collectez des données sur les résultats et les covariables pertinentes au fil du temps.

Étape 6 – Comparez les résultats moyens entre les groupes et interprétez les différences comme des effets causaux de la variante de politique testée, tout en discutant du contexte et des éventuels problèmes de mise en œuvre.

Principaux points à retenir

  • Les ECR constituent l’outil le plus clair pour identifier les effets causaux de conceptions politiques spécifiques, mais ils ne sont pratiquement jamais utilisés dans les questions d’évaluation de la PAC. Jusqu’à présent, les ECR n’ont été utilisés que de manière exceptionnelle dans les évaluations de la PAC, car les contraintes de faisabilité, éthiques, politiques et administratives ne permettent pas une répartition aléatoire des bénéficiaires traités et non traités.
  • Ils sont particulièrement utiles pour tester et affiner les options de conception et de mise en œuvre (par exemple, contrats, incitations, information) dans des contextes volontaires et pilotes.
  • Une utilisation réussie des ECR dans le cadre de la PAC nécessite un soutien institutionnel solide, une planification minutieuse et une communication claire avec les agriculteurs et les parties prenantes.

Leçons tirées de la pratique

Behaghel, L., Macours, K., & Subervie, J., (2019), How can randomised controlled trials help improve the design of the common agricultural policy ?, European Review of Agricultural Economics, 46(3), 473-493.

Behaghel, Macours et Subervie (2019) examinent comment des incitations aléatoires et des variantes de contrats pourraient être intégrées dans la conception des mesures agroenvironnementales et d’autres instruments de la PAC afin de tester différentes options politiques spécifiques. Leurs travaux illustrent comment les dispositifs expérimentaux peuvent être utilisés pour évaluer, par exemple, l’adoption des contrats agro-environnementaux et climatiques, la coordination entre agriculteurs dans la fourniture de biens publics environnementaux, les compromis entre équité et efficience dans les paiements découplés, ainsi que différentes caractéristiques de conception des contrats. Dans ces dispositifs, les agriculteurs sont affectés de manière aléatoire à différents cadres d’information, niveaux d’incitation ou conditions contractuelles. Cette répartition aléatoire permet aux essais contrôlés randomisés (ECR) qui en résultent de générer des preuves causales solides permettant de déterminer quelle variante est la plus performante en termes de participation et de résultats environnementaux.

Lectures complémentaires

Assessing the effectiveness and efficiency of CAP income support instruments
FAQ |

Évaluation de l'efficacité et de l'efficience des instruments de soutien aux revenus de la PAC

Les lignes directrices sur l'évaluation des instruments de soutien au revenu de la PAC proposent un cadre d'évaluation complet, comprenant des critères de jugement et des orientations techniques pour les analyses quantitatives.

  • Évaluation