Portail d'apprentissage

Méthode d'évaluation de l'impact des programmes et des projets (MAPP)

La MAPP est une méthode participative d'évaluation de l'impact des programmes et des projets. Elle combine une approche qualitative avec des instruments d'évaluation participatifs, comprenant également une étape de quantification. Elle est utile en tant qu'approche d'évaluation permettant aux parties prenantes affectées par une intervention d'évaluer ses impacts en suivant une structure logique.

Principes de base

a group of people sitting on the floor looking at paper

En bref

Qu'est-ce que la MAPP ?

La méthode participative d'évaluation de l'impact des programmes et des projets (MAPP) est une méthode innovante de Focus Group qui a été utilisée ces dernières années pour les évaluations du développement rural. Elle s'est avérée plus solide que les méthodes qualitatives traditionnelles. Elle est particulièrement utile pour évaluer les impacts en l'absence de données cohérentes pour une évaluation quantitative.

Principes fondamentaux

La MAPP s'oriente vers les principes et les procédures de la méthodologie de l'évaluation rurale participative (ERP), tels que :

  • La triangulation - collecte de données distinctes à l'aide de différents outils afin de prouver ou d'accroître la validité des données.
  • L'gnorance optimale - la capacité de sélectionner les données pertinentes et d'éviter la surabondance d'informations.
  • L'pprentissage commun - les conclusions d'une évaluation sont le résultat d'un processus de discussion entre les parties prenantes concernées.

Comment fonctionne la MAPP ?

La MAPP est basée sur des discussions de Focus Groups. Les membres des groupes sont généralement des agriculteurs bénéficiaires et non bénéficiaires. Toutefois, d'autres parties prenantes peuvent également y participer, en particulier celles qui se trouvent à d'autres niveaux (par exemple, les gestionnaires de programmes et les Groupes d'Action Locale (GAL)). Elle comprend un ensemble d'outils qui peuvent aider à identifier les interventions qui ont un impact sur les indicateurs et à attribuer une échelle d'impact, tout en expliquant également d'autres facteurs qui influencent les indicateurs. Le concept de MAPP prévoit six étapes interdépendantes et logiquement connectées. Ces étapes sont les suivantes :

  • La courbe de vie : Elle montre les tendances générales du développement dans la zone/région le long d'une certaine période commençant avant le début d'un plan stratégique relevant de la PAC (CSP) et se terminant à la date actuelle.
  • Analyse des tendances : Cette matrice permet d'évaluer les tendances de développement détaillées sur la même période en fonction d'un certain nombre d'indicateurs prédéfinis.
  • Vérification croisée : Les outils pratiques de vérification croisée, tels que les transects de marche le long des interventions de développement au sein de la communauté, peuvent s'avérer très utiles à ce stade. Les transects peuvent fournir des informations très utiles sur l'ampleur, la pertinence et la maintenance des interventions.
  • Liste des interventions et des activités : Toutes les interventions pertinentes sont énumérées et classées en fonction de leur pertinence. En outre, les contributions de la PAC sont évaluées sur une échelle à points. En estimant le rapport coût-bénéfice relatif, certaines conclusions peuvent être tirées concernant la durabilité des interventions.
  • Matrice d'influence : Cette matrice permet d'évaluer l'influence de toutes les interventions sur chaque indicateur. Ensuite, les sommes passives et actives sont calculées. La somme active montre quelle intervention a eu un impact sur le plus grand nombre d'indicateurs, tandis que la somme passive montre quels indicateurs ont eu ou n'ont pas eu de performance.
  • Profil de développement et d'impact : Ce tableau sert d'outil d'interprétation et résume certains résultats de la MAPP.

Des exemples de certains de ces outils sont fournis dans la section sur l'apprentissage par la pratique ci-dessous.

Comment utiliser la MAPP pour évaluer les impacts nets

La MAPP peut être utilisée pour identifier les effets nets des interventions. Cela peut se faire par la création de « groupes de contrôle », qui sont comparés à un groupe similaire de bénéficiaires (par exemple, en termes de certaines caractéristiques des agriculteurs et/ou des exploitations). Les deux groupes sont comparés pour observer les changements et évaluer si, toutes choses égales par ailleurs, la situation des bénéficiaires s'est améliorée à la suite des interventions.

Avantages et inconvénients

Avantages Inconvénients
  • Permet d'identifier les effets nets en l'absence de données quantitatives.
  • Convient à l'analyse d'objectifs à long terme plus complexes qui ne peuvent généralement pas être évalués à l'aide d'un ou plusieurs indicateurs quantitatifs.
  • Possède une approche ouverte orientée vers le contexte qui permet d'identifier les impacts planifiés et non planifiés.
  • Permet l'évaluation d'un CSP spécifique par rapport à d'autres programmes en cours et/ou d'autres facteurs externes. Ainsi, les impacts nets peuvent être estimés par rapport aux tendances brutes du développement.
  • Aide à combler le « fossé d'attribution », c'est-à-dire le fossé entre les résultats qui peuvent être directement attribués à un CSP spécifique et les résultats de plus haut niveau qui sont également influencés par d'autres interventions/facteurs.
  • En principe, la MAPP est un outil qualitatif comportant certains éléments quantitatifs. Bien qu'elle utilise un système de points, ses résultats ne peuvent pas être utilisés pour une analyse statistique.
  • La MAPP est une méthode interactive et ses résultats dépendent fortement de l'engagement des participants et de leur intérêt pour la discussion.

Quand l'utiliser ?

Il est suggéré d'utiliser la MAPP pour : (1) évaluer les changements nets dans les indicateurs de la PAC, en particulier ceux pour lesquels il n'existe pas de données quantitatives ; (2) mettre en évidence et évaluer les éventuels effets indirects sur les bénéficiaires et les non-bénéficiaires en relation avec les différents indicateurs ; et (3) évaluer les liens de causalité entre les interventions pertinentes des plans stratégiques relevant de la PAC et leurs effets.

Conditions préalables

  • Préparation en temps utile d'un Focus Group pour la MAPP.
  • Familiarité avec les outils spécifiques de la méthode.
  • Choix judicieux des participants sur la base des principes de la MAPP.

Étape par étape

Étape 1 - Sélectionner les régions

La MAPP est mieux conduite au niveau local ou régional. Dans l'idéal, l'ensemble de la zone du plan stratégique relevant de la PAC (CSP) devrait être couvert par les Focus Groups. S'il n'est pas possible de mener plusieurs Focus Groups, un nombre limité de régions sont sélectionnées sur la base de critères qui les rendent représentatives du territoire du CSP (par exemple, la part des dépenses des interventions liées aux indicateurs spécifiques pertinents pour le sujet).

Étape 2 - Sélection des interventions du CSP 

Pour ce faire, il convient d'examiner la logique d'intervention du CSP et la manière dont elle est liée à chaque indicateur pertinent pour le thème de l'évaluation. Par exemple, si l'évaluation porte sur les impacts environnementaux, la logique d'intervention liée aux indicateurs environnementaux doit être examinée.

Étape 3 - Sélectionner les indicateurs à évaluer

Les indicateurs de la MAPP devraient être les indicateurs d'impact du cadre de suivi et d'évaluation des performances (PMEF) et les indicateurs supplémentaires pertinents.

Étape 4 - Sélection des participants

Les participants doivent comprendre des représentants des bénéficiaires et des non-bénéficiaires des interventions associées à chaque indicateur. Les non-bénéficiaires peuvent inclure des parties prenantes et des experts compétents qui peuvent fournir des informations permettant de déduire les tendances générales prévalant chez les bénéficiaires non assistés. Ils peuvent également fournir une indication sur les pertes de poids mort. Par exemple :

  • Pour les indicateurs liés à l'environnement, inviter les autorités chargées de l'eau d'irrigation, les autorités chargées de la consommation d'électricité, les distributeurs d'engrais, les agronomes et d'autres experts.
  • Pour les indicateurs liés à l'innovation, inviter les partenaires chefs de file des groupes opérationnels et d'autres partenaires, ainsi que des conseillers, des organismes de formation, des services de soutien à l'innovation et d'autres acteurs des SCIA.

Étape 5 - Sélectionner les outils de la MAPP

Choisissez parmi la gamme d'outils MAPP énumérés ci-dessus.

Étape 6 - Rapport sur les résultats de la MAPP

Les résultats de la MAPP seront de trois ordres : a) une fourchette estimative du chiffre ou de la tendance de l'impact net pour chaque indicateur au cours de la période d'évaluation du CSP (par exemple, augmentation nette estimée de x%) ; b) une analyse des principaux facteurs qui influencent ces chiffres ou tendances ; et c) des estimations de tout effet indirect sur les bénéficiaires bénéficiant ou non d'un soutien.

Principaux points à retenir

  • La méthode MAPP est la plus pertinente en l'absence de données quantitatives pour évaluer les effets et les impacts.
  • La MAPP peut compléter l'analyse quantitative en fournissant un jugement éclairé sur les effets et les impacts nets.
  • La MAPP offre des perspectives uniques sur les impacts des interventions par rapport à d'autres initiatives sur le terrain.
  • Le succès de la MAPP repose sur le choix judicieux des participants et sur une bonne compréhension des outils de la MAPP.
  • Les outils MAPP ne sont pas rigides et peuvent être adaptés à différents types d'activités d'évaluation.

Matériel de formation

Exemples d'outils MAPP pour une application possible dans l'évaluation d'un plan stratégique relevant de la PAC :

Outil a) Courbe de vie

Life curve diagram

Outil b) Analyse des tendances

Indicateurs Année   Tendance

 

2023

2024

2025

2026

2027

2028

2023-2028

Nouveaux emplois dans le secteur agricole

 

 

 

 

 

 

 

Nouveaux emplois dans le secteur non agricole

 

 

 

 

 

 

 

Revenus agricoles

 

 

 

 

 

 

 

Revenus des activités non agricoles

 

 

 

 

 

 

 

Accès aux services

 

 

 

 

 

 

 

Tourisme

 

 

 

 

 

 

 

Qualité de l'environnement

 

 

 

 

 

 

 

Biodiversité

 

 

 

 

 

 

 

Qualité de l'eau

 

 

 

 

 

 

 

Remarque : sous « tendance », comparez l'année où la mise en œuvre de l'intervention ou des interventions du PSC a commencé avec l'année où elle s'est terminée.

Outil c) Matrice d'influence

Indicateurs

Interventions

 
  Intervention A Intervention B …. ∑Passif
Nouveaux emplois dans le secteur agricole          
Nouveaux emplois dans le secteur non agricole          
Revenus agricoles          
Revenus des activités non agricoles          
Accès aux services          
Tourisme          
Qualité de l'environnement          
Biodiversité          
Qualité de l'eau          
∑Actif          

Outil d) Profil d'impact

Intervention

Profil

--   -    +/-   +   ++

Remarques Principalement influencée par
Nouveaux emplois dans le secteur agricole О  О   О  О  О    
Nouveaux emplois dans le secteur non agricole О  О   О  О  О    
Revenus agricoles О  О   О  О  О    
Revenus des activités non agricoles
 
О  О   О  О  О    
Accès aux services О  О   О  О  О    
Tourisme О  О   О  О  О    
Qualité de l'environnement О  О   О  О  О    
Biodiversité О  О   О  О  О    
Qualité de l'eau О  О   О  О  О    
∑Actif О  О   О  О  О    

Pour en savoir plus