Lernportal - Die Grundlagen der Bewertung
- Bewertung
- Bewertung
- Bewertungselemente
- Performance Monitoring and Evaluation Framework (Leistungs-, Überwachungs- und Bewertungsrahmen, PMEF)
- Begleitungs- und Bewertungsrahmen
Was ist eine Bewertung? Wie sind Bewertungen aufgebaut? Wie wird die GAP derzeit bewertet? Tauchen Sie ein in die Grundlagen der GAP-Bewertung.
Page contents
Grundlagen
Auf den Punkt gebracht
Was ist Bewertung?
Überwachung, Bewertung und Prüfung sind drei Prozesse, die oft missverstanden und häufig miteinander vermischt werden. Monitoring und Bewertung werden häufig zusammen dargestellt, weil es sich um zwei miteinander verknüpfte Prozesse handelt, die dasselbe Ziel verfolgen. Dennoch handelt es sich um grundlegend unterschiedliche Prozesse – sowohl in Bezug auf den Umfang und den Ansatz als auch hinsichtlich der Frage, wer für ihre Durchführung verantwortlich ist.
Prüfungen sind offizielle und unabhängige Inspektionen der Rechnungsführung und Leistung einer Organisation. Bei einer Prüfung der Rechnungsführung wird untersucht, ob die Finanzunterlagen der Organisation ein angemessenes und genaues Abbild der Vorgänge sind, die sie angeblich darstellen. Eine Wirtschaftlichkeitsprüfung ist eine unabhängige Bewertung der Tätigkeiten einer Organisation, um festzustellen, ob bestimmte Programme oder Funktionen wie beabsichtigt funktionieren, um festgelegte Ziele zu erreichen.
Monitoring ist eine erschöpfende und regelmäßige Prüfung der Ressourcen, des Outputs und der Ergebnisse öffentlicher Maßnahmen. Es stützt sich auf systematische Informationen, die in erster Linie von den Akteuren in Form von Berichten, Übersichten, Bilanzen und Indikatoren eingeholt werden. Für die Überwachung sind im Allgemeinen die Akteure zuständig, die die politischen Maßnahmen umsetzen.
Bewertung ist der Prozess der Beurteilung von Interventionen nach ihren Ergebnissen, Auswirkungen und dem Ausmaß, in dem sie die Bedürfnisse erfüllen, die sie lösen sollten. Die Bewertung hilft dabei, herauszufinden und zu verstehen, inwieweit und warum die beobachteten Veränderungen auf die politischen Maßnahmen zurückzuführen sind. Zu diesem Zweck greifen Evaluatoren nicht nur auf Überwachungsdaten zurück, sondern auch auf viele andere zusätzliche Quellen, die dann mit verschiedenen quantitativen und qualitativen Methoden analysiert werden können, um tiefere Einblicke in die Programme und ihre Auswirkungen zu gewinnen. Bewertungen können auch eingehende Analysen oder Fallstudien umfassen, um eine Politik in einer bestimmten Situation und einem bestimmten Kontext besser zu verstehen.
Wer führt sie durch?
Für die Bewertung sind Evaluatoren zuständig, die von den Durchführungsstellen unabhängig sind. Als solche liefert die Bewertung einen „externen Blick“ und unterscheidet sich von der Selbstbewertung, die von denjenigen durchgeführt wird, die eine Maßnahme umsetzen, um sie zu verbessern.
Kriterien der Bewertung
Bei der Bewertung der GAP werden fünf Kriterien für die Bewertung einer Intervention herangezogen: Wirksamkeit, Effizienz, Kohärenz, Relevanz und EU-Mehrwert.
- Bei der Relevanz wird untersucht, inwieweit die Ziele und die Gestaltung der Interventionen für die aktuellen und künftigen Bedürfnisse und Probleme in der EU, einschließlich der umfassenderen politischen Ziele und Prioritäten der EU, relevant bleiben. Die Bewertung der Relevanz beinhaltet die Untersuchung von Unterschieden und Kompromissen zwischen Prioritäten oder Bedürfnissen. Sie erfordert eine Analyse aller Veränderungen im Kontext und eine Bewertung des Ausmaßes, in dem eine Intervention angepasst werden kann (oder angepasst wurde), um relevant zu bleiben.
- Kohärenz kann als das Ausmaß verstanden werden, in dem Komplementarität oder Synergie innerhalb einer Intervention und im Verhältnis zu anderen Interventionen gefunden werden kann. Die Analyse der Kohärenz kann Bereiche aufzeigen, in denen Synergien bestehen, die die Gesamtleistung verbessern und bei einer Einführung auf nationaler Ebene nicht möglich gewesen wären, oder auf Spannungen hinweisen, z. B. auf potenziell widersprüchliche oder sich überschneidende Ziele oder Ansätze, die zu Ineffizienzen führen.
- Bei der externen Kohärenz wird analysiert, inwieweit verschiedene Komponenten unterschiedlicher Interventionen, die denselben Kontext betreffen, zusammenwirken, um ihre Ziele zu erreichen.
- Die interne Kohärenz analysiert das Ausmaß, in dem verschiedene Komponenten derselben Intervention zusammenwirken, um ihre Ziele zu erreichen .
- Effektivität kann als das Ausmaß verstanden werden, in dem die Intervention ihre Ziele erreicht hat oder voraussichtlich erreichen wird, einschließlich der unterschiedlichen Ergebnisse in den verschiedenen Gruppen. Die Wirksamkeit kann Aufschluss darüber geben, ob eine Intervention ihre geplanten oder beabsichtigten Ergebnisse erreicht hat, wie dies geschah, welche Faktoren dabei ausschlaggebend waren und ob es unbeabsichtigte Auswirkungen gab. Der Evaluator sollte sich eine Meinung über die bisher erzielten Fortschritte und die Rolle der EU-Maßnahme bei der Herbeiführung der beobachteten Veränderungen bilden.
- Effizienz ist das Ausmaß, in dem die Intervention ihre Ziele auf wirtschaftliche und zeitgerechte Weise erreicht hat bzw. voraussichtlich erreichen wird. ‚Wirtschaftlich‘ bedeutet, dass Inputs (Mittel, Fachwissen, natürliche Ressourcen, Zeit usw.) auf möglichst kosteneffiziente Weise in Outputs, Ergebnisse und Wirkungen umgewandelt werden. Dazu kann auch die Bewertung der operativen Effizienz gehören (d. h. wie gut die Intervention verwaltet wurde). Bei der Effizienzanalyse sollte das Potenzial für Vereinfachung und Verringerung des Aufwands durch Messung des Verwaltungs- und Regelungsaufwands untersucht werden.
Der EU-Mehrwert sucht nach Veränderungen, die auf die EU-Intervention zurückzuführen sind, im Vergleich zu dem, was vernünftigerweise allein durch nationale Maßnahmen der Mitgliedstaaten hätte erwartet werden können. In Politikbereichen, in denen die EU keine ausschließliche Zuständigkeit hat, sollte die Analyse des EU-Mehrwerts die tatsächliche Anwendung des Subsidiaritätsprinzips untersuchen, indem der Mehrwert von EU-Maßnahmen im Vergleich zu denen anderer Akteure bewertet wird.
Elemente eines Bewertungssystems
Definition der Elemente
Ein Bewertungssystem setzt sich aus folgenden Kernelementen zusammen: einer Interventionslogik, Bewertungsfragen und entsprechenden Beurteilungskriterien (oder Erfolgsfaktoren) sowie Indikatoren.
-
Venn-Diagramm
Evaluierungsfragen / Beurteilungskriterien
< Ansatz / Methoden der Bewertung Interventionslogik
Indikatoren
< Daten und Informationen
Interventionslogik
Die Interventionslogik liefert eine (narrative) Beschreibung und wird in der Regel als Diagramm dargestellt, das zusammenfasst, wie die Intervention voraussichtlich wirken wird. Anders ausgedrückt, sie beschreibt die erwartete Logik der Intervention oder die Kette von Ereignissen, die zu einer beabsichtigten Veränderung führen sollen. Von einer Intervention wird erwartet, dass sie eine Lösung für ein Problem oder einen Bedarf darstellt – die Interventionslogik ist ein Instrument, das dabei hilft, die verschiedenen Schritte und Akteure, die an einer Intervention beteiligt sind, sowie ihre Abhängigkeiten zu erklären (und oft auch zu visualisieren) und so die erwarteten ‚Ursache-Wirkungs‘-Beziehungen darzustellen. Die Interventionslogik dient als Grundlage für Bewertungen.
Bewertungsfragen und Beurteilungskriterien
Bewertungsfragen definieren die Schlüsselbereiche, die in Bezug auf die politischen Ziele zu bewerten sind. Die Fragen sollten so formuliert sein, dass der Evaluator gezwungen ist, eine vollständige, evidenzbasierte Antwort zu geben, die das Verständnis für die Leistung einer EU-Intervention anhand der fünf Bewertungskriterien verbessert.
Jede Frage zur Bewertung sollte mit einem oder mehreren Beurteilungskriterien (Erfolgsfaktoren) verknüpft sein. Diese Kriterien werden verwendet, um zu definieren, wie Erfolg in Bezug auf die Bewertungsfrage aussehen würde. Sie dienen auch als Grundlage für die Ermittlung der Indikatoren, mit denen das Ausmaß der Erfolge gemessen und somit die Bewertungsfrage beantwortet werden kann.
Indikatoren
Ein Indikator ist ein Instrument zur Messung des Erreichens eines Ziels (z. B. eine mobilisierte Ressource, ein erzielter Output oder eine erzielte Wirkung). Indikatoren dienen auch dazu, den (wirtschaftlichen, sozialen oder ökologischen) Kontext zu beschreiben. Die Informationen, die ein Indikator liefert, werden als Messinstrument verwendet. Indikatoren sind Aggregate von Daten, die eine Quantifizierung (und Vereinfachung) eines Phänomens ermöglichen. Indikatoren sind die Messinstrumente, mit denen Nachweise für alle Bewertungen gesammelt werden.
Das Ganze zusammenbringen
Um Bewertungen durchführen zu können, müssen diese drei Elemente mit verschiedenen Ansätzen, Methoden, Daten und Informationen gepflegt werden.
Ein Ansatz zur Bewertung ist eine Methode zur Durchführung einer Bewertung. Er umfasst die Konzeption und die praktische Durchführung einer Bewertung, um Nachweise über die Auswirkungen von Maßnahmen und deren Ergebnisse zu erbringen. Bewertungsmethoden sind verschiedene Arten von Bewertungstechniken und -instrumenten, die unterschiedliche Zwecke erfüllen. Sie bestehen in der Regel aus Verfahren und Protokollen, die sicherstellen, dass jede Bewertung einheitlich durchgeführt wird. Bewertungsansätze und -methoden helfen dabei, die Wirkungen und Auswirkungen einer bestimmten Intervention zuzuordnen und so den politischen Entscheidungsträgern zu helfen, ihren tatsächlichen Wert zu verstehen.
Daten, Daten, Daten
Daten sind quantitative Informationen über ausgewählte Indikatoren oder Variablen, die an der Quelle selbst (z. B. durch Erhebungen, Überwachung und Statistiken von Einrichtungen) oder sekundär durch bereits vorhandene Quellen (Studien, aggregierte Statistiken usw.) gesammelt werden können. Qualitative Informationen können auch gesammelt werden, um den Kontext für die Bewertung zu liefern, und zwar in erster Linie von verschiedenen Interessenvertretern (Interventionsmanager, Begünstigte usw.) unter Verwendung verschiedener qualitativer oder gemischter Methoden (Umfragen, Fallstudien, Fokusgruppen, Interviews usw.). Die Daten und Informationen stellen den Nachweis für die Bewertung dar.
Konsistenz
Die folgende Abbildung zeigt die Kohärenzbeziehungen zwischen der Interventionslogik und anderen Elementen, Fragen und Indikatoren der Bewertung. Diese müssen vor dem Beginn einer Bewertung festgelegt werden. Die folgende Abbildung zeigt die generische Interventionslogik für Entwicklungsprogramme für den ländlichen Raum im Zeitraum 2014–2022.
-
Die in der Abbildung dargestellte Interventionslogik der Entwicklungsprogramme für den ländlichen Raum 2014–2022 beginnt mit der Ermittlung des Bedarfs durch eine SWOT-Analyse und der Festlegung einer Zielhierarchie (allgemeine, spezifische, maßnahmenbezogene Ziele). Anschließend werden politische Interventionen (Maßnahmen, Aktivitäten, Projekte) konzipiert und mit zugewiesenen finanziellen Mitteln (Euro) umgesetzt. Die Wirksamkeit, Effizienz, Relevanz und Kohärenz dieser Interventionen werden anhand der definierten Bewertungselemente (zugehörige Bewertungsfragen, Beurteilungskriterien und Indikatoren einschließlich Zielwerten) bewertet. Die erwarteten politischen Auswirkungen werden durch den Vergleich von erwarteten mit realisierten Outputs, Ergebnissen und Wirkungen bewertet.
Die blauen Kästen zeigen die Beziehung zwischen den in der SWOT-Analyse und der Bedarfsanalyse ermittelten Bedürfnissen (formuliert als Ziele), den Aktionen (z. B. Maßnahmen, Aktivitäten und Projekte), die mit einem Budget ausgestattet sind und zur Erreichung der Ziele und der erwarteten Wirkungen durchgeführt werden. Diese blauen Felder bilden die Interventionslogik. Die erwarteten Auswirkungen werden als Outputs, Ergebnisse und Wirkungen definiert:
- Outputs sind Maßnahmen, die mit den für eine Intervention bereitgestellten Mitteln finanziert und durchgeführt werden. Outputs können die Form von Einrichtungen oder Arbeiten haben (z. B. Bau einer Straße, landwirtschaftliche Investitionen oder touristische Unterkünfte). Sie können auch die Form von immateriellen Dienstleistungen haben (z. B. Schulungen oder Beratung).
- Ergebnisse sind die direkten Vorteile/Nachteile, die die Begünstigten am Ende ihrer Teilnahme an einer öffentlichen Intervention oder nach Fertigstellung einer durch eine Intervention finanzierten Einrichtung erhalten. Ergebnisse können beobachtet werden, wenn ein Begünstigter oder Betreiber eine Maßnahme abschließt und darüber berichtet, wie die zugewiesenen Mittel ausgegeben und verwaltet wurden. Dies kann auf vielerlei Weise geschehen, z. B. durch die Meldung, dass die Zugänglichkeit durch den Bau einer Straße verbessert wurde oder dass die beratenen Unternehmen sich zufrieden zeigen. Diese Ergebnisse sollten regelmäßig überprüft werden. Die politischen Entscheidungsträger können die Durchführung der Maßnahme entsprechend den erzielten Ergebnissen anpassen.
- Auswirkungen beziehen sich in der Regel auf die Veränderungen, die mit einer bestimmten Intervention längerfristig verbunden sind. Solche Auswirkungen können über verschiedene Zeiträume hinweg auftreten, verschiedene Akteure betreffen und auf verschiedenen Ebenen relevant sein (z. B. auf lokaler, regionaler, nationaler und EU-Ebene).
Bei den roten Kästen handelt es sich um Bewertungsfragen, die in der Regel Ursache-Wirkungs-Fragen sind, die nach Nettoeffekten fragen und mit Zielen verknüpft sind. Die Bewertungsfragen können durch Beurteilungskriterien weiter spezifiziert werden, die festlegen, wie der Erfolg im Rahmen der einzelnen Ziele (allgemein und spezifisch) erreicht werden soll. Sie verknüpfen Ziele mit Indikatoren.
Bei den grünen Kästchen handelt es sich um Indikatoren, die mit den Beurteilungskriterien oder Bewertungsfragen und den erwarteten Auswirkungen (d. h. Outputs, Ergebnisse und Auswirkungen) übereinstimmen sollten.
Es können mehrere Arten von Indikatoren verwendet werden:
- Output-Indikatoren messen die direkt im Rahmen eines Programms durchgeführten Aktivitäten. Diese Aktivitäten sind der erste Schritt zur Verwirklichung der operationellen Ziele einer Intervention und werden in physischen oder monetären Einheiten gemessen (z. B. Anzahl der durchgeführten Schulungen, Anzahl der landwirtschaftlichen Betriebe, die eine Investitionsförderung erhalten, oder Gesamtvolumen der Investitionen).
- Ergebnisindikatoren messen die direkten und unmittelbaren Auswirkungen einer Intervention. Sie können Aufschluss über Veränderungen beispielsweise im Verhalten, in der Kapazität oder in der Leistung der direkt Begünstigten geben und werden in physischen oder monetären Einheiten gemessen (z. B. die Bruttozahl der geschaffenen Arbeitsplätze und die erfolgreichen Schulungsergebnisse). Ergebnisindikatoren werden zur Beantwortung der spezifischen Ziele im Zusammenhang mit den Fragen der Bewertung verwendet.
- Wirkungsindikatoren beziehen sich auf die Ergebnisse der Interventionen, die über die unmittelbaren Auswirkungen hinausgehen. Wirkungsindikatoren werden in der Regel ‚netto‘ ausgedrückt, d. h. durch Abzug der Wirkungen, die nicht auf die Intervention selbst zurückgeführt werden können, von der Gesamtsumme und unter Berücksichtigung indirekter Wirkungen (z. B. Gesamtfaktorproduktivität in der Landwirtschaft, Emissionen aus der Landwirtschaft, Wasserqualität und Ausmaß der ländlichen Armut). Wirkungsindikatoren messen die Auswirkungen eines Programms auf das Gebiet, in dem es durchgeführt wird. Wirkungsindikatoren werden zur Beantwortung von Bewertungsfragen im Zusammenhang mit den Gesamtzielen verwendet.
Den Indikatoren werden häufig Zielwerte zugewiesen. Bei diesen Zielwerten handelt es sich um Werte, die auf der Grundlage vorhandener Informationen festgelegt werden und die die Programme zu erreichen versuchen, um die erwarteten Auswirkungen, Ziele und Bedürfnisse zu erreichen.
Die folgende Abbildung zeigt ein Beispiel für die Kohärenz zwischen den verschiedenen Elementen der Bewertung eines hypothetischen politischen Programms, mit dem das Problem der Emissionen aus der Landwirtschaft angegangen werden soll.
-
Die Abbildungen zeigen ein Beispiel für eine spezifische Interventionslogik für EPLR-Interventionen, die darauf abzielen, den Klimawandel zu bekämpfen, indem sie sich auf die Verringerung der Emissionen aus der Landwirtschaft und die Steigerung der erneuerbaren Produktion konzentrieren. Finanzielle Inputs (Euro) unterstützen start-ups und bestehende Unternehmen bei der Produktion erneuerbarer Energien.
Das operative Ziel besteht darin, die Zahl der Unternehmen zu erhöhen, die erneuerbare Energien produzieren. Der Output-Indikator ist die Anzahl der Unternehmen, die erneuerbare Energien produzieren, und das erwartete Ergebnis ist, dass mehr Unternehmen an der Produktion erneuerbarer Energien beteiligt sind.
Das spezifische Ziel ist die Steigerung der Produktion erneuerbarer Energien. Dies wird anhand der Frage bewertet, ob die Strategie oder das Programm zur Steigerung der Produktion erneuerbarer Energien beigetragen hat. Das Beurteilungskriterium für den Erfolg ist, dass die Produktion von erneuerbaren Energien zugenommen hat, wobei der Ergebnisindikator die Menge an erneuerbaren Energien ist, die aus den geförderten Projekten erzeugt wurde. Das erwartete Ergebnis ist ein höheres Volumen an produzierten erneuerbaren Energien.
Das Gesamtziel ist die Verringerung der Emissionen. Dies wird bewertet, indem gefragt wird, ob die Strategie oder das Programm zur Verringerung der Emissionen beigetragen hat. Das Beurteilungskriterium für den Erfolg ist, dass die Emissionen zurückgegangen sind, wobei der Wirkungsindikator die reduzierten Tonnen Methan, Ammoniak und Lachgas sind. Die erwartete Wirkung ist ein Rückgang der Emissionen.
Schulungsunterlagen
Key evaluation concepts for 2023-2027 based on Regulation (EU) 2022/1475 in relation to the evaluation of CAP Strategic Plans
(PPTX – 12.26 MB)