Impact M+E Venro DT
Impact M+E Venro DT
Impressum
Herausgeber: VENRO-Geschäftsstelle
Kaiserstr. 201
53113 Bonn
Tel: +49-(0)2 28 - 9 46 77 - 0
Fax: +49-(0)2 28 - 9 46 77 – 99
Email: [email protected]
http://www.venro.org
Autor:
Dr. Eberhard Gohl
Redaktion:
Marc Wiemann
Presserechtlich verantwortlich:
Dr. Ulla Mikota, Geschäftsführerin
Oktober 2002
2
Inhaltsverzeichnis
Inhaltsverzeichnis
3
Vorwort
Vorwort
Mit begrenzten Mitteln eine möglichst optimale Wirkung erzielen. Dieses Ziel ist allen
entwicklungspolitischen Nichtregierungsorganisationen in ihrer Projektarbeit grundsätzlich
gemein, unabhängig von ihrer Größe, ihren finanziellen Mitteln oder ihren sektoralen und
regionalen Schwerpunkten. Die Praxis sieht natürlich viel komplizierter aus. Wie muss ein Projekt
konzipiert und durchgeführt werden, um mit möglichst geringem finanziellen Input einen
optimalen "impact" (Wirkung) zu erzielen? Welches Know-how, welche Ressourcen, welche
Instrumente werden gebraucht und ist es überhaupt möglich, gewünschte Wirkungen, aber auch
nichterwünschte Nebenwirkungen zu messen? "Machen wir das Richtige?" Mit der guten Absicht
allein ist es also nicht getan. Sowohl von Seiten der Politik, wie natürlich auch von Seiten der
Spender und Spenderinnen werden die NRO immer drängender mit diesen Fragen konfrontiert.
Wie gut ist die Arbeit der NRO wirklich und wird die berühmte Spendermark auch wirklich
optimal eingesetzt?
Als Reaktion auf diese Anfragen, aber auch aufgrund eigener Erfahrungen und Erkenntnisse ist der
Ruf nach "mehr Professionalisierung" zu einer der zentralen Herausforderungen bei den
entwicklungspolitischen NRO geworden. Einige der großen Hilfsorganisationen haben bereits
eigene Evaluierungsabteilungen eingerichtet, Workshops zu diesem Thema finden großen
Zuspruch. Auf einem solchen Workshop, der im Juni 1998 von der Karl Kübel-Stiftung
durchgeführt wurde, ist auch die Idee zu der vorliegenden Handreichung entstanden. VENRO
wurde aufgefordert ein Nachschlagewerk zu erarbeiten, das in übersichtlicher Form
praxisorientierte Hilfestellung vor allem für mittlere und kleinere Organisationen bereitstellt. Dabei
war allen Beteiligten klar, dass auch diese Handreichung nur ein Teil des Lernprozesses und der
Auseinandersetzung mit einer möglichst optimalen Form der Projektplanung, der Partizipation der
Projektpartner, der Projektsteuerung, Wirkungsbeobachtung und der Evaluation ist. Der
vorliegende Text versteht sich also weder als Patentrezept noch als der Weisheit letzter Schluss,
sondern vor allem als Grundlage für die weitere Diskussion zu dieser Fragestellung. Kommentare
und Anregungen zur Handreichung sind ausdrücklich erwünscht.
Ganz herzlich danken möchte ich an dieser Stelle dem Autor der Handreichung, Dr. Eberhard Gohl,
für die Bereitschaft, seine vielfältigen Praxiserfahrungen in möglichst "appetitanregenden und
verdaulichen Häppchen" zu verarbeiten. Ebenso gilt der Dank der Kübel-Stiftung, die sich in dem
gesamten Diskussionsprozess zu "Wirkungsbeobachtung und Evaluation" entwicklungspolitischer
Projektarbeit mit mehreren Workshops in besonderer Weise engagiert hat. Finanziell ermöglicht
wurde die Handreichung durch den Nachlass des Bensheimer Kreises, der sein Restvermögen
ausdrücklich für dieses Projekt zur Verfügung gestellt hat.
Dr. Reinhard Hermle
Vorstandsvorsitzender
4
Zum Autor
Zum Autor
Dr. Eberhard Gohl arbeitet als systemischer Berater, Moderator bei organisatorischen
Veränderungsprozessen, insbesondere bei der Gestaltung von lernenden Organisationen.
Er war maßgeblich am Aufbau des Finanz- und Wirkungs-Controllings bei Brot für die Welt
beteiligt.
Mit Dorsi Germann veröffentlichte er eine reich illustrierte Handreichung zum Thema
"Participartory Impact Monitoring" zur wirkungsorientierten Steuerung von Projekten mit starker
Basisbeteiligung, als Ergänzung und Alternative zur zielorientierten Projektplanung.
5
Einleitung
Einleitung
6
1. Was vor der Erfolgskontrolle zu klären ist
7
1. Was vor der Erfolgskontrolle zu klären ist
Es kann Projekte geben, die speziell auf die Verbesserung der Leistungsfähigkeit der
Entwicklungsorganisation ausgerichtet sind; dann werden aber zugleich indirekte Wirkungen
zugunsten der Basisorganisationen erwartet.
Viele Projekte werden direkt von einer kleinen Basisorganisation durchgeführt. In diesem Fall
gilt das über Entwicklungsorganisationen Gesagte nicht, oder es gilt nur für einzelne
Funktionstragende innerhalb der Basisorganisation.
Manche Basisorganisationen sind sehr groß, z.B. Mitgliederorganisationen wie Kirchen,
Genossenschaften oder Gewerkschaften, die dann auch wieder Dachverbände oder
Föderationen bilden. Hier werden in der Regel Teile der Basisorganisation (z.B. die
Entwicklungsabteilung) die Rolle einer Entwicklungsorganisation übernehmen. Und hier kann
es zu Interessenkonflikten zwischen Funktionsträgern und Adressaten des Projekts kommen,
wenn erstere aufgrund ihres Einflusses die institutionellen oder gar individuellen Interessen in
den Vordergrund bringen.
Last not least kommt die Förderorganisation, d.h. die Gruppe, der Verein oder das Hilfswerk,
welche Entwicklungsprojekte z.B. von Deutschland aus fördert. Sie arbeitet teils mit
ehrenamtlichen, teils mit hauptamtlichen Mitarbeitern oder Mitarbeiterinnen, deren Hauptanliegen
es ist, eine bestimmte Gruppe benachteiligter Menschen in der Dritten Welt bei der Verbesserung
ihrer Lebensbedingungen zu unterstützen. Die Fördermittel kommen im wesentlichen von der
(deutschen) Öffentlichkeit, und ihr gegenüber ist die Förderorganisation rechenschaftspflichtig.
Sofern die Mittel direkt von Spendenden kommen, unterziehen sich die Hilfswerke in der Regel
einer freiwilligen Selbstkontrolle, etwa um das Spendensiegel des Deutschen Zentralinstitutes für
soziale Fragen (dzi) zu erhalten. Bei staatlichen Mitteln sind die Anforderungen des Haushaltsrecht
einzuhalten. Im Falle von Ko-Finanzierungen kann eine Förderorganisation anderen Hilfswerken
gegenüber rechenschaftspflichtig sein. Die Förderorganisation ist ebenso diesen gegenüber
verpflichtet nachzuweisen, dass die Mittel wirksam zugunsten der armen Bevölkerung eingesetzt
wurden. Angesichts der kritischen bis ablehnenden Haltung gegenüber der Entwicklungshilfe, die
hierzulande oft anzutreffen ist, stehen die Förderorganisationen zunehmend in der Pflicht, die
korrekte und wirkungsvolle Verwendung der weitergeleiteten Spenden nachweisen zu müssen.
Alle diese projektbeteiligten Organisationen unterscheiden sich hinsichtlich
• ihrer Vorstellung darüber, was Projekterfolg bedeutet
• ihrer Wahrnehmung von Veränderungen
• ihrer Zuordnung von Ursachen zu den beobachteten Veränderungen
• ihrer Verantwortung für Erfolge und Misserfolge
• ihrem Interesse an Transparenz
um nur einige Aspekte zu nennen. Wer hat mehr, wer hat weniger Interesse daran,
Projektwirkungen zu ermitteln? Wer wird sie eher beschönigen, wer wird sie eher herunterspielen?
Wer wird sich eher als Kontrolleur oder Kontrolleurin fühlen, wer eher als Kontrollierter oder
Kontrollierte? Welche Auswirkungen hat das auf einen sachlichen Dialog?
Sicher ist nur, dass es nicht einfach sein wird, eine gemeinsame Beurteilung der Erfolge, sprich
Wirkungsbeobachtung und Evaluation, zu erreichen.
Die obigen Kategorisierungen und Feststellungen sind in dieser Kürze sehr verallgemeinernd. Sie
sollten sie für Ihr Projekt nochmals überprüfen und ergänzen.
8
1. Was vor der Erfolgskontrolle zu klären ist
Ein häufiger Fehler bei der Formulierung von Problemen ist, dass das Problem als ein Fehlen einer
ganz bestimmten Lösung ausgedrückt wird, z. B.
• Mangel an Milchpulver und an Medikamenten
• Mangel an Düngemitteln
Das ist dann nur ein abgeleitetes Problem, hinter dem sich ein anderes verbirgt. Solch eine
Problemformulierung ist falsch, weil sie eine bestimmte Problemlösung schon vorgibt (eben die
Lieferung von Milchpulver, Medikamenten, Düngemitteln), ohne geprüft zu haben, ob alternative
Lösungen nicht gar besser sind. Das tatsächliche Problem erfahren wir in diesem Fall, wenn wir
erkunden, was sich hinter diesem „Mangel an ...“ versteckt, z.B. indem wir fragen:
Wenn es einen Mangel an ... gibt, dann ist die Folge, dass ...? Die richtige Formulierung dieser
Problembeispiele könnte dann lauten:
• die Kindersterblichkeit ist sehr hoch (anstatt „Mangel an Milchpulver und an
Medikamenten“)
9
1. Was vor der Erfolgskontrolle zu klären ist
• die Erträge des Manioks sind sehr gering (anstatt „Mangel an Düngemitteln“)
Eine solche Beschreibung des Problems ist zwar der wesentliche Ausgangspunkt, allerdings noch
nicht ausreichend, um Veränderungen beobachten zu können. Wir brauchen (mindestens) einen
Indikator für das Problem und eine Information, wie seine Ausprägung ist.
Die beispielhafte, konkrete Beschreibung eines Merkmales (Indikator = Anzeiger) eines Zustandes
nennen wir Indikator. Diese Beschreibung, also der Indikator, sollte möglichst objektiv
nachprüfbar sein, d.h. wenn er von verschiedenen Akteuren beobachtet wird, sollten diese nicht zu
unterschiedlichen, sondern zu gleichen Beobachtungsergebnissen kommen. Es wird nicht immer
gelingen, objektiv nachprüfbare Indikatoren zu finden, weil viele Merkmale der Problematik in der
Entwicklungszusammenarbeit im Bereich der weichen (nicht eindeutig erfassbaren) Faktoren
liegen und außerdem individuell (subjektiv) nur sehr unterschiedlich wahrgenommen werden
können.
Die Indikatoren, und insbesondere die objektiv nachprüfbaren, erlauben natürlich nicht die
befriedigende Beschreibung der gesamten Situation oder Problematik, doch sie ermöglichen uns
zumindest, ein wesentliches Merkmal zu erfassen, um spätere Veränderungen wahrzunehmen. Die
Erfahrungen zeigen, dass niemandem damit gedient ist, wenn die Indikatoren recht schwammig
sind, sondern dass auch die Basisorganisationen ein Interesse an objektiv nachprüfbaren
Indikatoren haben, weil sie für alle Beteiligten - und eben auch die Adressaten - leicht
nachvollziehbar sind.
Ein objektiv nachprüfbarer Indikator hat fünf wesentliche Informationen. Die ersten drei
Informationen dienen zur Beschreibung dessen, was gemessen werden soll; die folgenden zwei
Informationen beschreiben die beobachtete Ausprägung des Indikators zum jeweiligen Zeitpunkt:
... welches Kriterium? ... das Gewicht
... bei welcher Bevölkerung? ... bei Frauen mit Kindern unter 6 Jahren ...
... in welcher Region? ... in den Vierteln XYZ von M.
... zu welchem Zeitpunkt? Dezember 1998 (vor Projektbeginn)
... auf welchem Niveau? 48 kg (Problem-Niveau)
An dieser Stelle sei bereits gesagt: die Indikatoren beschreiben nicht nur die Ausgangssituation -
den “Ist“-Zustand -, sondern sie werden auch die folgende Entwicklung - den „Soll“-Zustand -
beschreiben; das wird im Kap. 1.3 noch ausgeführt.
Nicht immer können wir die Indikatoren so leicht beobachten oder gar messen: wenn unser
Problem ist, dass die Einkommen der Bauern niedrig sind, dann können wir schließlich keine
Einkommensteuererklärung heranziehen, um es zu beschreiben. Auch eine Befragung der Bauern
über die Höhe ihrer Einkommen mag nutzlos sein, weil solche Informationen zu vertraulich sind,
als dass sie selbst engen Freundinnen und Freunden genau mitgeteilt werden. Wenn also direkte
Indikatoren nicht zu erheben sind, sollten wir versuchen, indirekte Indikatoren zu ermitteln (Proxy-
Indikatoren, „Proxies“).
Beim Einkommen hieße das, wir müssen etwas messen, was damit in engem Zusammenhang steht
und leicht zu beobachten ist, z.B.:
• der Kauf neuer Kleider für die Kinder
• die Häufigkeit des Schulbesuchs
10
1. Was vor der Erfolgskontrolle zu klären ist
Wer soll die Erkundung der Ausgangssituation nun durchführen? Wenn wir unsere drei Gruppen
von Akteuren nehmen:
• die Basisorganisation ?
• die Entwicklungsorganisation ?
• die Förderorganisation ?
Und wer im Auftrag dieser Organisationen ?
Die Antworten lassen sich schlecht verallgemeinern. Folgende Überlegungen mögen als
Entscheidungshilfe dienen:
Die Förderorganisation sollte es nach Möglichkeit nicht tun. Ausnahmen: die Angaben im
Projektantrag scheinen zweifelhaft; die Beteiligten sind nicht ausreichend erfahren; oder aber diese
Studie soll exemplarisch ein Wirkungsmonitoring auf die Schiene setzen! Und wenn die
Förderorganisation dabei ist, muss sie sich eng mit der Entwicklungs- und Basisorganisation
abstimmen.
In der Regel beauftragt die Förderorganisation dafür eine unabhängige Gutachterin oder einen
unabhängigen Gutachter. Zu Übungs- oder Praxiszwecken könnte auch einmal eine Mitarbeiterin
oder ein Mitarbeiter der Förderorganisation an einer solchen Studie teilnehmen; die unabhängige
Fachexpertise wäre dann möglicherweise in Frage gestellt, aber für kleinere entwicklungspolitische
NRO könnte der deutlich erhöhte Praxisbezug der Projektbearbeitung ein wichtiger Zugewinn sein.
11
1. Was vor der Erfolgskontrolle zu klären ist
Die Entwicklungsorganisation wird in den meisten Fällen diese Erhebung selbst durchführen, da
sie meistens auch den Projektantrag schreibt; da sie später für die Projektdurchführung und
Berichterstattung gerade stehen muss; da sie eher als die Basisorganisation über das Know-how zur
Situationsanalyse verfügt.
Es ist sicherlich der Normalfall, dass das Projektpersonal die Erhebung durchführt; das macht auch
Sinn für ein differenziertes Kennenlernen der Situation. Es ist aber auch bereichernd, wenn
zusätzlich ein unabhängiger Gutachter oder eine Gutachterin eine „unbefangene“ Situationsanalyse
vornimmt, um die Wahrnehmung des Projektpersonals gegen zu prüfen, zu schärfen und zu
erweitern.
Die Basisorganisation wird leider in den wenigsten Fällen mit einer Erhebung der
Ausgangssituation betraut. Wäre sie nicht dazu in der Lage? Immerhin kennt sie doch ihre eigene
Situation am allerbesten; sie hat sich doch in der Regel an der Projektplanung beteiligt; sie muss ja
später Teile des Projekts durchführen.
Es ist unzweifelhaft, dass es schwierig ist, die Basisorganisation an der Erhebung der
Ausgangssituation zu beteiligen. Je nach dem, wie lange ein Projekt schon läuft, und welche
Verantwortung die Adressaten im geplanten Projekt übernehmen sollen, lässt sich abschätzen, ob
es möglich ist.
Dabei kann auch die Basisorganisation Außenstehende beauftragen, z.B. den Dorflehrer, die Ärztin
etc., oder aber die Betroffenen (die Frauen, die landlosen Bauern, ...) beschreiben ihre Situation
selbst. Es gibt ein beträchtliches Risiko, dass diese Situationsanalysen sehr interessengeleitet
werden, manchmal sogar beeinflusst von Einzelpersonen. Dann kann externe Unterstützung zu
einem realistischeren Bild verhelfen, etwa durch Fachkräfte der Entwicklungsorganisation oder
durch externe Gutachtende oder Beratende. Insbesondere wenn so etwas noch nie zuvor gemacht
wurde, ist eine externe methodische Unterstützung notwendig.
Die Entwicklungsorganisationen setzen immer häufiger partizipative Methoden des
Projektmanagements ein, die es auch der Dorfbevölkerung erlauben, sie aktiv an der Analyse und
Steuerung von Projekten zu beteiligen. Inzwischen gibt es viele gute Erfahrungen mit
Erhebungsmethoden, an denen die betroffene Bevölkerung aktiv beteiligt ist, weil diese ja selbst
über das reichhaltigste kontextspezifische „Insider“-Wissen verfügt (z.B. Participatory Rural
Appraisal - PRA). In der Aufwertung dieses Wissens und dessen Einbindung in das gesamte
Projektmanagement durch partizipative Methoden liegen gewaltige Potentiale in der
Entwicklungspolitik.
Auch eine gemeinschaftliche Situationsanalyse der beteiligten Akteure kann sehr gut zu einer
weitgehend gemeinsamen Sicht führen: mit Hilfe einer routinierten Moderation können die
Sichtweisen und Informationen zusammengetragen und zu einem einheitlichen Bild abgerundet
werden. Das ist z.B. ein wesentliches Anliegen der ersten Schritte eines ZOPP-Workshops
(zielorientierte Projektplanung); doch häufig gelingt es nicht, die Vertreter und Vertreterinnen der
Entwicklungs- und Basisorganisation in diesem Rahmen gleichgewichtig mit den hauptberuflichen
Planerinnen und Planern der Förderorganisationen zu beteiligen.
12
1. Was vor der Erfolgskontrolle zu klären ist
Das Ziel beschreibt die gewünschten Wirkungen oder die erwarteten Vorteile des Projekts. Es wird
formuliert als ein
erwünschter Zustand, der in der Zukunft erreicht werden soll.
Dabei gibt es unterschiedliche Zeithorizonte bei den Zielen. Wir haben zwei Möglichkeiten, die zu
verschiedenen Zeitpunkten erwünschten Zustände zu beschreiben:
als verschiedene Ziele: dies macht Sinn, wenn verschiedene Zeithorizonte (z.B. kurzfristig -
mittelfristig - langfristig) unterschiedliche Zielebenen beschreiben;
als ein Ziel, dass zu verschiedenen Zeitpunkten unterschiedliche Ausprägungen hat, wie sie
durch einen Indikator ausgedrückt werden können (vgl. Kap. 1.2): dies empfiehlt sich
beispielsweise bei einem Projektziel.
Während das Problem also einen gegenwärtigen negativen Zustand beschreibt, beschreibt das Ziel
einen zukünftigen positiven Zustand. Es gibt daher eine einfache Verbindung zwischen den beiden:
Das Ziel ist gewissermaßen das Gegenteil des Problems.
Wenn wir die positive Veränderung in der Situation der Adressaten bei den oben genannten
Beispielen darstellen wollen, dann lauten die Ziele beispielsweise:
• die Kinder und die Frauen sind besser ernährt
• die Kindersterblichkeit ist gering
• die Einkommen der Bauernfamilien sind gestiegen
• die Erträge des Manioks sind zufriedenstellend
Ein sehr häufiger Fehler bei der Formulierung von Zielen ist, dass das Ziel als Durchführung von
Maßnahmen (Aktivitäten) ausgedrückt wird, z.B.
• Ausbildung von Krankenschwestern oder -pflegern
• Ernährungsberatung durchführen
• Bohren von Tiefbrunnen zur Trinkwasserversorgung
Aber nicht die Durchführung der Projektmaßnahmen macht den Sinn und Erfolg eines Projektes
aus, sondern das Erreichen eines verbesserten Zustandes im Umfeld der Adressaten - dieser
erwünschte Zustand sollte darum als Ziel formuliert sein! (vgl. auch Kap. 1.4)
13
1. Was vor der Erfolgskontrolle zu klären ist
Das Oberziel kann also nicht durch ein einzelnes Projekt erreicht werden, sondern vielmehr durch
ein Zusammenwirken von mehreren Projekten oder weiteren Faktoren gleichzeitig. In der Regel
kann das Oberziel nur langfristig erreicht werden.
Beispiel:
- Die Lebensbedingungen der armen Familien in M. haben sich verbessert
Das Projektziel bezieht sich auch auf den erwünschten Zustand bei den Adressaten des Projekts
und ist ein Zustand der Zukunft, der durch ein bestimmtes Projekt erreicht werden kann, genauer
gesagt mit Hilfe von den geplanten Projektaktivitäten, den Bemühungen des Projektpersonals, den
Projektmitteln sowie mit der aktiven Partizipation der Adressaten.
Wenn ein erwünschter Zustand in der Situation der Adressaten erreicht ist, kann man es wie
folgt formulieren:
Beispiel:
- Die Frauen von M., die durch das Projekt ... ausgebildet worden sind, sowie deren Kinder sind
besser ernährt
Häufig setzt sich ein Projekt aus verschiedenen Projektkomponenten zusammen. So kann
beispielsweise ein Projekt, das die verbesserte Ernährung von Frauen und Kindern zum Ziel hat,
eine Komponente „Gesundheit“, eine Komponente „Ernährung“ und eine Komponente
„Einkommensschaffung“ haben. Das Ziel jeder Komponente entspricht einem Unterziel.
Das Ergebnis ist also ein Unterziel, für welches das Projekt verantwortlich ist.
Beispiel:
Die Frauen haben Grundkenntnisse im Bereich Gesundheit und Hygiene
Die Frauen können nahrhaftere und preiswertere Speisen zubereiten
Die Frauen erzielen ein höheres Einkommen
Im ZOPP/Logical Framework werden ebenfalls Ergebnisse formuliert. Ein Ergebnis beschreibt
dort, von der o.a. Vorstellung des Unterziels abweichend,
ein Produkt oder eine Dienstleistung, welche das Projekt den Adressaten des Projekts zur
Verfügung stellen muss, damit die gewünschten Wirkungen eintreten.
Beispiele:
Die mobile Gesundheitsberatung in den Stadtviertel XYZ von M. funktioniert
Das Frauenzentrum ist in Betrieb und wird von den Frauen besucht
Dieses Verständnis von Ergebnis kann sinnvoll sein für NROs und Projekte, die einen starken
Dienstleistungscharakter haben.
Ergebnis, Projektziel und Oberziel sind also verschiedene Ebenen von Zielen, die durch
angenommene Wirkungszusammenhänge miteinander verknüpft sind. Sie beschreiben alle einen
erwünschten Zustand, der in der Zukunft erreicht werden soll. Um die Ziele zu erreichen, müssen
wir Aktivitäten oder Maßnahmen organisieren.
Oft werden die Wirkungshypothesen als Kausalkette formuliert: wenn wir eine Reihe von
Aktivitäten oder Maßnahmen durchführen, erhalten wir ein erwartetes Ergebnis; wenn wir die
erwarteten Ergebnisse erreichen, erreichen wir auch unser Projektziel; und mit
unserem Projektziel leisten wir einen Beitrag zu dem angestrebten Oberziel. Das ganze gilt unter
der Voraussetzung, dass bestimmte Rahmenbedingungen gegeben sind, die vorher analysiert
werden.
14
1. Was vor der Erfolgskontrolle zu klären ist
In der Wirklichkeit sind die Zusammenhänge allerdings nicht so linear und scheinbar monokausal,
sondern sie sind komplizierter: eine systemische Betrachtung erlaubt uns, eine starke Vernetzung
von Problemen und Zielen zu sehen. Doch leider ist die Darstellung dieser Vernetzung sehr
schwierig, so dass in der Praxis doch oft auf einen Zielbaum zurückgegriffen wird.
Wie zuvor bei den Problemen beschrieben, sind diese Zielvorstellungen noch nicht genau genug,
um die späteren Veränderungen beobachten zu können. Wir brauchen auch für jedes Ziel wieder
(mindestens) einen Indikator und eine Information, wie dessen Ausprägung zu bestimmten
Zeitpunkten in der Zukunft sein sollte.
... welches Kriterium? ... das Gewicht
... bei welcher Bevölkerung? ... bei Frauen mit Kindern unter 6 Jahren ...
... in welcher Region? ... in den Vierteln XYZ von M.
... zu welchem Zeitpunkt? ... auf welchem Niveau?
Dezember 1998 (vor Projektbeginn) 48 kg (Problem-Niveau)
Dezember 1999 51 kg
Dezember 2000 53 kg
Dezember 2001 (nach Projektende) 54 kg (Ziel-Niveau)
Wie Indikatoren gebildet werden, wurde bei der Formulierung von Problemen bereits dargestellt.
Wir haben gesehen, dass die Indikatoren auch schon bei der Planung den Zielzustand beschreiben
und dabei möglichst im Zeitverlauf dargestellt werden sollten.
Hinsichtlich der Qualität von Zielindikatoren gibt es viele Regeln, vor allem die folgende häufig
zitierte Formel: Zielindikatoren sollen “SMART“ sein:
S specific = auf das Ziel bezogen
M measurable = messbar
A achievable = erreichbar
R realistic = realistisch
T timebound = auf Zeitpunkte bezogen
Das wesentliche dieses Kürzels sei nochmals in anderen Worten erklärt:
• der Zusammenhang zwischen Ziel und Indikator muss nachvollziehbar sein
• der Indikator sollte ohne übermäßig großen Aufwand regelmäßig messbar sein
• das Ziel sollte gerade so hoch gesteckt werden, dass es auch realistischerweise mit den
gegebenen Mitteln (Arbeitskraft, Geld, Material) erreicht werden kann - auch in seinen
Abstufungen im Zeitverlauf!
15
1. Was vor der Erfolgskontrolle zu klären ist
Was ist ein häufiger Fehler bei der Formulierung von Zielen und Aktivitäten?
Wie bereits in Kap. 1.3 erwähnt, finden wir in Projektanträgen häufig Zielformulierungen, die in
Wirklichkeit Beschreibungen von Aktivitäten sind:
• Durchführen von Trainingskursen für Landwirte im Maniokanbau
• Ausbildung von Krankenschwestern und -pflegern
• Beratung von Schwangeren
Wir können auch für die Aktivitäten Indikatoren für die erfolgreiche Durchführung finden:
• 20 Feldtage und 5 dreitägige Schulungen durchgeführt, 500 Bauern geschult
• 25 Krankenschwestern und -pfleger ausgebildet, davon 22 mit bestandenem Examen
• regelmäßige Schwangerenberatung findet in 3 Gesundheitszentren statt, 80 Frauen pro Monat
beraten
Zugegeben: die Durchführung solcher Aktivitäten kann das Ziel des Projektes gewesen sein. Alle
sind zufrieden. Wer sollte den Erfolg anzweifeln? Allerdings: über die Wirkungen wäre damit
noch nichts gesagt!
Sie selbst, gemeinsam mit den Projektpartnern und -partnerinnen, sollten nochmals prüfen: was ist
denn das Problem hinter dem Projekt? Was würde die Situation der Adressaten des Projekts
verbessern? Wann hat das Projekt „echt etwas gebracht“?
• Sollten die Landwirte informiert werden, oder sollten etwa ihre Maniokerträge steigen?
16
1. Was vor der Erfolgskontrolle zu klären ist
• Sollten die jungen Frauen und Männer einen Beruf erlernen, oder sollte etwa die
Gesundheitssituation in einer bestimmten Region verbessert werden?
• Sollte die Beratungsstelle funktionieren, oder sollten etwa die Zahlen der Fehlgeburten und
der Kindersterblichkeit zurückgehen?
Vergessen wir nicht, dass viele Brunnen gebohrt wurden, Trainingszentren errichtet, Werkstätten
eingerichtet, Menschen ausgebildet, Kampagnen durchgeführt .... lag dann der Erfolg bereits darin,
dass dies durchgeführt wurde, oder erst darin, dass es den Adressaten genützt hat?
gesagt ist nicht gehört
gehört ist nicht verstanden
verstanden ist nicht zugestimmt
zugestimmt ist nicht angewandt
angewandt ist nicht übernommen
übernommen ist nicht verbessert
„gemacht“ ist nicht „bewirkt“!
Das Budget ist eine Aufstellung der vorgesehenen Ausgaben und Einnahmen; es wird auch
„Kosten- und Finanzierungsplan“ genannt. Der Kostenplan ergibt sich direkt aus den geplanten
Aktivitäten; nur auf diese direkt zuordbaren Ausgaben beschränken wir uns an dieser Stelle, weil
sie der wesentliche Punkt sind. (Allerdings wird es außerdem nötig sein, Ausgaben von Kosten zu
unterscheiden - besonders im Falle von Investitionen -, und es kommen noch Gemeinkosten hinzu,
die sich daraus ergeben, dass eine gewisse Organisationsstruktur auch außerhalb des Projekts
aufrechterhalten werden muss, um das Projekt durchzuführen.)
In das Budget kommt letztlich nur, was auch wirklich mit Geld zu bezahlen ist, bzw. wofür Geld
eingenommen wird. Wir müssen deshalb diejenigen Aufwände und Erträge herausnehmen, die
nicht in Form von Geld fließen. Sie kommen in eine gesonderte Aufstellung.
Um die voraussichtlichen Ausgaben eines Projekts zu ermitteln, gehen wir sinnvollerweise drei
Schritte:
alle Projekterträge, die Geld einbringen können, werden aufgelistet (Liste der Produkte)
17
1. Was vor der Erfolgskontrolle zu klären ist
für jedes Produkt wird die voraussichtlich produzierte Menge ermittelt (voraussichtlicher
Ertrag)
die für den jeweiligen Ertrag zu erzielende Geldsumme wird berechnet (voraussichtliche
Einnahmen)
die darüber hinaus zu erwartenden Fördermittel werden aufgelistet, wobei zu beachten ist, ob
sie an bestimmte Projektaktivitäten zweckgebunden sind, oder frei zugeordnet werden können
Das Budget hat drei wesentliche Funktionen, die auch bei der späteren Erfolgskontrolle von
Bedeutung sind:
Verteilung der Ressourcen (Arbeitskraft, Geld, Material) auf die Aktivitäten und damit auf
bestimmte Verantwortlichkeiten ( Ausgaben)
Mobilisierung der notwendigen Ressourcen (Arbeitskraft, Geld, Material), um den Plan
durchzuführen ( Einnahmen)
Festlegung von Obergrenzen, die mit den Ausgaben nicht überschritten werden dürfen, und
von Untergrenzen, die bei den Einnahmen zu erreichen sind.
Ausgaben und Einnahmen müssen in einem Budget im Gleichgewicht sein. Der Kostenplan allein
reicht nicht; es ist auch nicht selbstverständlich - und oft auch nicht den entwicklungspolitischen
Zielen dienlich - wenn die Kosten zu 100 % von einem ausländischen Hilfswerk finanziert werden.
Das Projekt kann die geplanten Aktivitäten nur durchführen, wenn es die entsprechenden
finanziellen Mittel zur Verfügung hat. Daher müssen alle Beteiligten auch wissen, welches die
Quellen für die Einnahmen sind.
18
1. Was vor der Erfolgskontrolle zu klären ist
viele Risiken benennt, kann es für sie heikel werden, falls sich dann keine Förderorganisation
beteiligen möchte. Und am allerwichtigsten ist es, dass die Basisorganisation immer wieder
Gelegenheit erhält, sich dazu zu äußern - selbst wenn sich ihre Mitglieder zu Beginn des Projektes
möglicherweise damit schwer tun.
Wenn Risiken identifiziert sind, ist zu prüfen, inwieweit das Erreichen der Projektziele stark
angezweifelt werden muss. Es ist sicher auch nochmals ein Anlass, alternative Vorgehensweisen
für das Projekt zu erkunden.
Die Risiken lassen sich im wesentlichen in zwei Arten einteilen:
externe Risiken, die außerhalb der Verantwortung der Projektbeteiligten liegen
interne Risiken, die in der Verantwortung der Projektbeteiligten liegen
Für die Risiken müssen - ebenso wie für Probleme und Ziele - Indikatoren gefunden werden, die
anschließend auch regelmäßig beobachtet werden müssen, und auf die ggf. auch reagiert werden
muss, wenn die Zielerreichung gefährdet ist.
Wenn wir ein Risiko identifiziert haben, müssen wir es so umformulieren, dass wir den Zustand
beschreiben, der eigentlich gegeben sein sollte:
• die Versorgung mit Milchpulver und Medikamenten ist ausreichend
• die örtlichen Vertreter und Vertreterinnen des Gesundheitsministeriums halten die
Absprachen ein
Hinsichtlich der externen Risiken sollten sich die Projektbeteiligten fragen, ob sie diese nicht doch
etwas beeinflussen können, etwa durch Absprachen oder Kooperation mit den anderen
Verantwortlichen, oder ob sie sich durch Vorsorgemaßnahmen in gewisser Weise davor schützen
können. Solche Maßnahmen könnten als zusätzliche Aktivitäten in die Planung aufgenommen
werden.
Was für die externen Risiken gilt, gilt noch viel mehr für die internen Risiken:
zusätzliche Maßnahmen sollten auch den internen Risiken vorbeugen.
Wenn wir fragen „Was sollte nicht passieren?“, so fragen wir genau genommen nach einem Ziel.
Wir formulieren einen Zustand in der Zukunft, den wir vermeiden wollen. Und häufig können wir
dieses Ziel so umformulieren „Was sollte (stattdessen) passieren?“, dass wir positiv ausdrücken,
was wir erreichen wollen:
Risiko (negativ) Ziel (positiv)
„Was sollte nicht passieren?“ „Was sollte (stattdessen) passieren?“
dass die Buchhaltung nicht regelmäßig dass die Buchhaltung regelmäßig geführt
geführt wird wird
dass die Mitglieder ihre Darlehen nicht dass die Mitglieder ihre Darlehen rechtzeitig
rechtzeitig zurückzahlen zurückzahlen
dass in der Basisorganisation die interne dass in der Basisorganisation die interne
Kontrolle nicht funktioniert Kontrolle funktioniert
19
1. Was vor der Erfolgskontrolle zu klären ist
Ein zweiter Aspekt dieser Umformulierung von Risiken in Ziele ist noch wichtiger in Hinblick auf
die spätere Wirkungsbeobachtung: In den meisten Fällen ist ein Projekt durch eine konkrete
Problemsituation veranlasst. Die Projektziele beziehen sich dann auf technische oder ökonomische
Veränderungen, die angestrebt werden. Wenn wir dagegen aber Ziele aus den Befürchtungen
ableiten, dann sind das häufig Ziele, die sich auf Fähigkeiten beziehen.
Dieser Weg erlaubt uns, sehr konkret Indikatoren für indirekte, eher verborgene Ziele zu
identifizieren, die Merkmale für die Fähigkeiten beschreiben, welche die Voraussetzung für die
Durchführung von Projekten und für die Entwicklung generell sind. Es sind Indikatoren der
personalen und sozialen Entwicklung, und es gibt dafür Begriffe wie „soft skills“, „empowerment“
oder „Problemlösungskompetenz“.
Herkömmlicherweise werden die entsprechenden Ziele und Indikatoren eher vage beschrieben; mit
dem Zwischenschritt über die Umformulierung von Risiken kommen wir zu sehr
kontextspezifischen und präzisen Indikatoren, die von den Betroffenen selbst beobachtet werden,
die ihnen ein Anliegen sind, und die ihr Bewusstsein und Selbstbewusstsein bilden. Wenn es
gelingt, dass die Mitglieder einer Basisorganisation oder einer Entwicklungsorganisation die
Risiken bei sich selbst identifizieren können, dann haben sie einen Teil ihrer eigenen
Entwicklungsziele benannt, die sich hervorragend für eine entwicklungspolitische
Wirkungsbeobachtung eignen.
1.6 Berichtswesen
Ein systematisches Berichtswesen - selbst in der einfachsten Form - ist das A & O einer
Wirkungsbeobachtung und späteren Erfolgskontrolle. Es muss zu Beginn vereinbart und dann auch
regelmäßig eingefordert werden.
Es kann ganz einfach sein; folgendes Grundschema empfiehlt sich:
Was war geplant/ Was wurde erreicht? Begründungen von Korrekturmaßnahmen
vereinbart Abweichungen
hier ist exakt zu hier ist exakt sofern Wenn
wiederholen, die Struktur der wesentliche Abweichungen
was vereinbart Vereinbarung Abweichungen vorkamen:
worden war wiederzugeben vorkommen, ist entweder wurde
zu erläutern,
Ziele mit Ziele mit innerhalb der
wodurch sie
Indikatoren wie Indikatoren: Planungen
zustande kamen
vereinbart was wurde korrigiert
erreicht? was
Aktivitäten: oder es ist eine
„wesentlich“
wie vereinbart Aktivitäten: Änderung der
ist, kann
Budget: was wurde Pläne notwendig
quantitativ
durchgeführt?
Einnahmen und vorher vorab klären: Ist
Ausgaben in Budget: was festgelegt eine Änderung
der wurde werden (z.B. zustimmungs-
vereinbarten eingenommen, 20%), pflichtig
Struktur mit was wurde ansonsten kann
den ausgegeben? flexibel
vereinbarten nachgefragt
Beträgen werden
20
1. Was vor der Erfolgskontrolle zu klären ist
21
1. Was vor der Erfolgskontrolle zu klären ist
Die durchführungsorientierte Kontrolle ist im Kontext der Armut meistens sehr wichtig und daher
häufiger anzutreffen, da viele Projektbeteiligte darauf angewiesen sind (oder von der
Verwandtschaft gedrängt werden), kleine Ermessensspielräume und wenig kontrollierte Aufgaben
zu ihren privaten Gunsten zu nutzen.
Die ergebnisorientierte Kontrolle entspricht vermutlich mehr dem Denken in den Industrieländern.
Beim „Management by Objectives“ wird eine Vereinbarung über die zu erreichenden Ergebnisse
oder Ziele getroffen, mithilfe welcher Aktivitäten das geschieht, ist in gewisser Weise sekundär,
solange das Budget und die Projektphilosophie eingehalten werden. Zu dieser Verantwortlichkeit
für ein Ergebnis oder Ziel gehört dann in der Regel auch ein Budget, über welches die oder der
Verantwortliche weitgehend frei innerhalb der Zweckbestimmung verfügen kann.
Dieses Managementkonzept ist zwar bei unseren Projektpartnern in der Dritten Welt kaum
anzutreffen, aber wir müssen uns klarmachen, dass die Projektvereinbarung zwischen
Förderorganisation und Entwicklungsorganisation auf diesem Konzept beruht, und ebenso die
meisten der in der Entwicklungszusammenarbeit verwandten Planungsmodelle wie z.B. ZOPP.
Diese Kontrollmechanismen wirken sich auch auf die Form der internen Kontrolle und
Berichterstattung aus. Auch wenn wir sehen müssen, dass die Form der Kontrolle sehr stark eine
Kultur- und Stilfrage ist, so sollten wir im Interesse der Wirkungsbeobachtung und
Erfolgskontrolle auf der Steuerungsebene doch mehr den Akzent auf die ergebnisorientierte
Kontrolle setzen.
Die Verantwortlichen der Entwicklungsorganisation müssen nach Möglichkeiten suchen, sich
selbst auf eine ergebnisorientierte Kontrolle konzentrieren, und dabei die durchführungsorientierte
Kontrolle zu delegieren:
• entweder auf eine untergeordnete Führungsebene
• oder an eine interne Verwaltungseinheit.
22
Anhang – Kopiervorlagen Kapitel 1
23
Anhang – Kopiervorlagen Kapitel 1
Interessen
Wahrnehmungen
Nutzen
Verantwortung
...
Wirkungsanalysen !
24
Anhang – Kopiervorlagen Kapitel 1
Fünf Schlüsselbegriffe
für Planung und Monitoring
von Projekten
Aktivität Budget
25
Anhang – Kopiervorlagen Kapitel 1
Problem: ein real existierender Zustand, der als negativ betrachtet wird und
eine Veränderung erfordert
• eines Merkmales
• eines Zustandes
Beispiel:
... bei welcher Bevölkerung? ... bei Frauen mit Kindern unter6 Jahren...
26
Anhang – Kopiervorlagen Kapitel 1
Beispiel:
27
Anhang – Kopiervorlagen Kapitel 1
Beispiele:
Das Budget hat drei wesentliche Funktionen, die auch bei der späteren
Erfolgskontrolle von Bedeutung sind:
Verteilung der Ressourcen (Arbeitskraft, Geld, Material) auf die
Aktivitäten und damit auf bestimmte Verantwortlichkeiten (
Ausgaben)
Mobilisierung der notwendigen Ressourcen (Arbeitskraft, Geld,
Material), um den Plan durchzuführen ( Einnahmen)
Festlegung von Obergrenzen, die mit den Aussagen nicht überschritten
werden dürfen, und von Untergrenzen, die bei den Einnahmen zu
erreichen sind ( Wirtschaftlichkeit, Effizienz)
28
Anhang – Kopiervorlagen Kapitel 1
29
Anhang – Kopiervorlagen Kapitel 1
30
Anhang – Kopiervorlagen Kapitel 1
1.6 Berichtwesen
Hier ist exakt zu Hier ist exakt die Sofern wesentliche Wenn Abweichungen
wiederholen, was Struktur der Abweichungen vorkamen:
vereinbart worden Vereinbarung vorkommen, ist zu
war wiederzugeben erläutern, wodurch
sie zustande kamen:
Budget:
Budget: vorab klären:
Einnahmen und
Ausgaben in der Was wurde ist eine Änderung
vereinbarten tatsächlich zustimmungspflichtig
Struktur mit den eingenommen und
vereinbarten ausgegeben?
Beträgen
31
Anhang – Kopiervorlagen Kapitel 1
32
2. Wirkungsbeobachtung
2. Wirkungsbeobachtung
2.1 Wozu dient die Wirkungsbeobachtung?
Jede Organisation erzeugt bestimmte Produkte. Während ein Unternehmen greifbare Produkte oder
Dienstleistungen anbietet, die einen Marktpreis haben, ist die Beschaffenheit der Produkte im
gemeinnützigen Bereich undeutlicher. In der Regel sind die Produkte einer „Non-Profit-
Organisation“ eben die Wirkungen, die sie im Sinne ihrer gemeinnützigen oder mildtätigen Ziele
erzeugt.
Der in der Entwicklungspolitik häufig verwendete Begriff hierzu ist Wirksamkeit oder
Effektivität eines Projektes oder einer Organisation; wir fragen: „Machen wir das Richtige?“ (Sind
unsere Ergebnisse sinnvoll?)
Des weiteren wollen wir unsere Arbeitskraft oder unser Geld (wovon wir ja nicht unendlich viel
haben) wirtschaftlich einsetzen, d.h. mit unseren begrenzten Mitteln wollen wir eine möglichst
große Wirkung erzielen. Während bei einem Unternehmen das Verhältnis von Aufwand und Ertrag
(„Input“ und „Output“) die Wirtschaftlichkeit (z.B. Rentabilität, niedrige Stückkosten) berechnet
wird, sind bei einer gemeinnützigen Organisation sowohl der Aufwand (z.B. die ehrenamtliche
Arbeit) als auch der Ertrag (eben die Wirkungen im Sinne ihrer gemeinnützigen oder mildtätigen
Ziele) nicht in Geld zu bewerten, und Wirtschaftlichkeitsrechnungen daher nur begrenzt möglich.
In der Entwicklungspolitik sprechen wir eher von Leistungsfähigkeit oder Effizienz eines
Projektes oder einer Organisation; wir fragen: „Machen wir es richtig?“ (Setzen wir unsere Mittel
und Kräfte richtig ein?)
Annähernd sinnvolle Aussagen über Effektivität und Effizienz einer gemeinnützigen Organisation
können wir also nur machen, wenn wir die Wirkungen im Sinne ihrer Ziele kennen, ergänzt um
eventuelle nicht beabsichtigte Wirkungen.
Rechenschaftslegung
Diese Aussagen über Effektivität und Effizienz sind natürlich kein Selbstzweck. Jede Förder- und
Entwicklungsorganisation steht im Rampenlicht der Öffentlichkeit und muss jederzeit in der Lage
sein, wahrheitsgetreu und umfassend Auskunft über die anvertrauten Gelder und die damit
erzeugten Ergebnisse geben zu können. Sogar der Staat interessiert sich dafür, nicht nur als
„Zuwendungsgeber“, z.B. prüft das Finanzministerium, ob die Organisation wirklich gemeinnützig
arbeitet und damit zu Recht steuerlich begünstigt ist.
Öffentlichkeit + Staat Öffentlichkeit + Staat
Entwicklungsorganisation Förderorganisation
Vorstand + Management Vorstand + Management
Mitglieder Mitglieder
Zuwendungsgeber Zuwendungsgeber
Adressaten („Zielgruppen“) Spender („Zielgruppen“)
33
2. Wirkungsbeobachtung
Auch nach innen ist immer eine Rechtfertigung notwendig, denn es wird relativ viel Geld bewegt,
und die richtige Verwendung der Mittel ist auch intern nachzuweisen: die Mitarbeiter und
Mitarbeiterinnen gegenüber der Geschäftsführung (dem Management); das Management gegenüber
den Mitgliedern, vertreten durch den Vorstand.
Ob außen oder innen: es gibt noch weitere spezifische Zielgruppen, denen die gemeinnützigen
Organisationen nachweisen müssen, dass sie gut arbeiten, z.B. den Zuwendungsgebern,
Spendenden oder Projektadressaten. Sie sind im engeren oder weiteren Sinne beteiligt, weder die
Entwicklungsorganisation noch die Förderorganisation können auf ihr Vertrauen verzichten und
sind darum ihnen gegenüber rechenschaftspflichtig.
34
2. Wirkungsbeobachtung
Da Kapitel 3 der Evaluation gewidmet ist, sollen sich die Ausführungen in Kapitel 2 stärker auf die
Wirkungsbeobachtung im Sinne des Monitorings beziehen; anders ausgedrückt:
Wirkungsbeobachtung wird als Instrument des täglichen Projektmanagements dargestellt.
Projektwirkungen noch vorhanden sind, ist damit noch nicht gesagt, dass sie mit Dauerhaftigkeit
bleiben werden.
Daraus ergeben sich zusammenfassend folgende Schritte für die Ermittlung von Wirkungen:
• Zunächst wird der Ausgangszustand ermittelt.
• Durch regelmäßige Beobachtung wird festgestellt, inwieweit sich die Situation verändert.
• Mit Hilfe von Wirkungshypothesen wird eine Annahme getroffen, ob die Veränderung der
Situation eine Projektwirkung ist.
• Regelmäßige Beobachtung des Zustandes, auch nach Projektende, wird zeigen, ob eine
Wirkung nachhaltig oder gar dauerhaft ist.
Weil die Wirkungsbeobachtung im Sinne von Monitoring hier als ein Instrument des Projekt-
Managements dargestellt wird, steht die Frage im Vordergrund: Was ist wichtig für die Steuerung
des Projekts?
Die Zielebenen (formelle Ziele):
Wie in Kap. 1.3 dargestellt, beschreiben die Ziele eines Projekts - wenn sie nach den dort
genannten Regeln formuliert sind -, welche Wirkungen durch das Projekt erwartet werden. Je
nachdem wie systematisch bei der Projektplanung vorgegangen wurde, können mehrere Ebenen
von Zielen unterschieden werden:
• Oberziel: ein Zustand, der in der Zukunft zu erreichen ist, zu dem das Projekt einen Beitrag
leisten wird (= das Projekt leistet einen Beitrag zu diesem Oberziel, aber er ist eher indirekt)
• Projektziel: ein Zustand in der Zukunft, der durch ein bestimmtes Projekt erreicht werden soll
(= das Projektmanagement kann das Projektziel mit großer Wahrscheinlichkeit erreichen, ist
aber nicht alleine dafür verantwortlich)
• Ergebnis: ein Unterziel, für welches das Projekt verantwortlich ist (= das Projekt kann das
Ergebnis mit großer Wahrscheinlichkeit in eigener Verantwortung erreichen) oder aber ein
Produkt oder eine Dienstleistung, welche das Projekt den Adressaten des Projekts zur
Verfügung stellen muss, damit die gewünschten Wirkungen eintreten.
Die Sicht der verschiedenen Akteure (informelle Ziele):
Wie in Kap. 1.1 dargestellt, haben die einzelnen projektbeteiligten Organisationen unterschiedliche
Sichtweisen und Interessen in vielen Dingen, u.a. auch hinsichtlich der Ziele eines Projekts. Zwar
ist es wahrscheinlich, dass sie sich über eine Projektvereinbarung auf eine gemeinsame
Zielformulierung geeinigt haben, doch es ist trotzdem anzunehmen, dass es sich dabei um einen
Kompromiss handelt, und keinen vollen Konsens:
• weil sie unterschiedliche Problemsichtweisen haben
• weil sie unterschiedliche Prioritäten haben
• weil sie unterschiedliche Bedürfnisse haben
• weil sie unterschiedliche Zielvorstellungen haben
• weil sie sich unterschiedlich gut (im Entwicklungsjargon) artikulieren können
• weil sie sich unter einer (abstrakten) Formulierung Unterschiedliches vorstellen
Es ist anzunehmen, dass es bei den Zielen mehrere Perspektiven gibt:
36
2. Wirkungsbeobachtung
Auch wenn es teilweise Wiederholungen geben mag, seien nochmals einige Unterscheidungen von
Wirkungen vorgenommen:
Erwartete und unerwartete Wirkungen:
Die erwarteten Wirkungen sind insbesondere diejenigen, die ausdrücklich durch die
Zielformulierung des Projekts angestrebt werden; sie werden in der Regel von Anfang an
beobachtet. Darüber hinaus ist es natürlich denkbar, dass manche erwartete Wirkungen nicht
37
2. Wirkungsbeobachtung
explizit erwähnt werden, weil sie eng mit dem Ziel zusammenhängen, oder aber nicht besonders
erwähnenswert erscheinen. Ebenso können - auch als Begleiterscheinung zu einer positiven
Zielerreichung - negative Nebenwirkungen befürchtet werden.
Die unerwarteten Wirkungen sind nicht vorhergesehen worden, in den seltensten Fällen werden sie
darum von Anfang an beobachtet. Wir können diese unerwarteten Wirkungen nicht erfassen, wenn
wir nur nach den Zielen (= angestrebten Wirkungen) fragen.
Ausnahme könnte allerdings sein, dass es als ein Ziel (oder Risiko oder Grundsatz) formuliert war,
einen bestimmten Zustand unverändert zu lassen, das Projekt nun aber doch unvorhergesehen
Auswirkungen hat.
Beispiel: die Erhaltung der Trinkwasserqualität bei der Ansiedlung von Kleinbetrieben in den
Stadtvierteln XYZ von M.
Positive und negative Wirkungen:
Es sei hier nur daran erinnert, dass Wirkungen nicht immer nur positiv (= wünschenswert) sein
müssen. Wir sollten versuchen, Wirkungen auch vorherzusehen und zu beobachten, wenn sie
negativ (= nicht wünschenswert) sind; meist aber stellen sich die negativen Wirkungen unerwartet
ein. Die Bewertung, ob eine Wirkung positiv oder negativ ist, kann oft subjektiv sein, sie hängt
letztlich ab von den Wertesystemen und Grundsätzen der Akteure.
Direkte und indirekte Wirkungen
Bei den direkten Wirkungen gibt es nach den Wirkungshypothesen, die der Planung zugrunde
liegen, meist eine klare Ziel-Mittel-Beziehung zwischen den Projektmaßnahmen und den
beobachteten Wirkungen.
Bei den indirekten Wirkungen ist die Ziel-Mittel-Beziehung weniger klar, entweder weil zwischen
Projektmaßnahmen und Wirkungen mehrere Stufen sind, oder weil außer den Projektmaßnahmen
noch mehrere andere Maßnahmen und Rahmenbedingungen bedeutenden Einfluss auf die
Veränderungen gehabt haben können.
Die Einschätzung, ob direkte oder indirekte Wirkung, kommt ausschließlich aus den
Wirkungshypothesen; sie lässt sich nicht beweisen (vgl. Kap. 1.), und die Unterscheidung zwischen
beiden ist natürlich fließend.
Projektbudget:
Wie in Kap. 2.1 beschrieben, sind die Finanzen bzw. ist das Projektbudget mit Sicherheit kein
Indikator für Wirkungen. Aber es gibt ja viele Gründe, das Projektbudget regelmäßig zu
beobachten:
Wenn kein Überblick über Einnahmen und Ausgaben da ist, können keine wichtigen
Projektentscheidungen fallen.
Monitoring von Aufwand (Arbeitskraft, Geldausgaben, Material) und Ertrag (Ergebnisse,
Wirkungen) eines Projekts müssen als wesentliche Führungsinformationen immer in
Verbindung zueinander gesehen werden.
Ein wesentlicher Grund ist, dass häufig Aussagen über Effizienz erwartet werden, und dabei
können Wirkungen zum monetären Aufwand (den Geldausgaben) in Beziehung gesetzt
werden.
Die Budgetkontrolle ist in jedem Fall ein elementares Management-Instrument; hier sei nur daran
erinnert, dass sie ebenfalls in Verbindung mit der Wirkungsbeobachtung relevant ist.
Es wird deutlich, dass es eine schier unendliche Anzahl von Dingen zu beobachten gibt: alle Arten
von Zielen, die Vielfalt von Akteuren, die vielen Arten von Wirkungen. Aber es ist unmöglich, alle
denkbaren Wirkungen regelmäßig und vorab zu beobachten.
Wir müssen eine Vorauswahl treffen.
Die Auswahl der zu beobachtenden Wirkungen hängt in erster Linie ab von den Zielen der Akteure
und den Mandaten der beteiligten Organisationen. Sie wird weiterhin bestimmt durch
• den Umfang des Projekts
• die Summe der eingesetzten Geldmittel
• die für Wirkungsbeobachtung zur Verfügung stehenden Zeit und Mittel
• das wissenschaftlichen Erkenntnisinteresse
• die Methodenkenntnisse und Erfahrungen in der Wirkungsbeobachtung
• den Ausbildungsstand der Beteiligten
• den Rechtfertigungsdruck des Projektmanagements gegenüber anderen Projektbeteiligten
und durch vieles andere mehr. Letztlich wird mit der Auswahl eine politische Entscheidung
getroffen, die durch ökonomische Motive geprägt ist, denn die regelmäßige Informationssammlung
und ihre Verarbeitung kosten Arbeitszeit und verursachen damit Personalkosten. Aufwand und
Ertrag müssen auch bei der Wirkungsbeobachtung optimiert werden.
Um das weite Spektrum der Möglichkeiten wieder auf ein realistisches Maß einzuengen: für den
Anfang sollte es genügen, wenn jeder der beteiligten Projektakteure (Basisorganisation,
Entwicklungsorganisation, Förderorganisation) jeweils 3 - 5 erwartete Wirkungen regelmäßig
beobachtet, und zwar diejenigen, die ihnen jeweils am wichtigsten erscheinen. Auf diese Weise
werden vielleicht 5 - 10 wichtige Wirkungen insgesamt beobachtet, manche davon aus mehr als
einer Perspektive. Das ist am Anfang schon eine ganze Menge!
39
2. Wirkungsbeobachtung
40
2. Wirkungsbeobachtung
ganz oder teilweise ablehnen oder annehmen; in jedem Fall sollte sie als wesentlicher Bezugspunkt
der gemeinsamen Diskussion dienen. (vgl. auch Kap. 3: Evaluation)
41
2. Wirkungsbeobachtung
Bei der Dokumentation der beobachteten Wirkungen muss zunächst einmal die geordnete
projektinterne Dokumentation sichergestellt sein. Sie geschieht am besten, indem für jeden
Indikator ein gesondertes Blatt angelegt wird, das dann über die gesamte Projektlaufzeit - oder
sogar darüber hinaus - weitergeführt wird. Folgende Struktur bietet sich an.
Das Indikator-Beobachtungsblatt besteht aus zwei Teilen: einem Kopfteil mit den gleichbleibenden
Grunddaten und einem Erhebungsteil, in den die Erhebungsergebnisse und Kommentare
fortlaufend eingetragen werden.
42
2. Wirkungsbeobachtung
Indikator-Beobachtungsblatt
Projekt: Ernährungsberatung in M
Ziel/ Erwartung/ Befürchtung/ sonstiges Ziel 1: Verbesserte Ernährung
Beschreibung des Indikators (Kriterium, Bevölkerung, Region) das Gewicht bei Frauen mit
Kinder unter 6 Jahren in den Vierteln XYZ von M. ist gestiegen
Niveau des Indikators (oder Basisdaten) bei Projektbeginn .... Dezember 1998:48 kg
Informationsquelle (+Verantwortliche/r) Jährliche Erhebung durch XYZ
Datum Erwartete Erreichte Analyse der Abweichungen Korrekturmaßnahmen
Ergebnisse Ergebnisse
31.12.99 51 kg 49,5 kg Die Projektaktivitäten waren Zusätzliche
zu spät angelaufen, um voll Vertiefungskurse für
zu greifen; Beraterinnen Beraterinnen,
unzureichend ausgebildet monatliches Coaching
durch ZY
31.12.00 53 kg 52.,6 kg Geringe Abweichung -
31.12.01 54 kg
Um die Übersicht über die Indikator-Beobachtungsblätter zu behalten, sind sie sortiert in einem
Ordner abzuheften. Darüber hinaus ist es sinnvoll, ein Deckblatt „Monitoring-Kalender“ oder
„Liste der Indikatoren“ zu verwenden, aus dem auf einen Blick ersehen werden kann, welche
Indikatoren es gibt und wann sie durch wen zu erheben sind. Es ist folgendermaßen aufgebaut:
Formular „Monitoring-Kalender“
Liste der Sämtliche Indikatoren, die regelmäßig beobachtet werden, sind hier
Indikatoren aufzuzählen (auch wenn sie nicht Wirkungen, sondern z.B. Aktivitäten
betreffen)
Name des Die Bezeichnung des Indikators (z.B. Meiserträge, Sommerdurchfälle bei
Indikators Kleinkindern)
Monitoring- Wer ist für die Berichterstattung über den betreffenden Indikator
Verantwortlicher verantwortlich?
43
2. Wirkungsbeobachtung
Jahr Die betreffende Jahreszahl; es versteht sich, dass hier auch eine mehrjährige
Periode (Projektlaufzeit) eingetragen werden könnte.
In der Regel muss die Entwicklungsorganisation - über die interne Dokumentation dieser
Information hinaus - den anderen Projektbeteiligten regelmäßig formal Bericht erstatten. Die
Förderorganisationen erwarten in der Regel Projektfortschrittsberichte alle 6 oder 12 Monate. Jede
Förderorganisation hat für die Struktur leider eigene Regeln - wenn überhaupt. Ein typischer
Aufbau solcher Berichte könnte sein:
Veränderungen im Umfeld des Projekts
Veränderungen innerhalb der Entwicklungsorganisation und der Basisorganisation
Vergleich: was war geplant / was wurde erreicht
(bei Abweichungen:) Abweichungsanalyse und ggf. Korrekturmaßnahmen
weitere Punkte, die für das Mandat / die Ziele der Förderorganisation von besonderer
Bedeutung sind
Bedarf an zustimmungspflichtiger Veränderung der Pläne und des Budgets
Sonstiges (welche Rückmeldungen haben wir erhalten, was haben wir gelernt, welcher
Beratungsbedarf besteht gerade, offene Fragen)
Monitoring-Kalender
44
2. Wirkungsbeobachtung
Verkehrssprache formal berichten („reversed reporting“); vielleicht bietet sich inzwischen mit dem
Internet vielen Hilfswerken ein leichterer Einstieg in neue Berichtsformen.
Es macht Sinn, auch die Adressaten des Projekts kontinuierlich über die beobachteten Wirkungen
zu informieren. Das muss dann in einer Form geschehen, die den Adressaten verständlich ist, d.h.
ihrer Kultur, ihrem Ausbildungsstand, ihrer Wahrnehmung angemessen ist, und zugleich Interesse
weckt und zur Reflexion animiert.
Abgesehen davon, dass die Information mündlich auf Versammlungen geschehen kann, sollte sie
auch in schriftlicher oder graphischer Form dokumentiert sein. Sehr geeignet sind Poster, die an
leicht zugänglichen Stellen (Dorfplatz, Kirche, Rathaus, etc.) angebracht werden, oder an der
Stelle, wo die Adressaten vom Thema betroffen sind (Gesundheitsposten, Kooperativengebäude,
am Weg zum Fluss, etc.). Anmerkung: Es ist sehr positiv, dass Gesundheitsposten immer häufiger
regelmäßig die Veränderung der Gesundheitssituation beobachten und dies auch dokumentieren.
Weil diese Berichte nur intern sind, geschieht das leider meist nicht in einer „kundenfreundlichen“
Form, sondern die schreibmaschinengeschriebenen Tabellen hängen einfach im Büro an der Wand.
Für die Gestaltung der Poster sind der Phantasie keine Grenzen gesetzt, solange sie verständlich
sind und Interesse wecken. Auf den folgenden Seiten sind einige Beispiele abgebildet (vgl.
folgende 2 Seiten).
Diese anschaulich visualisierte Form der Berichterstattung dürfte auch geeignet sein, wenn die
Basisorganisation selbst die Wirkungsbeobachtung durchführt und dabei den anderen
Projektbeteiligten berichtet - der Entwicklungsorganisation, der Förderorganisation, den eigenen
Mitgliedern, aber auch allen Adressaten des Projekts.
Das ist nicht nur besonders authentisch, sondern es hat auch einen sehr praktischen Aspekt: es
müssen keine gesonderten Berichte geschrieben werden (höchstens ein paar Erläuterungen, falls
notwendig). Oft nämlich findet eine Berichterstattung hauptsächlich deswegen nicht statt, weil der
zusätzliche Redaktionsaufwand des Berichteschreibens zu groß ist. (Eine beliebte Bezeichnung für
den nicht-finanziellen Projektbericht ist „narrative report“ / „rapport narratif“ / „informe narrativo“
- und die Narration ist schließlich die Erzählung, das Märchen!)
45
2. Wirkungsbeobachtung
Gutachter. Diese anderen Beobachtenden bekommen kein „richtigeres“ oder „wahreres“ Bild, aber
sie ergänzen das Bild durch ihre (subjektive) Beobachtung, durch ihre Meinung. Oft bringen
unabhängige Gutachter und Gutachterinnen umfangreiche fachliche Berufserfahrungen ein, dafür
aber geringere situations- und kontextspezifische Kenntnisse.
So können wir uns eine interne Rückmeldung vorstellen, z.B. durch
• Teamkollegen und -kolleginnen
• Vorgesetzte
• Eine interne Instanz zur Dokumentation oder Kontrolle (Beispiel: Monitoring- und
Evaluierungs-Bereich, „M+E“-Einheit)
• Intern beauftragte Beratende oder Gutachtende
Oder aber eine externe Rückmeldung z.B. durch
• Adressaten des Projekts
• Andere projektbeteiligte Organisationen
• Extern (von anderen Projektbeteiligten) beauftragte Beratende oder Gutachtende
Je nachdem, wie die Dialogkultur innerhalb der Wirkungen beobachtenden Organisation ist, oder
zwischen den projektbeteiligten Organisationen, wird die Rückmeldung produktiv genutzt, zum
Dialog und zum Lernen, oder aber destruktiv, zur Verstärkung von latenten Konflikten und zur
inneren Verhärtung.
Was hier festgehalten werden sollte: die Triangulation ist wichtig, das Vorhalten eines Spiegels, die
Überprüfung der Beobachtungsergebnisse durch Dritte, die Reflexion über die unterschiedlichen
Wahrnehmungen. Doch es sollte mit viel sozialer Kompetenz geschehen, damit das gemeinsame
Lernen gefördert wird.
Wer bereits eine Projektevaluierung erlebt hat - oder aber auch eine Organisationsanalyse in
Deutschland - wird gut verstehen, welche Empfindlichkeiten gemeinsame Lernprozesse blockieren
können. Und es ist klar, dass mit den extern beauftragten Beratende, Gutachtende oder Prüfende
eben auch Evaluierende gemeint sind. Das Thema wird in Kap. 3 vertieft.
2.8 Wie werden die Berichte ausgewertet? Wer entscheidet über die
Konsequenzen?
Wirkungsbeobachtung ist nicht „l'art pour l'art“, sondern soll praktische Konsequenzen haben. Wie
beim Monitoring allgemein, so soll auch bei der Wirkungsbeobachtung nicht nur „zugeschaut“,
sondern reflektiert und - falls notwendig - gehandelt werden.
In den obigen Abschnitten haben wir uns überwiegend mit der Beobachtung und Dokumentation
von Wirkungen beschäftigt. Im folgenden sei noch Bezug genommen auf die Reflexion und die
nachfolgende Entscheidung, die das Handeln veranlasst.
Die Auswertung der Berichte dient der Analyse der Wirkungen. Die Wirkungsanalyse erfolgt durch
einen Vergleich des beobachteten Ist-Zustandes mit einem Vergleichszustand. Es muss nicht
immer ein Soll-Ist-Vergleich sein! Der Vergleichszustand muss nicht automatisch der geplante
Zielzustand sein, sondern es sind auch ergänzende Betrachtungsweisen denkbar:
Beschreibung Vorteile Nachteile
Soll-Ist- der Ist-Zustand wird Die Leistung kann verglichen Der Soll-Wert kann von Anfang
Vergleich verglichen mit dem werden mit der Zielvereinbarung an unrealistisch gewesen sein;
Zustand, der als Ziel in der und mit den verbrauchten Mitteln. die für die Leistungen
Planung beschrieben ist Verantwortlichen können sich
kontrolliert fühlen mit der
47
2. Wirkungsbeobachtung
Wer entscheidet?
Alle projektbeteiligten Akteure müssen die beobachteten Wirkungen ständig mit ihren
Erwartungen, Risikoeinschätzungen, Prinzipien etc. vergleichen und sie bewerten - und dies auch
auf den verschiedenen hierarchischen Ebenen innerhalb ihrer Organisationen. Anschließend muss
alle in ihren Verantwortungsbereichen prüfen, ob Entscheidungen notwendig sind. Wenn die
vermutlich erforderlichen Aktionen den eigenen Verantwortungsbereich überschreiten, ist die oder
der nächsthöhere Vorgesetzte mit einem Handlungsvorschlag zu informieren. Sofern die
Entscheidung der bisherigen Projektvereinbarung widersprechen würde (etwa weil deutlich mehr
Geld für Reisekosten gebraucht würde und dann wesentlich weniger Geld für Düngemittel zur
Verfügung stünde als im bewilligten Budget vorgesehen) und damit eine Veränderung der
Projektvereinbarung erfordern würde, sind auch andere beteiligte Projektakteure zu informieren
und ggf. ihre Zustimmung einzuholen. Spätestens vor einer gravierenden Veränderung des
vereinbarten Projekts ist nochmals eine externe Expertise oder Beratung dringend zu empfehlen.
Oder wäre das etwa ein geeigneter Moment, eine Evaluation vorzunehmen?
48
Anhang – Kopiervorlagen Kapitel 2
49
Anhang – Kopiervorlagen Kapitel 2
Entwicklungsorganisation Förderorganisation
Mitglieder Mitglieder
Zuwendungsgeber Zuwendungsgeber
50
Anhang – Kopiervorlagen Kapitel 2
51
Anhang – Kopiervorlagen Kapitel 2
SELTEN EMPFEHLENSWERT:
52
Anhang – Kopiervorlagen Kapitel 2
• Teamkollegen
• Vorgesetzte
• eine interne Instanz zur Dokumentation oder Kontrolle
(Beispiel: Monitoring- und Evaluierungs-Bereich, „M+E“-
Einheit)
• intern beauftragte Berater oder Gutachter
53
Anhang – Kopiervorlagen Kapitel 2
Soll-Ist-Vergleich:
der Ist-Zustand wird verglichen mit dem Zustand, der als Ziel in
der Planung beschrieben ist
Vorher-Nachher-Vergleich:
der Ist-Zustand wird verglichen mit dem Zustand, der früher (z.B.
vor Projektbeginn) beobachtet worden war
Mit-Ohne-Vergleich:
Benchmark-Vergleich:
54
3. Evaluation
3. Evaluation
3.1 Wozu dient die Evaluation?
Das Wort „Evaluation“, im Deutschen auch häufig „Evaluierung“, steht für Auswertung. Dieses
vielleicht eher harmlose Wörtchen kann allerdings oft genug viele Menschen zum Zittern bringen,
manche Projekte - auch die größten - sogar ins Wanken bis hin zum Zusammenbrechen. Warum?
Die Evaluation ist immer wieder missbraucht worden, um ein Projekt anlässlich eines negativen
Gutachtens zu beenden. Das muss man unbedingt wissen, um die damit verbundenen Ängste vor
allem der Entwicklungsorganisation zu verstehen! Auch wenn wir das ganz anders handhaben
wollen, wie im folgenden Kapitel zu beschreiben ist, müssen wir ständig gegen die entsprechenden
Vorbehalte ankämpfen - und vielleicht auch gegen entsprechende Versuchungen in den eigenen
Reihen!
Gegen diese Evaluationspraxis gibt es kritische Gegenstimmen, welche die Kontroll- und
Prüffunktion ablehnen. Der entgegengesetzte Ansatz lautet, auf Reflexion, Lernprozesse und
Dialog zu setzen, eher beraterisch vorzugehen. Wird diese Alternative den Erfordernissen gerecht?
Kann solch eine Vorgehensweise die Entscheidungsgrundlage für die Projektförderung bilden?
Zwischen Monitoring und Evaluation gibt es mehr Ähnlichkeiten als Unterschiede, denn auch
Monitoring ist laufend mit einer Auswertung verbunden. Vorab die Unterschiede:
• Periodizität: Während Monitoring in relativ engen Abständen erfolgt - abhängig von der
beschlossenen Häufigkeit der Erhebung der einzelnen Indikatoren -, erfolgt die Evaluation in
größeren Abständen.
• Tiefe und Breite der Untersuchung: Während die Tiefe der Untersuchung beim Monitoring
festgelegt ist durch die regelmäßig zu erhebenden Daten, und darüber hinaus nicht
systematisch die Fragestellungen erweitert, ist bei der Evaluation eine tiefergehende Analyse
und ein weites Spektrum an Fragen üblich.
• Breite der Beteiligung: Während Monitoring nicht allzuviele Akteure einzubeziehen braucht,
wird es bei der Evaluation hingegen erwartet; sowohl die Anzahl der befragten „resource
persons“ ist größer, als auch der Kreis der auswertenden Personen, diese sind auch in der
Hierarchie höher angesiedelt. Insbesondere wird meist eine unabhängige Gutachterin oder ein
unabhängiger Gutachter einbezogen.
Auch in manchen Fachdiskussionen werden Begriffe wie „continuous evaluation“ synonym
gebraucht für laufende Beobachtung bzw. Monitoring. Doch eine Unterscheidung der Begriffe ist
sinnvoll, um verschiedene methodische Herangehensweisen darzustellen.
Mit Evaluation sei darum hier diejenige periodische Auswertung gemeint, die
• nur einmal jährlich oder seltener stattfindet
• in der Tiefe der Untersuchung über die übliche Wirkungsbeobachtung / das laufende
Monitoring hinausgeht
55
3. Evaluation
Die Rechenschaftslegung
Das Ziel der Rechenschaftslegung ist meistens nach außen gerichtet beinhaltet in der Regel auch
Kontrolle, Prüfung, Begutachtung; allmählich gewinnt auch die Rechenschaftslegung nach innen,
die interne Transparenz, an Bedeutung. Evaluationen, die dieses Ziel deutlich in den Vordergrund
stellen, seien im folgenden als gutachterliche Evaluationen typisiert. Sie ist in der Regel verbunden
mit der Durchführung eines Gutachtens durch eine externe Evaluatorin oder Evaluator im Auftrag
von Instanzen, die dem Projektmanagement übergeordnet sind und zu grundlegenden
Entscheidungen über das Projekt befugt sind. Meist treffen die Leitungen der
Entwicklungsorganisation und der Förderorganisation hierzu eine gemeinsame Entscheidung. Die
Evaluation kann aber auch einseitig veranlasst und beauftragt werden; erfolgt sie auf äußeren
Druck, dann besteht die Gefahr, dass die Projektdurchführenden sich sperren und in dieser
Situation ein gemeinsames Lernen ablehnen. Die Projektverantwortlichen, die Rechenschaft über
die Projektdurchführung geben sollen, werden zu Kontrollierten, Geprüften, Begutachteten, die
sich ggf. rechtfertigen müssen, wenn sie ihre Ziele nicht erreicht haben.
Die Beauftragung der Evaluation durch Vorgesetzte oder Externe bedeutet, dass diese letztlich das
Pflichtenheft für die Gutachtenden verfassen, und auch diejenigen sind, an die Bericht zu erstatten
ist. Sie erwarten, dass das Gutachten eine unabhängige Meinung sowie alle Informationen enthält,
die für eine grundlegende Entscheidung über das Projekt relevant sind.
Wenn eine Evaluierung in diesem Sinne partizipativ durchgeführt werden soll, gibt es viele
Gestaltungsmöglichkeiten, um diese Polarisierung zwischen Prüfenden, Geprüften und
Entscheidungstragenden zu entschärfen, wie in den folgenden Abschnitten dargestellt werden soll.
Das ändert aber nichts daran, dass es diesen grundlegenden Konflikt gibt.
Dieses Ziel richtet sich eher nach innen, etwa in Richtung Selbstkontrolle, Selbstreflexion, eigene
Beobachtung, gemeinsames Lernen. Evaluationen, die dieses Ziel deutlich in den Vordergrund
stellen, seien im folgenden als beraterische Evaluationen typisiert. Damit verbunden ist in der
Regel Beratung sowie Moderation eines gemeinsamen Auswertungsverfahrens durch eine
Evaluatorin oder einen Evaluator, welcher die für die Projektdurchführung Verantwortlichen anregt
zur Analyse, zu einer (möglichst gemeinsamen) Problemsicht und Entscheidungsfindung über die
weitere Steuerung des Projekts. Die evaluierende Person übernimmt letztlich die Rolle der
Beraterin oder des Beraters, die oder der den Projektverantwortlichen fachliche und methodische
Rückmeldung gibt, alternative Vorgehensweise aufzeigt, und dabei die Entscheidung über die
Annahme dieser Rückmeldungen den Projektverantwortlichen freistellt. Diese Person kann extern
durch eine übergeordnete Instanz beauftragt werden, aber auch intern durch Projektverantwortliche.
Die Projektverantwortlichen sind somit zwar intern eventuell auch Kontrollierte, Geprüfte,
56
3. Evaluation
Begutachtete, aber das geschieht im Team und damit in einem weitgehend selbstbestimmten
Rahmen.
Auch das Pflichtenheft für die Evaluierenden wird intern durch Projektverantwortliche definiert -
oder sie haben daran starke Mitwirkungsmöglichkeiten -, häufig auch prozesshaft, schrittweise im
Verlauf der Evaluation. Die Ergebnisse der Evaluation sind in erster Linie für die
Projektverantwortlichen bestimmt, sie entstehen im Dialog, enthalten mehr vertrauliche und
persönliche Information und werden oft nicht schriftlich festgehalten. Ein schriftlicher Bericht ist
in diesem Fall sekundär, hier werden eher die Ergebnisse des Lernprozesses festgehalten als die
Fakten eines aktuellen Ist-Zustandes.
Die einfachste Form, diese zwei Ziele zu verbinden, ist zu sagen: es handelt sich um zwei Phasen
mit unterschiedlichen Zielsetzungen, Vorgehensweisen und Anforderungen:
Bestandsaufnahme: entspricht dem (2.) Schritt bei Monitoring und Wirkungsbeobachtung, wo
der aktuelle Ist-Zustand erhoben wird; aber bei einer externen Evaluation geschieht das durch
andere Personen als die, welche die laufende Wirkungsbeobachtung durchführen, nämlich
durch unabhängige Gutachter oder Gutachterinnen.
Reflexion: entspricht dem (3.) Schritt bei Monitoring und Wirkungsbeobachtung, wo die
Abweichungen des erhobenen Ist-Zustandes vom Vergleichswert (z.B. dem erwarteten Soll-
Zustand) analysiert werden; bei der externen Evaluation geschieht das allerdings mit Hilfe
einer unabhängigen Person, die den Reflexionsprozess moderiert.
Die beiden Zielsetzungen einer Evaluation zu verbinden, ist in der Praxis nicht sehr einfach: die
Rollen der Beteiligten widersprechen sich. Für die externen Evaluierenden ist es oft zu schwierig,
die gutachterliche und beraterische Rolle zu verbinden.
Es gibt viele Versuche, das Dilemma aufzuheben, aber die Schwierigkeit bleibt, dass die
gutachterliche Prüfung durch eine Aussenstehende Person bei den Betroffenen, die etwas ändern
sollten, Ablehnung und Blockade verursachen kann, während Moderation und Beratung diese
Personen leichter zur Veränderung motivieren. Inwieweit ein und dieselbe Person beide Rollen
einnehmen kann, ist sehr kontextabhängig. Oftmals wurden wohlmeinend partizipative
Evaluationen zum Ziele des gemeinsamen Lernens konzipiert, bei der Durchführung aber rutschten
die Beteiligten in die Rollen von „Opfer und Verfolger“ und verhinderten damit die gewünschten
Lernprozesse.
Wenn im folgenden nochmals ein Versuch gemacht wird, die beiden Zielsetzungen
„Rechenschaftslegung“ und „Selbststeuerung und Veranlassung interner Lernprozesse“ in einer
Evaluation zu verbinden, dann kann das nur gelingen, wenn bei der Durchführung folgendes
beherzigt wird:
Eine Evaluation sollte der Entscheidungsfindung dienen. Sie sollte z.B. nicht veranlasst
werden, wenn schon die Entscheidung gefallen ist, das Projekt nicht weiter zu fördern, und
eine Studie dies nur rechtfertigen soll.
Die Auftraggeber oder Auftraggeberinnen der Evaluation müssen hinsichtlich der
Zielsetzungen ehrlich sein. Es ist äußerst schädlich, wenn eine Förderorganisation verkündet,
sie wolle den Dialog anregen, in Wirklichkeit aber ein Projektgutachten zur Entscheidung über
die weitere Projektförderung braucht.
Die zwei konfligierenden Zielsetzungen können sich verbinden (und das wird die Regel sein),
aber sie sollten nicht vermischt oder verwischt werden. Es nützt nichts, zu leugnen, dass die
57
3. Evaluation
Evaluation neben dem gemeinsamen Lernen auch Prüfungscharakter hat - wenn dem so ist. Es
ist besser, mit beiden Funktionen dann offen umzugehen.
Das Verhalten der Akteure und Akteurinnen schlägt oft noch mehr durch als der erklärte Wille
der Auftraggeber oder Auftraggebrinnen der Evaluation. Alte Gewohnheiten bringen sie oft in
Versuchung, sich als Kontrollierende oder Kontrollierte aufzuführen. Insbesondere die
Förderorganisationen sollten auf Details achten: Sprache des Pflichtenheftes, Formulierung
von Feststellungen, etc.
Welche Bereiche einbezogen werden, ist zunächst vom allgemeinen Ziel der Evaluation
unabhängig: alle lassen sich sowohl gutachterlich als auch beraterisch evaluieren. Selbst besonders
sensible Themen wie die ordnungsgemäße Verwendung der Projektmittel oder die
Leistungsfähigkeit der Organisation sind nicht ausschließlich als externe Prüfung denkbar, sondern
auch als Prozess der Reflexion.
Es ist viel eher eine Frage der Ökonomie, des sinnvollen Einsatzes der Gelder für eine Evaluation:
man sollte sich auf die Dinge konzentrieren, die eine Verbesserung der Projektwirkungen
versprechen (Effektivität), sowie auf den dazugehörigen Aufwand (Effizienz), sofern hier ein zu
hoher Aufwand vermutet wird.
Weitergehende Fragen sollten - zumindest bei der Beauftragung einer Evaluation - weggelassen
werden, wenn sie nicht bereits als wichtiges Thema aufgetaucht waren. Sofern es nach Abschluss
58
3. Evaluation
des (ersten) Evaluationsauftrages deutlich wird, dass weitere Bereiche vertieft werden müssen,
könnte dies in einer zweiten Runde geschehen.
1. Situationsanalyse
Einfluss der
Wirtschaft Effizienz & Organisation
lichkeit Signifikanz Effektivität Wirtschaft-
der des lichkeit;
Organisation
5. Wirkungsanalyse Projektes Effizienz
Wie schon bei der Wirkungsbeobachtung dargestellt, werden wohl auch die verschiedenen
Projektakteure unterschiedliche Interessen an der Projektevaluation haben.
Die Basisorganisation wird kaum explizit auf die Idee kommen, eine Projektevaluation
durchzuführen oder durchführen zu lassen. Allerdings gibt es durchaus Basisorganisationen, die
das Instrument der Evaluation kennen - insbesondere die Selbstevaluation.
Ihre Interessensbekundungen wären ungewöhnlich, sollten aber sehr ernst genommen werden.
Die Entwicklungsorganisation ist für die Durchführung des Projekts verantwortlich und steht damit
automatisch auf dem Prüfstand. In vielen Fällen hat sie kein aktives Interesse an einer Evaluation;
bei der Auswahl der zu evaluierenden Bereiche wird sie eher auszuklammern versuchen, was als
59
3. Evaluation
grundsätzliche Schwachstelle sich bereits abzeichnet. Je nach Reife allerdings, auch bei guten
Erfahrungen mit früheren Evaluationen, haben die Entwicklungsorganisationen zunehmend tieferes
Interesse an der Evaluation.
Die Förderorganisation wird im Gegensatz zur Entwicklungsorganisation gerade diejenigen
Bereiche in den Vordergrund der Evaluation stellen wollen, wo sich Probleme in der bisherigen
Projektdurchführung manifestiert haben. Daher wird sie – ob gutachterliche oder auch beraterische
Evaluation - oft gerade solche Bereiche aussuchen, die die Entwicklungsorganisation lieber im
Dunkeln lassen würde. Konflikte sind dann vorprogrammiert!
Ein wesentlich rationaleres Verhalten wäre gegeben, wenn die Förderorganisation im wesentlichen
einfach dieselben Dinge prüfen lassen will, die sie bei der Prüfung des Projektantrages bereits
geprüft hatte. Das hätte erhebliche Vorteile:
• die Raster zur Antragsprüfung und zur Evaluation wären so gut wie gleich
• es gäbe ein Standardraster, wodurch die Formulierung des Evaluationsauftrages (Terms of
Reference) wesentlich erleichtert und beschleunigt wäre
• in der Projektvereinbarung stünde nicht nur, dass eine Evaluation durchgeführt wird, sondern
dort könnten bereits die zu evaluierenden Bereiche genannt sein
• die frühzeitige Vereinbarung wäre weniger konfliktiv
Selbstverständlich sollte es immer möglich sein, solch ein allgemeines Raster dann vor der
Beauftragung der Evaluation noch zu präzisieren und anzupassen - wichtig ist, dass die zugrunde
liegenden Absichten und Strukturen erhalten bleiben.
Diese Konflikte lassen sich deutlich verringern, wenn die Evaluation nicht erst beschlossen wird,
wenn gravierende Probleme sichtbar geworden sind. Wesentlich sinnvoller, fairer und klarer ist es,
möglichst frühzeitig - eben in der Projektvereinbarung - schon festzulegen, dass eine Evaluation
ansteht, und welche Bereiche sie betreffen soll. So wird vermieden, dass die Evaluation den
Charakter einer Strafaktion bekommt, und ihre Inhalte sind nicht so sehr von aktuellen Problemen
und Fragen geprägt, sondern wesentlich mehr durch die grundsätzlichen, wie es dem Charakter der
umfassenden Reflexion auch besser entspricht.
Einer der schwierigsten Schritte der Evaluation ist sicherlich die Formulierung des Pflichtenheftes
der Evaluatorin und Evaluatoren, im entwicklungspolitischen Kontext meist „Terms of Reference“
genannt. In den ToR beschreiben diejenigen, die die Evaluation in Auftrag geben, den genauen
Auftrag derjenigen, die sie durchführen sollen. Die ToR sollten etwa folgende Information
beinhalten:
Anlass der Evaluation: Wenn die Evaluation eine Routine ist, die von Anfang an eingeplant war,
werden hier nicht viele Worte verloren. Leider ist es aber noch die Regel, dass Evaluationen dann
in Auftrag gegeben werden, wenn sich bestimmte Probleme manifestiert haben. Dieser Hintergrund
sollte in den ToR kurz erwähnt sein.
Ziele der Evaluation: Was soll sich nach der Evaluation verändern? Und welchen Beitrag kann die
Evaluation dazu leisten? Vielleicht ist die Evaluation nur Teil eines längeren
Veränderungsprozesses, vielleicht ist sie Teil einer Kette von Maßnahmen?
60
3. Evaluation
Zu evaluierende Bereiche: Entsprechend dem obigen Schaubild werden die Bereiche genannt, die
Gegenstand der Evaluation sein sollen. Nach Möglichkeit sollten Oberbegriffe gewählt werden,
nicht einzelne Fragen, was zu prüfen sei. Einzelne Fragen könnten allerdings zur
Veranschaulichung hilfreich sein, damit die Evaluatorinnen und Evaluatoren wissen, was den
Auftraggebern oder -geberinnen auf den Nägeln brennt.
Wenn Einzelfragen in den ToR stehen, wollen die Auftraggeberinnen oder -geber u.U. die
Evaluierenden ausdrücklich verpflichten, hierzu im Bericht Stellung zu nehmen - was zu klären
wäre, denn es braucht nicht immer alles, was untersucht wurde, schriftlich festgehalten zu werden.
Wenn die Einzelfragen nicht in den ToR stehen, ist es den Evaluatorinnen oder Evaluatoren
letztlich überlassen, sie zu untersuchen. Wenn die ToR als Fragenkatalog aufgestellt sind,
erschwert dies die Durchführung einer Evaluation erheblich:
• der Prüfungscharakter drückt die Stimmung bei den Geprüften nachhaltig
• das gemeinsame Lernen wird zusätzlich durch die starke Vorstrukturierung deutlich erschwert
• der Gestaltungsspielraum der Evaluierenden - und damit die Nutzung ihres Fachwissens - ist
stark eingeengt
• die Evaluation erfordert sehr viel Zeit, sowohl bei der Datenerhebung als auch beim
Verfassen des Berichts
• der Blick für das Wesentliche, hilfreiche Arbeitshypothesen und Strukturierungen könnten
verlorengehen
Vorgehen und Methoden: Hier wird ausgeführt, welche Arbeiten auszuführen sind, und auf welche
Weise:
• Aktenstudium: bei welchen Organisationen
• Befragungen: von wem
• Datenerhebungen: was und wie, in welchem Umfang
• Projektbesuche, Dorfbesuche: welche, wie lange, mit welchen Inhalten
• Workshops: wo, mit wem, in welcher Rolle
• Rollenklärung: insbesondere Rolle der Evaluierenden (Gutachtenden, Moderierenden,
Beratenden)
Generell sollte klar sein: wenn die Evaluatorinnen oder Evaluatoren den Auftrag erhalten, etwas
Bestimmtes zu prüfen, heisst das nicht automatisch, dass sie darüber berichten müssen. Meist
jedoch erwarten die Auftraggeberinnen oder -geber, dass sich die ToRs in der Gliederung
wiederspiegeln, falls nicht etwas anderes vereinbart wurde. Es empfiehlt sich daher, die
gewünschte Gliederung des Evaluationsberichts aufzuschreiben - wenn auch nicht sehr detailliert.
So ist allen Beteiligten klar, worüber schriftlich zu berichten ist.
• Wem sollen die Evaluierenden berichten? Inwieweit wird den Projektverantwortlichen der
Entwicklungsorganisation vor Ort berichtet, in welcher Form?
• schriftlich oder mündlich?
61
3. Evaluation
• mit welcher Methode (Vortrag des Gutachtens, didaktische Gespräche mit den Vertretern
oder Vertreterinnen des Vorstandes, oder moderierte Erarbeitung des Ist-Zustandes)?
• sollen die Evaluationsergebnisse dabei verifiziert werden, sollen Rückmeldungen gesucht
werden?
• zu welchem Zeitpunkt?
• wie soll der Basisorganisation berichtet werden?
• wie soll der Förderorganisation berichtet werden, insbesondere im Fall von Ko-
Finanzierungen den nicht beauftragenden Förderorganisationen?
Das Anforderungsprofil für die Evaluierenden muss definiert werden. Wenn ein Team
zusammengestellt wird, ist meist eine bestimmte Mischung von Eigenschaften und Kompetenzen
angestrebt:
• fachliche Kompetenzen oder Spezialisierung
• methodische Kompetenzen
• soziale Kompetenzen, die die Evaluation erfordert (eher Gutachtende oder eher Beratende,
oder gar beides gleichzeitig)
• Sprachkenntnisse
• Länder- oder Regionenkenntnisse
• regionale Herkunft
• Geschlecht
Zeitplan:
Alle Beteiligten müssen sich auf die Termine der Evaluation einstellen können, von den ersten
Schritten, über die Durchführung vor Ort, bis hin zur Auswertung der Ergebnisse. Der Zeitplan
muss deshalb schon frühzeitig geklärt werden.
Der Kostenplan und seine Finanzierung sind zweifelsohne eher eine interne Angelegenheit der
Auftraggeberinnen oder -geber und damit meist nicht im (allgemein zugänglichen) Pflichtenheft
der Evaluatorinnen oder Evaluatoren - trotzdem muss er hier der Vollständigkeit wegen erwähnt
werden. Im Kostenplan werden die zusätzlichen - d.h. nicht bereits in anderen Budgets abgedeckten
- Kosten der Evaluation aufgeführt, sofern sie mit Geldzahlungen verbunden sind. (Vor der
Beauftragung der einzelnen Evaluierenden empfiehlt es sich, Kostenvoranschläge einzuholen und
die vereinbarten (Teil-) Budgets in das (Gesamt-) Budget der Evaluation zu integrieren.) Der
Arbeitsaufwand der Projektsachbearbeitenden ist meist erheblich, doch diese Kosten fließen nicht
in das Budget ein.
Für die Förderorganisationen und ihre Spender und Spenderinnen bzw. die Öffentlichkeit (das
Finanzamt!) ist die Frage zunehmend relevant, ob die Kosten der Evaluation Programmkosten sind,
also Teil der Projektkosten, oder ob sie Verwaltungskosten sind.
62
3. Evaluation
Ohne Zweifel sind die Evaluationskosten direkt auf ein Projekt bezogen und damit
Programmkosten; dies sollte darum auch schon bei der Bewilligung oder Planung der
Programmmittel berücksichtigt werden.
Zur gemeinsamen Durchführung einer Evaluation ist es natürlich eine Voraussetzung, dass die ToR
gemeinsam erstellt wurden. Anschließend muss unbedingt zwischen der Erhebungs- und der
Auswertungsphase unterschieden werden:
Die eingangs wiederholt erwähnten unterschiedlichen Interessen, Wahrnehmungen und
Interpretationen der Projektakteure machen es unwahrscheinlich, dass es bei der Erhebung
zwischen ihnen einen Konsens gibt. Die Erhebungsphase sollte entweder einer oder mehreren
Evaluierenden überlassen werden, die möglichst unabhängig von den Akteuren sein müssen. Wenn
unabhängige Erhebungen in Frage gestellt oder nicht erwünscht sind, sollten zumindest getrennte
Erhebungen der Akteure (dann evtl. auch ohne Externe), die dann in der Auswertungsphase
gegenübergestellt werden.
Eine gemeinsame Auswertung scheint eher machbar, doch dürfte sie in der Praxis noch zu
genügend Schwierigkeiten führen wegen des Zeit- und Entscheidungsdrucks, der damit verbunden
ist. Eine gute - unabhängige - Moderation ist dafür sicher sehr lohnend.
Die Anforderungen an Evaluatorinnen und Evaluatoren müssen natürlich den speziellen ToR dieser
Evaluation gerecht werden. Nicht immer steht die fachliche Spezialisierung der Evaluierenden im
Vordergrund; für die Evaluation wird in der Regel neben Projekterfahrung und einschlägigen
Sprachkenntnissen auch Länder- oder wenigstens Regionalkenntnis gebraucht, und darüber hinaus
Methodenkenntnis und Erfahrung im Umgang mit Menschen in Prüfungs- und
Beratungssituationen.
Zunächst einmal steht die Frage: geht es eher um eine gutachterliche oder um eine beraterische
Evaluation? Dementsprechend sind unterschiedliche Querschnittskompetenzen gefragt. Bei der
gutachterlichen Evaluation sind eher Fachkenntnisse und Erfahrungen bei der Erhebung objektiv
nachprüfbarer Daten gefragt. Bei der beraterische Evaluierung stehen die Fähigkeiten in
Gesprächsführung und Moderation sowie Erhebungen mit Hilfe partizipativer Methoden im
Vordergrund.
Letztlich müssen die Auftraggeberinnen und -geber immer im direkten Gespräch mit den
identifizierten möglichen Evaluatorinnen und Evaluatoren herausfinden, ob sie die Evaluation in
ihrem Geiste durchführen können. Weil das nicht immer möglich ist, müssen sie sich oft
ersatzweise auf den Rat und die Meinung von Vermittlern verlassen.
Wenn die Evaluation nicht von einer Einzelperson durchgeführt wird, sondern von einer Gruppe
von Evaluierenden, dann muss auf eine ausgewogene Teamzusammenstellung geachtet werden
hinsichtlich:
• ausgewogene Beteiligung der Projektakteure bei der Auswahl der Evaluierenden
• ausgewogene Herkunft der Evaluierenden (Nord/Süd, aber auch regional innerhalb eines
Landes)
• ausgewogene Geschlechterverteilung der Evaluierenden
• Interdisziplinarität
• ausgewogene Verteilung der Kompetenzen (nicht nur fachlich, auch methodisch und sozial)
• ausgewogene Verteilung der Rollen (Gutachtende, Beratende, Moderierende)
• ...
Konflikte sind innerhalb eines Evaluationsteams normal. Sie rühren nicht nur aus den
verschiedenen Perspektiven der Evaluatorinnen und Evaluatoren, sondern werden noch verstärkt
dadurch, dass hier eine Gruppe von ausgeprägten Expertencharakteren sich in extrem kurzer Zeit
zusammenraufen müssen und vielleicht gar noch ein gemeinsames Ergebnis vorlegen sollen. Die
64
3. Evaluation
Leitung des Teams muss darum im Vorfeld der Evaluation - in den ToR - geklärt sein, und die
Teamleitung muss im Konfliktfall auch von ihrer Leitungsbefugnis Gebrauch machen. So lassen
sich eventuelle Konflikte zwar nicht vermeiden, aber doch schneller lösen.
65
3. Evaluation
67
Anhang – Kopiervorlagen Kapitel 3
Insbesondere, wenn eine Evaluation durch die Entwicklungsorganisation beauftragt worden war,
kann es nicht angehen, dass ein Evaluationsbericht kommentarlos an die Förderorganisation (oder
an die Basisorganisation) weitergereicht wird - wie eine heisse Kartoffel.
Auch die Basisorganisation muss ihren Teil auswerten und ggf. über Konsequenzen entscheiden.
Aber hier hängt das in besonders hohem Maß von externen Beraterinnen oder Beratern ab, aus der
Entwicklungsorganisation oder aus dem Kreis der Evaluierenden, inwieweit hier Unterstützung
gewährt wird. Das muss im Einzelfall entschieden werden.
68
Anhang – Kopiervorlagen Kapitel 3
69
Anhang – Kopiervorlagen Kapitel 3
zu evaluierende Bereiche
Anforderungen an Evaluierende
Zeitplan
Budget
70
Anhang – Kopiervorlagen Kapitel 3
71
Anhang – Kopiervorlagen Kapitel 3
72
Anhang – Kopiervorlagen Kapitel 3
• Kooperationen
4.2 Projektdurchführung
(Allgemein: Vergleich von dem, was vereinbart war („SOLL“) mit dem, was tatsächlich gemacht
wird („IST“); dabei müssen zwischenzeitliche Änderungen der Vereinbarungen berücksichtigt
werden)
• Durchführung der geplanten Aktivitäten (Bezug zum Monitoringsystem)
• Erreichung der angestrebten Ergebnisse (Bezug zum Monitoringsystem)
• Erreichung der Oberziele und Projektziele (Bezug zum Monitoringsystem)
• Konformität mit Mandat der Organisation und Arbeitsprinzipien
• Einbindung von Frauen in die Projektdurchführung
• Funktionsweise des M+E-Systems
• Funktionieren der Projektstrukturen und -abläufe (Wahrnehmung der internen
Verantwortlichkeiten, Verknüpfung mit Finanzmanagement)
• Bewirtschaftung von Material
4.3 Finanzmanagement des Projekts
• Tatsächliche Einnahmen und Ausgaben
• Funktionsweise der Budgetkontrolle
• Zuständigkeiten für Finanzentscheidungen, Kompetenzen des Projektpersonals
• (im Falle von Projektaudits:) Auftrag an den Wirtschaftsprüfer
• (im Falle von Projektaudits:) Bericht des Wirtschaftsprüfers
• (im Falle von Projektaudits:) Stellungnahmen zum Bericht des Wirtschaftsprüfers
• (im Falle von Projektaudits:) Analyse der 3 letzten Jahresrechnungen der Projekts
• (sofern vorhanden:) Wirtschaftlichkeit der Teilbetriebe
5. Wirkungen
(Allgemein: hier können andere Vergleichsbezüge hergestellt werden, wie VORHER-NACHHER,
MIT-OHNE, Benchmark, vgl. Kap. 2.8)
5.1 Wirkungen auf Projektebene
• Ergebnisse (Welche Dienstleistungen wurden erbracht? Welche werden weiterhin
erbracht?)
• Projektziele (Welche Veränderungen bei der Bevölkerung - bezogen auf die bei der
Planung angenommenen Wirkungszusammenhänge – hat das Projekt bewirkt?)
• Oberziele ( Zu welchen Veränderungen bei der Bevölkerung - bezogen auf die bei der
Planung angenommenen Wirkungszusammenhänge – hat das Projekt teilweise
beigetragen?)
• Unerwartete Wirkungen (Welche Veränderungen bei der Bevölkerung, die bei der Planung
nicht angenommen worden waren, hat das Projekt bewirkt? Oder zu welchen hat es
teilweise beigetragen?)
73
Anhang – Kopiervorlagen Kapitel 3
74
Anhang – Kopiervorlagen Kapitel 3
1
Dieses Beispiel enthält keine detaillierte Aufzählung der verschiedenen Unterpunkte. Die weitgehend komplette Liste
„Mögliche Bereiche einer Evaluation“ ist weiter vorne in diesem Anhang dargestellt; diese Liste kann nicht vollständig
übernommen werden, aus ihr muss unbedingt eine Auswahl getroffen werden.
75
Anhang – Kopiervorlagen Kapitel 3
76
Anhang – Kopiervorlagen Kapitel 3
Projektteam, sowie für den Vorstand und das Management. Diese Präsentationen dienen der
Überprüfung der ersten Ergebnisse und der Reflexion über die Schlussfolgerungen.
• In Deutschland findet nach Abgabe des schriftlichen Berichts eine etwa eintägige Auswertung
zwischen der Teamleiterin und Vertretern des Hilfswerks statt.
Zeitplan:
Vorbereitung in Deutschland: 10. KW
Erhebungen vor Ort: 11-12. KW
Erstellung und Abgabe des Berichts: bis 16. KW
Budget:
1. Berechnung der erforderlichen Tage
Tätigkeiten Deutsche Nationale
Fachkraft Fachkraft
Arbeiten
Vorbereitung in Deutschland 5
Abschlussbesprechung 1
Reisetage 2 2
Auslandsreisekosten 0
77
Anhang – Kopiervorlagen Kapitel 3
Inlandsreisekosten 0
Tagegelder pauschal 3 x DM 20 60
Übernachtungsgelder pauschal 1 x DM 39 39
Zwischensumme 18799
Summe 21807
3. Berechnungen der Kosten (nationale Fachkraft): analog; die einzelnen Mengen und Beträge
können unterschiedlich sein. Dei Frage der Umsatzsteuer vorher klären!
Der Projektträger trägt die Kosten für Workshops, Fotokopien und Fahrkosten vor Ort, weil diese
Evaluation bereits im Projektbudget berücksichtigt ist. Es sollte vereinbart werden, dass die vom
Projektträger gestellte Übernachtung und Verpflegung nicht nochmals vom Evaluationsteam
abgerechnet werden kann.
78
4. Glossar
4. Glossar
Adressaten (des Projekts): diejenigen, denen das Projekt zugute kommen soll; die Begünstigten;
die "Zielgruppe"
Aktivität: Maßnahme oder Tätigkeit, die im Rahmen des Projekts durchzuführen
ist, um zu den Ergebnissen oder Zielen zu gelangen (vgl. Kap. 1.4)
Basisorganisation: Organisation der Adressaten des Projekts, z.B.
• Dorfgemeinschaft
• Kirchengemeinde
• Frauengruppe
(vgl. Kap. 1.1)
Effektivität: Wirksamkeit der Tätigkeit, Summe der Wirkungen "Machen wir das
Richtige?" (Sind unsere Ergebnisse sinnvoll?)
Effizienz: Leistungsfähigkeit: Summe der Wirkungen im Verhältnis zur Summe
des Aufwandes
"Machen wir es richtig?" (Setzen wir unsere Mittel und Kräfte richtig
ein?)
Entwicklungs- Organisation, die vor Ort für die Projektdurchführung verantwortlich
ist, z.B.
organisation:
• Nationale NRO
• Kirche
• karitative Organisation
(vgl. Kap. 1.1)
Entwicklungsziel: Ziel, das die personalen oder sozialen Kompetenzen beschreibt,
welche die Voraussetzung für die Durchführung von Projekten oder
für die Entwicklung im allgemeinen sind; sie werden oft mit "soft
skills", „empowerment" oder ,Problemlösungskompetenz"
umschrieben
(vgl. Kap. 1.5)
Ergebnis: 1. ein Unterziel, für welches das Projekt verantwortlich ist prüfen und
lernen
2. ein Produkt oder eine Dienstleistung welche das Projekt den
Adressaten des Projekts zur Verfügung stellen muss, damit die
gewünschten Wirkungen eintreten (vor allem in ZOPP)
(vgl. Kap. 1.3)
Evaluation: Steuerung von Grundsatzentscheidungen, z.B. Entscheidungen über
Organisationsziele, über Form und Inhalte der unterstützten Projekte,
über die Zweckmäßigkeit von Strukturen und Kooperationen.
Evaluation beinhaltet wie Monitoring die drei Schritte beobachten -
auswerten - handeln, ist aber grundlegender und seltener als
Monitoring.
79
4. Glossar
80
4. Glossar
81
5. Weiterführende Literatur
5. Weiterführende Literatur
AUSSCHUSS FÜR ENTWICKLUNGSHILFE: DAC (1996): Bericht 1996, Politik und Leistungen
der Mitglieder des Ausschusses für Entwicklungshilfe. - Paris
BARTHELT, R. (1998): Erfolgsbeobachtung und Wirkungsoptimierung. Die Aufgabe der
Evaluierung im BMZ. - In: E+Z (1998): Jg.39, Heft 1, S. 4-5
BMZ (1997): Entwicklungszusammenarbeit auf dem Prüfstand. - Auswertung der 1994/95
durchgeführten Evaluierungen des BMZ, Nr.76
BMZ (1997): Leitfaden, Zielsetzung und Durchführung von Evaluierungen. - Bonn
BMZ (1997): BMZ aktuell, Nr.097/ April 1999, Entwicklungszusammenarbeit - Erfolge und
Probleme, Auswertung der 1996/97 durchgeführten Evaluierungen des BMZ
BORRMAN, A. ET AL. (1999): Erfolgskontrolle in der deutschen Entwicklungszusammenarbeit -
Analyse, Bewertung, Reformen. - Studie des HWWA - Institut für Wirtschaftsforschung -
Hamburg, Bd. 51
BREIER, H. (1998): Erfolgskontrolle in der EZ. Das neue Konzept des BMZ. - In: E+Z (1998), Jg.
39, Heft 5/6, S. 128-130
BRÜNE, S. (1998) (Hrsg.): Erfolgskontrolle in der entwicklungspolitischen Zusammenarbeit. -
Hamburg
DEH (1995): Wegweiser zur Selbstevaluation
DIREKTION FÜR ENTWICKLUNG UND ZUSAMMENARBEIT (DEZA) (1997): Monitoring -
mit der Realität in Kontakt bleiben.
FUES, T. (1998): Indikatoren für die Nachhaltigkeit der deutschen Beziehungen zum Süden. -
Duisburg
FUES, T. (1998): Modetrend oder Kompass? neue Indikatoren für Entwicklung und
Nachhaltigkeit. - In: E+Z (1998), Jg. 39, Heft 8, S. 280-281
GERMANN, D.; GOHL, E. (1996): Participatory Impact Monitoring (PIM) - GTZ GATE
GELLSCHAFT FUR TECHNISCHE ZUSAMMENARBEIT (GTZ) - ABTEILUNG 402 - (1993):
Prozessmonitoring - Eine Arbeitshilfe für Projektmitarbeiter/-innen. - Eschborn
GESELLSCHAFT FÜR TECHNISCHE ZUSAMMENARBEIT (GTZ) - STABSSTELLE 04 -
(1995): Projekt Cycle Management (PCM) und Zielorientierte Projektplanung (ZOPP). - Eschborn
GESELLSCHAFT FÜR TECHNISCHE ZUSAMMENARBEIT (GTZ) - STABSSTELLE 04 -
(1997): Zielorientierte Projekt Planung - ZOPP. Eine Orientierung für die Planung bei neuen und
laufenden Projekten und Programmen. - Eschborn
GESELLSCHAFT FÜR TECHNISCHE ZUSAMMENARBEIT (GTZ) - STABSSTELLE 04 -
(1998): Monitoring im Projekt. Eine Orientierung für Vorhaben der Technischen Zusammenarbeit.
- Eschborn
GESELLSCHAFT FOR TECHNISCHE ZUSAMMENARBEIT (GTZ) (1998): Erreicht die TZ die
gesetzten Ziele? Projektergebnisse der GTZ und ihrer Partner. - Vierte Querschnittsanalyse;
Eschborn
GTZ / CENTRE FOR DEVELOPMENT AND ENVIRONMENT (CDE) SCHWEIZ (1998):
Sustainable Land Management - Guidelines for Impact Monitoring -1. Toolkit. - Eschborn
82
5. Weiterführende Literatur
83