2. Les objectifs pédagogiques :
• Définir l’évaluation et ses objectifs
• Connaitre les objets et les composantes de l'évaluation en santé
publique
• Distinguer les démarches évaluatives :
-Appréciation normative
-Recherche évaluative
• Réaliser une démarche évaluative sur le terrain
3. PLAN
• Introduction
• Objets de l’évaluation
• Composantes de l’évaluation
• Intérêt d’évaluation
• types d’évaluation
• Méthodes épidémiologiques d’évaluation
• Choix des critères et des indicateurs d’évaluation
• Démarche de l’évaluation
• Exemple
• Conclusion
4. Introduction :
DÉFINITIONS :
« L’évaluation est l’appréciation systématique de la conception, de la
mise en œuvre ou des résultats d’une initiative pour des fins
d’apprentissage ou de prise de décision ».
« L’évaluation en SP : est un processus d’analyse quantitative et / ou
qualitative qui consiste à apprécier soit le déroulement d’une action ou
d’un programme soit à mesurer leurs effets ».
5. « OMS : l’évaluation d’une intervention, d’un projet ou d’un
programme de santé est un processus scientifique qui permet
d’apprécier dans quelle mesure celui-ci a atteint l’objectif qui
lui est assigné ».
6. Toutes les définitions de l’évaluation associent trois dimensions :
1) Collecte d’informations
2) Appréciation critique
3) Des recommandations en vue d’une prise de décision
7. Ce que l'évaluation n'est pas :
Le suivi, la surveillance (ou monitoring, monitorage):
qui consiste à relever ou mesurer régulièrement des données sans les
comparer à d'autres.
il manque la comparaison à une norme ou une référence qui permet
l'appréciation.
il n'y a pas d'évaluation sans appréciation critique
8. Rôles et intérêts d’évaluation:
On évalue pour :
- Améliorer les stratégies et les actions de santé publique en vue de
satisfaire les besoins des populations ciblées
- aider à prendre des décisions éclairées sur la planification .
- Clarifier les options disponibles
- Justifier la dépense de fonds publics
- Accroitre l’efficience de système de sante
9. Les objets de l’évaluation :
L'évaluation peut être appliquée à des actions ou interventions de
santé extrêmement différentes :
• un traitement médicamenteux
• une technique diagnostique
• une unité de soins
• une organisation sanitaire (hôpital, réseau)
• un programme de santé publique
• une politique de santé...
10. Les composantes de l’évaluation :
L'évaluation en santé peut porter sur 3 composantes différentes :
Les ressources, structures et organisations sanitaires :
des moyens humains, matériels, financiers, l'environnement et les
organisations mises en œuvre pour réaliser l'activité.
Les activités, procédures ou pratiques sanitaires :
sont l'ensemble des techniques, méthodes mises en œuvre au cours de
l'action. Il peut s'agir d'activités préventives, diagnostiques ou
thérapeutiques.
Les résultats :
Les résultats à court terme et l’impact de l’action
12. Types d’évaluation:
Evaluation normative
• Porter un jugement sur une intervention en
comparant les ressources mises en œuvre et leur
organisation (structure), les services (processus), et
les résultats obtenus à des références et à des
normes.
• Le référentiel d’évaluation pouvant être soit un
objectif de santé déterminé par la littérature, soit
un critère construit de façon pragmatique en
fonction de certaines situations, à partir d’avis
d’experts.
• Exemple : l’évaluation de la couverture vaccinale de
la campagne contre la rubéole en mesurant l’écart
entre l’objectif prévu et l’objectif atteint
Recherche évaluative
• Démarche scientifique qui consiste à comparer et
analyser les performances de certaines méthodes
d’intervention (la pertinence, la cohérence,
l’efficacité, l’efficience et l’impact ) avant leur
application et leur généralisation.
• Comparaison entre un groupe d’individus soumis à
l’intervention et un groupe d’individus non soumis à
cette intervention.
• Exemple : essai thérapeutique , où l'efficacité d'un
nouveau traitement est comparée à celle d'un
ancien traitement.
13. Les critères de performance d’une
intervention de santé :
- La pertinence : le lien entre les objectifs de l’action et les besoins identifiés
- La cohérence : le lien entre les différentes composantes du programme mis en œuvre
- L’efficacité : la relation entre les objectifs de l’action et les résultats
- L’efficience : la relation entre les ressources attribuées à l’action et les résultats
- L’impact : effet global à long terme de l’intervention
14. Méthodes épidémiologiques d’évaluation
Enquête de type quasi-expérimental "ici/ailleurs " :
On compare, au même moment, des communautés distinctes géographiquement dont l'une
reçoit l'intervention et l'autre pas.
une enquête d'observation de type "avant-/après " : On compare des sujets avant la
mise en place de l'intervention et après.
une enquête d’observation simple : comparer les effets mesurés aux effets attendus
théoriques
Des protocoles expérimentaux d’essais contrôlés
Cette méthode ne peut s’appliquer qu’en recherche évaluative et pas dans les contextes
habituels de mise en place d’actions de santé publique.
15. Choix des critères et des indicateurs d’évaluation
les critères :
• Les caractéristiques à observer ou à mesurer pour répondre aux
questions d’évaluation.
• Choix déterminant pour l’évaluation réalisé dès l’étape de l’évaluation
a priori.
• L’information sur les critères est obtenue par des indicateurs, qui
seront interprétés en les comparant à des références
16. Les indicateurs
• sont les données concrètes qui rendent compte du critère choisi dans
la réalité.
• Instruments de mesure qui permettent de quantifier, comparer est
suivre une évolution d’une action de santé de manière objective.
17. Exemple:
Composante La question d’évaluation Critère Indicateur
Structure Les ressources humaines
sont-elles adéquates ?
Qualification des
personnels
% de personnes formées
parmi les professionnelles
Processus L’intervention rejoint elle
la population cible ?
Couverture population
cible
% de bénéficiaires parmi
la population cible
Effet Les comportements
favorables à la santé ont-
ils progressés ?
Pratique hebdomadaire
d’un sport
% de sujets ayant une
activité sportive de plus
de 30 min / semaine
19. Quand évaluer :
Avant l’action
« évaluation à priori »
• Le bien fondé et la
pertinence du projet
• Les moyens prévus
pour le projet
• La faisabilité des
actions prévues
• Les indicateurs qui
seront mesurés
Pendant l’action:
• Vérifie la dynamique
du déroulement de
l’action
• Mesure l’adéquation
des moyens et des
ressources
• Les données
recueillies a ce stade
permettent de
corriger la trajectoire
du projet , de la
réorienter, si
nécessaire vers
d’autres finalités.
À la fin de l’action
• Elle porte sur les
résultats, leur analyse,
leur interprétation et
leur exploitation.
• On s’attache ici a
vérifier le degré
d’atteinte des objectifs
de l’action.
Après l’action
• Se fait en quelques
mois ou quelques
années après la fin de
l’action.
• Permet de vérifier
l’impact ou le
prolongement de
l’impact du
programme ou de
l’action sur
l’environnement ou
sur la population.
20. Evaluer quoi
Les ressources
• Les moyens et les
ressources utilisés, les
méthodes suivies.
• La population :, qualité
des participants, profils
…
• Savoir dans quelle
mesure les ressources
employées de façon
adéquate pour
atteindre les résultats
attendus
Le processus
• Evaluer la pratique des
professionnels, la
réalisation des activités
prévisionnelles
• Vérifier l’utilisation des
ressources humaines,
financières et
matérielles.
• Savoir dans quelle
mesure les services sont
adéquats pour atteindre
les résultats attendus
Les résultats
• Cette étape consiste à
se demander si les
résultats observés
correspondent a ceux
attendus.
• Il renseigne sur le
niveau d’atteinte des
objectifs
Les effets
• Les effets et les
retombés a long terme
de projet
• Les effets peuvent être
positifs ou négatifs
21. Évaluer par qui :
Evaluation interne
• L'évaluateur appartient à
la structure responsable
du projet, soit l’équipe de
projet , soit les acteurs
impliqués dans le projet y
compris la population
bénéficiaire
Evaluation externe
• L’évaluation est menée
par une équipe extérieure
et indépendante de celle
qui mène l'action. (experts
ou autres)
22. Comment évaluer?
1 : planifier l'évaluation
• déterminer l'objectif de l'évaluation
• préciser les questions auxquelles l’évaluation doit répondre
• choisir le type d'évaluation
• choisir les membres de l'équipe chargée de l'évaluation
• Décrire le programme.
23. Comment évaluer?
2 : Définir Les critères, les indicateurs et données à collecter
En fonction des objectifs de l’évaluation
Fonction du stade du l’action
3 : Collecter, analyser et juger les données collectées
Faire la collecte de données
Faire une analyse des données collectées
Porter un jugement
24. 4 : Utiliser les résultats de l’évaluation :
L’utilité de toute évaluation est d’orienter la prise de décision pour
améliorer l’intervention en santé publique .
Ne doit pas se focaliser uniquement sur les insuffisances mais aussi
et surtout sur les réussites et les choses apprises
25. 5 : Diffuser les résultats d’évaluation
Dans le cadre de réunions communautaires avec les membres de la
communauté
Dans le cadre d’un séminaire pour présenter les résultats de
l’évaluation du projet communautaire
Sous forme de rapport écrit et diffusé aux autres partenaires
26. Exemple :
Évaluation du programme
national de détection précoce du
cancer du col utérin au Maroc
27. Problématique :
• le cancer du col de l’utérus se situe au deuxième rang des cancers
chez les femmes Marocaines.
• Un programme national de lutte contre le cancer de col basé sur la
pratique de l’inspection visuelle après application d’acide acétique a
été lancé en 2010, permettant un dépistage et éventuellement un
traitement immédiat des lésions (pré)-cancéreuses.
• un projet pilote sur le dépistage du cancer du col a été mené dans les
2 Régions Rabat Zammour Zaer et Meknès Tafilalt.
28. Evaluation du projet pilote du Programme national
de dépistage du cancer du col de l’utérus
Objectif général
•Etudier l’adéquation du contexte et du processus d’organisation des
établissements d’offres de soins pour l’implantation du programme de
la détection précoce du cancer du col utérin (DPCCU) au Maroc.
•Evaluer prospectivement l’efficacité du programme national de
détection précoce
29. Objectifs spécifiques
• Etudier les ressources mises en œuvre et leur organisation pour lutter
contre le cancer du col utérin
• Décrire les connaissances et les pratiques des professionnels en
matière DPCCU
• Etudier les délais « consultation-diagnostic » et « diagnostic-
traitement »
• Décrire le profil épidémiologique des femmes ayant recours aux
structures de soins
• Déterminer l’acceptabilité et la compliance des femmes ayant recours
aux structures de soins par rapport à ce programme
• Etudier la qualité des actes
• Identifier des futurs axes de recherche potentiels
30. Les questions évaluatives :
Q1 : Quels sont les pratiques et les connaissances et les comportements des professionnels de santé
en matière de détection précoce du cancer du col utérin à tous les niveaux du système de soins ?
Q2 : Quel est l’impact du programme national de détection précoce du cancer du col utérin
(PNDPCCU) sur les pratiques et les connaissances et les comportements des professionnels de santé ?
Q3 : Comment est organisée la filière de soins (référence contre référence) en matière du cancer du
col utérin ?
Q4 : Quel est le profil épidémiologique des femmes ayant recours aux structures de soins ?
Q5 : Quelle sera l’acceptabilité et la compliance de cette population par rapport à ce programme ?
Q6 :Quel est l’efficacité de ce programme en matière de réduction des stades avancés et de
diagnostic à un stade précoce ?
Q7 :Quel est l’impact de ce programme sur le délai consultation-diagnostic et le délai diagnostic-
traitement ?
Q8 :Quelle est la valeur prédictive positive de l’inspection visuelle du col avec l’acide acétique?
31. Q1 : Quels sont les pratiques, les connaissances et les comportements des
professionnels de santé en matière de détection précoce du cancer du col
utérin à tous les niveaux du système de soins ?
précisez s'il s'agit d'évaluer :
des ressources, structures et organisations
des activités et stratégies médicales
des résultats
S’agit il d’une évaluation :
Normative
De recherche
32. Q2 :Quel est l’impact du programme national de détection précoce du
cancer du col utérin (PNDPCCU) sur les pratiques et les connaissances et les
comportements des professionnels de santé ?
précisez s'il s'agit d'évaluer :
des ressources, structures et organisations
des activités et stratégies médicales
des résultats
S’agit il d’une évaluation :
Normative
De recherche
33. Enquêtes d’évaluation des deux premières questions
Q1 et Q2:
L’enquête Variables de l’étude Méthode de recueil
Evaluation des pratiques des
professionnels de santé
Description des
connaissances,
comportements des
professionnels de santé
Caractéristiques sociodémographiques :
âge, sexe, ancienneté d’exercice
Connaissances : Facteurs de risques du
cancer du col utérin, vaccination, les
examens de dépistage du cancer du col
utérin ….
Attitudes : attitudes devant une femme à
risque
Perceptions : place du dépistage dans leurs
activités, perception du programme et son
acceptabilité.
Remise d’un auto-
questionnaire aux
professionnels de
santé relatif aux
connaissances,
attitudes et
perceptions
Evaluation des
pratiques des
professionnels de
santé sur une grille
complétée par
les superviseurs du
programme de DPCCU,
34. Q3 :Comment la filière de soins est organisée en matière du cancer du
col utérin ?
précisez s'il s'agit d'évaluer :
des ressources, structures et organisations
des activités et stratégies médicales
des résultats
S’agit il d’une évaluation :
Normative
De recherche
35. Enquête d’évaluation de la question Q3:
Enquête Les variables de l’étude Méthode de
recueil
Evaluation des ressources
et de l’organisation des
établissements d’offres de
soins
La qualité de l’accueil des femmes
Le respect de l’intimité de la patiente dans
la salle d’examen
La table d’examen
Le nombre de professionnels de santé
formés et non formées
Une source de lumière adéquate
Un spéculum vaginal stérile
Des gants d’examen neufs ……
Une grille
d’évaluation de
l’organisation et
des ressources
des structures
d’offres de soins
36. Q4 : Quel est le profil épidémiologique des femmes ayant recours aux
structures de soins ?
précisez s'il s'agit d'évaluer :
des ressources, structures et organisations
des activités et stratégies médicales
des résultats
S’agit il d’une évaluation :
Normative
De recherche
37. Q5: Quelle sera l’acceptabilité et la compliance de cette population par
rapport à ce programme ?
précisez s'il s'agit d'évaluer :
des ressources, structures et organisations
des activités et stratégies médicales
des résultats
S’agit il d’une évaluation :
Normative
De recherche
38. Enquête d’évaluation des deux questions Q4
et Q5:
L’enquête Les variables de l’étude Méthode de
recueil
Description du profil
épidémiologiques
des patientes
Données sociodémographiques : Age,
niveau d’étude, milieu de résidence, statut
matrimonial…
Antécédents cliniques personnels :
cancers, infection gynécologique…
Facteurs de risque : Age aux premières
règles, antécédents familiaux de cancer de
sein, ménopause, utilisation de
contraceptif oraux, HPV,….
Connaissance : test de dépistage,....
Acceptabilité (compliance) du
programme : examen clinique, bilan…
Questionnaire
administré par
des enquêteurs
39. Q6 :Quel est l’efficacité de ce programme en matière de réduction des
stades avancés et de diagnostic à un stade précoce ?
précisez s'il s'agit d'évaluer :
des ressources, structures et organisations
des activités et stratégies médicales
des résultats
S’agit il d’une évaluation :
Normative
De recherche
40. Q7 : Quel est l’impact de ce programme sur le délai consultation-
diagnostic et le délai diagnostic- traitement ?
précisez s'il s'agit d'évaluer :
des ressources, structures et organisations
des activités et stratégies médicales
des résultats
S’agit il d’une évaluation :
Normative
De recherche
41. Q8 : Quelle est la valeur prédictive positive de l’inspection visuelle du
col avec l’acide acétique ?
précisez s'il s'agit d'évaluer :
des ressources, structures et organisations
des activités et stratégies médicales
des résultats
S’agit il d’une évaluation :
Normative
De recherche
42. Enquête d’évaluation des questions Q6, Q7 et
Q8:
L’enquête Les variables de l’étude Méthode de recueil
Etudier
l’efficacité
du PDPCS
Le nombre de femmes qui consultent
Le nombre de femmes qui participent au programme de
DPCCU
Le nombre d’IVA réalisé
Le nombre d’IVA positif
Le nombre de femmes qui consultent dans un niveau
supérieur parmi les femmes référées
Le nombre de frottis cervico vaginal (FCV) réalisé
Le nombre de FCV positif
Le nombre de biopsies du col utérin positives
Le nombre de femmes avec lésion suspecte de cancer
invasif
Le nombre de patientes référées qui ont un diagnostic de
cancer
La date du dépistage du cancer
La date du diagnostic du cancer
La date de prise en charge thérapeutique
Extraction des données à
travers le système
d’information mise en
place.
43. Conclusion :
• L’ évaluation est une étape importante du processus de démarches de
la santé publique.
• Elle s’appuie sur des indicateurs pertinents
• Doit produire une information utile pour mesurer le changement et
prendre les décisions .
Notes de l'éditeur
BONJOUR , aujourd hui dans cette présentation nous allons aborder la place de l’évaluation dans la santé publique
Savoir définir c’est quoi une évaluation et de comprendre ses objectifs
Distinguer les 2 types de démarches évaluative a savoir :
Etre capable de
Pour le plan
on va d abord définir l’évaluation
et déterminer ses objets et ses composantes
ensuite nous allons parler de ,intérêt et les types de l’évaluation
Puis méthodes utilisés pour collecter les données ,
Choix des critéres et des indicateurs
La démarche d’évaluation
Après on va s’enchainer avec un exemple d’évaluation
Et on finira par une conclusion
C’est quoi une évaluation ?
c’est un appréciation systématique c ad on fait pad l’évaluation n’importe comment , il y a certains procédures soit de la conception , soit de la mise en ouvre ou soit des résultats
Selon oms
collecte d'informations,
sur lesquelles on porte une appréciation critique cad porter un jugement
,.
La notion de jugement renvoie à la nécessitée d’une comparaison, il n’y a donc pas d’évaluation s’il n’y a pas de comparaison.
3 eme dimension des propositions en vue d'une prise de décision
donc
il faut distinguer le suivi et la surveillance ou ce que on appelle le monitoring
Quelle est le rôle et les intérêts d’évaluation :
Alors l’évaluation c’est une activité très intéressante dans tous processus de planification
Elle permet d’améliorer les stratégie d’améliorer ….
elle aide aussi a apprendre des décisions
Parfois on évalue aussi pour justifier la dépense publique
. On parle des objets de l'évaluation
Quel que soit le type d'intervention de santé considéré (ou ‘objet de l'évaluation'),
il s’agit de déterminer les résultats A COURT TERME et l’impact du programme
correspond
L’évaluation c’est un processus qui accompagne l’action depuis sa conception jusqu’à ses résultats.
ON PEUT EVALUER LA Composante : ressources organisations et moyens on parle de l’évaluation de structure
On peut évaluer l’activités c’est évaluation de processus d’une action c est a dire évaluer le déroulement de cette action
On peut aussi évaluer les résultats : soient a cours terme c’est-à-dire les résultats immédiat action de santé
Mais aussi on peut évaluer les effets long terme C est évaluation d impact
Le terme «normatif» fait référence à la comparaison des résultats obtenus à des normes
Cette évaluation CONSISTE a
CAD
: l’évaluation normative qui cherche à apprécier chacune des composantes d’une intervention en fonction de critères et de normes
la recherche évaluative qui s’intéresse aux relations existant entre les différentes composantes d’une intervention
En général on évalue 5 critères : • soit évaluer la pertinence de l’action, c’est à-dire on cherche l’adéquation entre les objectifs de l’actions rtles besoins identifiés , •
soit évaluer la cohérence, c’est-à-dire le lien entre les différentes composantes du programme mis en œuvre, •
soit évaluer l’efficacité, c’est-à-dire est ce que les résultats de l’action ont atteint les objectifs attendus
Les moyens mobilisés et les ressources attribués sont-ils adaptés aux objectifs fixés
En épidémiologie il existe plusieurs méthodes d’évaluation
Comme
:Un exemple est celui de 2 services hospitaliers appliquant des pratiques différentes ( 2 services appliquent 2 protocoles différents)
La situation "avant" sert de référence pour évaluer l'efficacité de l'intervention.
Pour évaluer on a besoin de critères ET d’indicateurs
nous ne pouvons pas mesurer sans les éléments sur lesquels nous nous appuierons
Les indicateurs c’est quoi
des indicateurs qui sont les « instruments de mesure » de l’évaluation.
VOILA un exemple de 3 questions d’évaluation pour les trois composantes
Pour la première question
le critère de jugement pourra être l’état qualification des personnels , % de personnes formées parmi les professionnelles
alors que sera un indicateur
Deuxieme question : l’intervention rejoint elle la population cible ; critére c’est la couverture de population cible et % est son indicateur
Pour la troiséme question le critére poura etre et l’indicateur %
On passe a la démarche d’ évaluation
D’abord quand faire l’évaluation?
soit avant même l’action soit en cours soit a la fin de l’action ou après l’action
Que ce que peut évaluer Comme on l’a dis précédemment on peut évaluer les ressources le processus et on meut evaluer les résultats et meme limpact
Qui doit faire l’évaluation : d il y deux facons généralemnt de faire une eval
soit une evaluation interne ou par evaluation externe
Comment faire l’évaluation d’abort apres et en fin
Mnt en va détailler chaque étape de cette dmarche
En santé publique on peut évaluer :
Avant l’action ou ce qu on appelle évaluation à priori c’est une étape préalable
Pour savoir
les moyens prévues pour le projet , est ce qu’elles sont pertinentes et suffisante
C’est une étape conseillé mais pas obligatoire qui peut être ponctuelle ou permanente
A la fin de l’action :
On peut évaluer bien après, expost , en quelques années ou quelques mois après la fin de l’action ;
On peut évaluer les ressources : ca peut être les moyens ……..
exemple : nombre de professionnels impliqués, locaux et plateaux techniques utilisés 1
Consiste a évaluer
permet de vérifier
Exemple : pourcentage des femmes ayant reçu une lettre d’invitation pour le dépistage du cancer du sein parmi les femmes de la population cible. 2
Exemple : pourcentage de femmes dépistées pour le cancer du seinParmi les femmes de la population cible 3
On evalue les effets …… ici on parle de l’evaluation de l’impact exemple impcat de l’action sur mortalité, incidence et la prévalence
Alors qui peut faire l’évaluation
Donc ca peut être une évaluation interne (à l’équipe de projet , ( soit les acteurs qui sont impliqué dans le projet y compris la population bénéficiaire )
mais parfois on peut faire appel a une évaluateur externe qui n’appartient pas a l’équipe qui mène l’action
alors Comment faire cette évaluation
1 etape
il faut définir
Troisièmement il faut collecter ces donnes , les analyser et porter un jugement sur ces indicateurs
Après il faut utiliser le résultats
Un point très important que ne doit pas
Et en fin il faut diffuser les résultats :
la diffusion se fait de plusieurs façons soit soit organiser des séminaires
ou via un rapport écrit diffusé
On passe a un pratique
Pour lutter contre ce cancer , l’étar a mis en place en 2010 un programme national pour le dépistage et le dc précoce de ck de col ; basé sur l’inspection visuelle de l’acide acétique
Avant la mise en œuvre de ce programme dans toutes les régions du pays ; un projet pilote a été mene dans les deux régions rabat et meknes
Avant d’implanter et de déployer le programme au niveau national il était important d’abord d évaluer le projet pilote qui a été mené sur les 2 régions afin de apprécier sa faisabilité et d’apporter des réajustements si nécessaire
Une évaluation a été faite a pour objectif général d’
Pour réaliser cette évaluation plusieurs enquêtes Différentes ont été mene parraléllement avec l’installation de programme
, voici les questions évaluatives qui ont été posés
Mnt On va discuter ensemble chaque question évaluative
Cette partie sera interactive , pour Chaque question vous devez dterminer quelle compotante evalué
et determiner quelle type dévaluation
normative ou de recherche
Ici on compare les pratiques qui entre dans le cadre Epp qui consiste a comparer
réélle des professionnels avec la pratique OPTIMALE de réferénce
A pour but d’améliore
r la qualité des soins
Quelle composante évalue cette question
Afin de répondre a ces deux questions , deux enquête d’évaluation des pratiques été réalisé auprès de 400 professionnels
Les données collectés sont
Ces données ont été recueillis a travers
Ici on compare la qualité des moyens et des ressources qu'on a
avec des ressources de référence idéale
Des indicateurs de qualité des structures d’offres de soins ont été recueillis :
On a un objectif fixé a l’avance de l’accéptabilité donc on compare avec set objectif