3. Evaluaciones muestrales, cíclicas, a gran escala
Cuadernillo de prueba + cuestionarios de contexto
Rigor metodológico:
• Marco teórico: Qué evaluar, elaboración de
preguntas, distribución de preguntas y cuadernillos…
• Selección de la muestra
• Traducción de materiales, aplicación, corrección,
limpieza de datos…
• Análisis TRI de las respuestas Dificultad de los
ítems y puntuación lograda por los alumnos
Informes internacionales comparativos
RASGOS COMUNES DE LOS
ESTUDIOS DE EVALUACIÓN
4. FINALIDAD DE LAS
EVALUACIONES EDUCATIVAS
Conocer
a través de la
valoración de los
aprendizajes de los
estudiantes
Rendir
cuentas
Innovar y mejorar
el sistema educativo
Aumento de
transparencia del
sistema educativo
6. PIRLS
Comprensión
lectora
4º E.P.
Periodicidad:
5 años
Última en
2011
PIRLS
Evaluación de la comprensión lectora
Alumnos de 4º grado internacional
(en España 4º de Educación Primaria)
Participantes:
45 países y sistemas educativos
9 regiones con muestra ampliada
3 participantes en pre‐PIRLS
4 participantes en 6º grado
España Internacional
Alumnos 8.580 254.914
Centros 312 9.300
Profesores 403 13.223
PIRLS 2011
8. OBJETIVOS DE LOS ESTUDIOS PIRLS Y
TIMSS 2011
Obtener información comparada entre los distintos países participantes
y medir las tendencias entre ciclos.
Proporcionar información sobre:
El contexto de aprendizaje: alumno, familia y centro escolar.
Las actitudes de los alumnos hacia la lectura, las matemáticas y las
ciencias.
El uso que hacen los alumnos del tiempo libre.
Factores que favorecen el entorno de aprendizaje y la eficacia de la
escuela (recursos, métodos, clima, etc.)
9. Evalúa tres aspectos en la comprensión lectora
PROPÓSITOS DE
LECTURA
• Leer para informarse y
aprender (50%)
• Leer para disfrutar (50%)
PROCESOS COGNITIVOS
• Obtener información (10%+10%)
• Hacer inferencias (15%+15%)
• Interpretar e integrar (15%+15%)
• Analizar y evaluar (10%+10%)
ACTITUD Y
HÁBITOS DE
LECTURA
CUESTIONARIOS DE
CONTEXTO
• Alumnos
• Padres o tutores legales
• Profesores
• Directores de centro
CUADERNILLOS DE LA PRUEBA
•Textos literarios
(50%)
•Textos informativos
(50%)
Preguntas o ítems
para evaluar los
procesos cognitivos
MARCO TEÓRICO DEL
ESTUDIO PIRLS
10. DOMINIOS DE
CIENCIAS
DOMINIOS DE
MATEMÁTICAS
DOMINIOS
COGNITIVOS COMUNES
• Conocer (40%)
• Aplicar (40%)
• Razonar (20%)
DOMINIOS DE
CONTENIDO
• Números (50%)
• Formas y mediciones
geométricas (35%)
• Representación de
datos (15%)
ÁREAS
TEMÁTICAS
CAPACIDADES
EVALUABLES
HABILIDADES Y
DESTREZAS
DOMINIOS DE CONTENIDO
• Ciencias de la vida (40%)
• Ciencias físicas (40%)
• Ciencias de la Tierra (20%)
ÁREAS
TEMÁTICAS
CAPACIDADES
EVALUABLES
MARCO TEÓRICO DEL
ESTUDIO TIMSS
11. Dominios de contenido
Áreas temáticas
Se desglosan en capacidades
evaluables
Dominios cognitivos
NÚMEROS
50%
• Números naturales
• Fracciones y decimales
• Expresiones numéricas con
números naturales
• Modelos y relaciones
CONOCER 40%
Hechos, procedimientos,
conceptos
APLICAR 40%
Resolución de problemas
habituales y rutinarios
RAZONAR 20%
Resolución de problemas
desconocidos, en
contextos complejos, con
varios pasos
FORMAS Y MEDICIONES
GEOMÉTRICAS
35%
• Puntos, líneas y ángulos
• Formas bidimensionales y
tridimensionales
REPRESENTACIÓN DE
DATOS
15%
• Números naturales
• Organización y representación
MATEMÁTICAS
MARCO TEÓRICO DEL
ESTUDIO TIMSS
12. Dominios de
contenido
Áreas temáticas
Se desglosan en capacidades evaluables
Dominios cognitivos
CIENCIAS DE LA
VIDA
45%
• Características y procesos de la vida en los
seres vivos
• Ciclos de la vida, reproducción y herencia
• Interacción con el medio ambiente
• Ecosistemas
• Salud humana
CONOCER 40%
Hechos, procedimientos,
conceptos
APLICAR 40%
Resolución de problemas
habituales y rutinarios
RAZONAR 20%
Resolución de problemas
desconocidos, en
contextos complejos, con
varios pasos
CIENCIAS
FÍSICAS
35%
• Clasificación y propiedades de la materia
• Fuentes y efectos de la energía
• Fuerzas y movimiento
CIENCIAS DE LA
TIERRA
15%
• La estructura de la Tierra, sus características
físicas y sus recursos.
• Los procesos, los ciclos y la historia de la
Tierra,
• La Tierra en el Sistema Solar
CIENCIAS
MARCO TEÓRICO DEL
ESTUDIO TIMSS
14. APLICACIÓN
PIRLS‐TIMSS 2011
Preparación
de los
alumnos
(10 minutos)
Primera
parte
PIRLS/TIMSS
40/36
minutos
Descanso
15 minutos
Preparación
(5 minutos)
Segunda
parte
PIRLS/TIMSS
40/36
minutos
Cuestionario
del alumno
(10-30
minutos)
Preparación
de los
alumnos
(5 minutos)
Primera
parte
TIMSS/PIRLS
36/40
minutos
Descanso
15 minutos
Preparación
(5 minutos)
Segunda
parte
TIMSS/PIRLS
36/40
minutos
INSTRUMENTOS PARA CONOCER LOS FACTORES DE CONTEXTO
CUESTIONARIOS DE CONTEXTO
• Alumnos
• Padres o tutores legales
• Directores de los centros
• Profesores
ENCYCLOPEDIA
Información de cada país sobre su
sistema educativo y el currículo de
Lectura, Matemáticas y Ciencias
PRIMER DÍA
SEGUNDO DÍA
Recogida
Cuestionario
de padres
19. En todos los centros de España hay alumnos excelentes, intermedios y rezagados
18
19
20
2
8
7
6
3
0
10 5 0 5 10 15 20 25
PIRLS
TIMMS MATEMÁTICAS
TIMMS CIENCIAS
Global Descontando ISEC de alumnos Descontando ISEC de alumnos y centros
Diferenciaafavor de
los centrospúblicos
Diferencia a favor de
los centrosprivados
La diferencia en puntuación a favor
de los centros privados desaparece al
descontar el índice socioeconómico y
cultural.
Relación entre el rendimiento y el ISEC de los centros españoles
R² = 0,388
400
425
450
475
500
525
550
575
600
‐2 ‐1 0 1 2
ISEC
R² = 0,436
400
425
450
475
500
525
550
575
600
‐2 ‐1 0 1 2
ISEC
R² = 0,3624
400
425
450
475
500
525
550
575
600
‐2 ‐1 0 1 2
ISEC
PIRLS TIMSS‐matemáticas TIMSS‐ciencias
RESULTADOS
20. 88
12
90
10
88
12
81
19
0% 20% 40% 60% 80% 100%
Casi ninguno
Muchos
Casi ninguno
Muchos
DisruptivosDesinteresados
España Internacional
3
58
39
9
59
32
0%
50%
100%
Muy alto Alto Medio
España Internacional
• Énfasis en el éxito académico de los centros.
En PIRLS hay un 9% de oyentes en centros con
muy elevado énfasis en el éxito académico. En
España un 3%.
• Porcentaje de alumnos que muestran interés
en las clases. España tiene menos alumnos
interesados (81%) que la media internacional
(90%).
• El porcentaje de alumnos disruptivos es igual
al internacional.
RESULTADOS
22. Teaching practices and cognitive skills. Jan Bietenbeck
Investigadores: RESULTADOS
La evidencia empírica extraída de los estudios realizados en las aulas
demuestra que hasta los años 90 los profesores apenas utilizaban
pedagogías modernas en sus clases.
En los 90 fue cuando las asociaciones nacionales de profesores dieron a
conocer los Estándares Nacionales de Enseñanza, los cuales
comprendían una serie de prácticas pedagógicas específicas.
‐ Lo que debía reducirse: memorización de
fórmulas y hechos, por ejemplo.
‐ Lo que debía ser mejorado: el trabajo en grupo,
los ejemplos reales, etc.
23. Esto no significa que los modelos de enseñanza modernos sean ineficaces. Para
promover modelos reflexivos hay que potenciar nuevas pedagogías.
La enseñanza es un proceso muy complejo que requiere ser investigado en
profundidad.
Teaching practices and cognitive skills. Jan Bietenbeck
Investigadores: RESULTADOS
Estudios internacionales como TIMSS o PIRLS dan la oportunidad de ver los
distintos modelos de enseñanza llevados a la práctica en la educación.
Si las metodologías modernas promueven el razonamiento antes que el
aprendizaje memorístico, ¿por qué en muchos casos no se ven esos resultados
en las pruebas de matemáticas y ciencias?
‐ Porque las pruebas estandarizadas prestan poca
atención a evaluar el razonamiento del alumnado.
24. Nivel socioeconómico, tipo de escuela y resultados educativos en España: el caso de TIMSS PIRLS 2011. García Montalvo, J.
Investigadores: RESULTADOS
Hay variables, como el sexo del estudiante, que tienen un efecto diferencial
significativo en especificaciones no condicionadas y también cuando se
condiciona al resto de factores relevantes.
Los resultados muestran que la proporción de varianza entre escuelas en la
variabilidad total es superior en matemáticas que en ciencias y en lectura.
La calidad de los resultados educativos es más importante que la extensión
de la escolarización en la explicación del desarrollo económico; y ésta se mide
con referencia a pruebas de conocimientos estandarizadas
Parece haber diferencias significativas entre haber nacido en el primer y el segundo
trimestre del año, entrar en primaria a los 6 años, tener más de 100 libros en casa,
que los padres tengan un nivel socioeconómico más elevado y que el profesor tenga
más de 5 años de experiencia.
En ciencias y en matemáticas también resulta significativo tener 9 años en el
momento de las pruebas pero no así en lectura. En el caso de ciencias el que el
profesor de la asignatura tenga un máster o un doctorado también mejora la
puntuación de los alumnos.
25. Impacto de la asistencia a Educación Infantil sobre los resultados académicos del estudiante en Primaria. Hidalgo, M. y García J.I
Investigadores: RESULTADOS
El impacto positivo de la Educación Infantil se manifiesta, fundamentalmente,
en una gran capacidad de disminuir la probabilidad de tener puntuaciones
bajas en general, para los alumnos que asisten al menos tres años a
Educación Infantil, y sobre todo para los que, entre estos, tienen padres sin
estudios universitarios.
La Educación Infantil ayuda especialmente a alumnos de familias con
características socioeconómicas más desaventajadas, así como a aquellos con
mayores necesidades de atención temprana.
Los alumnos que asistieron a Educación Infantil durante al menos tres años
obtuvieron cerca de 16 puntos más (sobre una media de en torno a 515
puntos) en las pruebas de Lectura realizadas en PIRLS‐TIMSS 2011 que
aquellos niños que no lo hicieron.
26. Efectos de los hábitos de lectura familiares sobre los resultados académicos en PIRLS 2011. García Fontés, W.
Investigadores: RESULTADOS
Existe un impacto positivo y significativo de las actividades de lectura con los
alumnos por parte de sus familias, mientras que el de las actividades propias
de lectura no es estadísticamente significativo.
Para entender los efectos de la implicación familiar en la lectura de los
alumnos se deben tomar en cuenta los recursos de aprendizaje que posee el
hogar.
Una descripción inicial de los datos permite observar que el nivel de
dedicación de los padres españoles a las actividades de lectura, tanto propias
como con los hijos, es significativamente más reducido que en otros países de
nuestro entorno. Este resultado es válido no solo en general sino también para
los distintos niveles educativos de los padres.
27. Importancia del desarrollo de las habilidades de lectura y
escritura antes de iniciar Educación Primaria
Boletín nº11. INEE
Los niños cuyos padres informaron que empezaron la escuela primaria capaces
de realizar tareas lectoras como leer frases y escribir palabras, obtuvieron
mejores resultados.
No es sorprendente que muchos alumnos empiecen la escuela primaria con
habilidades lecto‐escritoras, bien porque los padres enseñan a sus hijos estas
habilidades, o bien porque las desarrollan en E. Infantil.
Durante el desarrollo del niño, el tiempo dedicado a las actividades relacionadas
con la alfabetización es esencial para la adquisición de las destrezas lectoras y de
escritura, y los efectos pueden ser de larga duración (Levy, Gong, Hessel, Evans, y
Jared, 2006)
Un reciente meta‐análisis de Canadá basado en seis estudios longitudinales
demuestra que el nivel de dominio de las habilidades en la lectoescritura al
entrar en Primaria es mejor predictor que el género y el nivel socioeconómico
(Duncan et al., 2007).
Boletines: RESULTADOS
36. Boletín 07 del INEE
Datos del UTD Texas School Project en colaboración con la Texas Education Agency (TEA), EEUU. Datos de 1995 a 2001 (7420 directores).
Estudio de la influencia del valor añadido aportado por el director de un centro en el rendimiento escolar del
alumnado.
La eficacia del director ¿influye en los resultados académicos del centro?
¿Qué distingue a un director eficaz?
¿Cómo influye su gestión en la calidad del centro que dirige?
¿Abandonan los directores más eficaces los centros con mayor número de alumnos en desventaja social?
PERMANENCIA DE LOS DIRECTORES
En aquellos centros con un
nivel menor de pobreza y
mejores resultados, los
directores permanecen
durante más tiempo.
La calidad de los directores.
Rivkin (2012)
37. ESTIMACIÓN DEL IMPACTO SEGÚN LA EFICACIA DEL DIRECTOR
Enfoque 1: Se recurre a los efectos
fijos propios del director y del
centro educativo para estimar la
eficacia del director
Si la calidad del
director es medio‐
baja el rendimiento
escolar disminuye
0,153 desviaciones
estándar.
Si el director es de calidad
medio‐alta el rendimiento
escolar aumenta en 0,109
desviaciones estándar.
Un director con una desviación de un punto por encima de la
media aumentaría los resultados en un ocho por ciento.
Esto afectaría a todo el centro escolar, y no solo a una clase,
como en el caso de un profesor.
La repercusión es algo menor en las escuelas del cuartil con
menor proporción de estudiantes con becas de comedor (0.16), y
algo superior (0.26) en el cuartil de centros cuyo nivel de pobreza
es mayor.
Boletín 07 del INEE
La calidad de los directores.
Rivkin (2012)
38. Los directores más eficaces se
distribuyen de forma uniforme
entre todos los centros educativos
Los directores menos eficaces se
concentran, en mayor medida, en
los centros de menor nivel
socioeconómico.
Las diferencias en la efectividad del
director son más evidentes en los
centros con mayor nivel de pobreza.
La variabilidad del efecto de la calidad
del director se incrementa a medida
que aumenta la proporción de
alumnado con escasez de recursos.
El aumento de la eficacia del director incrementa el rendimiento escolar del centro, aunque al
introducir los efectos fijos del centro el impacto se reduce significativamente (0,11).
Boletín 07 del INEE
La calidad de los directores.
Rivkin (2012)
39. Enfoque 2: Se relaciona la movilidad del director con las
fluctuaciones anuales en los resultados académicos. Se
comprueba de nuevo, aunque con menor impacto, la
influencia de la calidad del director en los resultados
académicos de los alumnos.
Para que el rendimiento escolar del centro se incremente 0,05
desviaciones típicas es preciso que la eficacia del director
aumente 1 desviación típica.
El efecto es mayor en los centros con menor nivel
socioeconómico.
Enfoque 2: Se relaciona la movilidad del director con las
fluctuaciones anuales en los resultados académicos. Se
comprueba de nuevo, aunque con menor impacto, la
influencia de la calidad del director en los resultados
académicos de los alumnos.
Para que el rendimiento escolar del centro se incremente 0,05
desviaciones típicas es preciso que la eficacia del director
aumente 1 desviación típica.
El efecto es mayor en los centros con menor nivel
socioeconómico.
EFICIENCIA DEL DIRECTOR Y LA SELECCIÓN DEL PROFESORADO
El estudio muestra que incluso teniendo en cuenta las limitaciones en el sector educativo y
los escasos incentivos al rendimiento, los directores parecen tener un gran impacto en los
resultados. Se debería, por tanto, prestar atención a la selección y a la conservación de los
líderes educativos de mayor calidad.
Boletín 07 del INEE
La calidad de los directores.
Rivkin (2012)
41. Correlación entre la efectividad del director estimada a través de los resultados del alumnado y
los resultados de otras evaluaciones
3
Boletín 08 del INEE
Utilización de las calificaciones de los estudiantes
para evaluar a los directores. Susan Loeb (2012)