Diferencias

Muestra las diferencias entre dos versiones de la página.

--- es:manual:analisis:test:filtrado [2022/05/25 10:41] – creado root
+++ es:manual:analisis:test:filtrado [2023/05/08 12:28] (actual) – root
@@ Línea 3: / Línea 3: @@
 Siette es un sistema de evaluación de abierto, con distintas posibilidades de acceso según el propósito de la evaluación. No es lo mismo una evaluación sumativa, con un acceso restringido y realizado en un entorno controlado, que una evaluación formativa en la que el acceso al test queda al libre albedrío del usuario.
-El análisis de los resultados permite al profesor conocer cual es el conocimiento de los alumnos y como se comportan las preguntas que se han planteado, pero para ello, especialmente en los casos en los que el acceso al test no esta completamente controlado es necesario realizar previamente un proceso de filtrado o selección del conjunto de dato que se consideran válidos o representativos de la evaluación, especialmente si estos on los datos de partida para la calibración del sistema o para tomar decisiones acerca de la dificultad o relevancia de las preguntas que lo componen.
+El análisis de los resultados permite al profesor analizar el conocimiento de los alumnos y como se comportan las preguntas que se han planteado, pero para ello, especialmente en los casos en los que el acceso al test no está completamente controlado es necesario realizar previamente un proceso de filtrado o selección del conjunto de dato que se consideran válidos o representativos de la evaluación, especialmente si estos on los datos de partida para la calibración del sistema o para tomar decisiones acerca de la dificultad o relevancia de las preguntas que lo componen.
-A partir de los datos estadísticos obtenidos Siette permite establecer criterios para seleccionar o filtrar las sesiones de test realizadas.
+Además de los criterios de selección y filtrado que se describen en esta página, el profesor puede realizar una selección global de sesiones por fechas o grupos de alumnos. Esta selección se realiza mediante la sección "Preferencias del test" y son propias de cada profesor. Esta selección global es previa a cualquier proceso de selección y filtrado ya que las sesiones que no cumplen estos criterios globales no aparecen en los listados ni en el Analizador.
+A partir de los datos estadísticos obtenidos Siette permite establecer criterios para seleccionar o filtrar las sesiones de test realizadas. La diferencia entre seleccionar y filtrar es que la primera operación simplemente marca un conjunto de sesiones, lo que permite hacer operaciones sobre este subconjunto, mientras que el filtrado oculta las sesiones elegidas de manera que ya no aparezcan en el listado.
-==== Datos del test ====
+==== Selección de sesiones ====
-Un test en Siette esta compuesto por un conjunto de preguntas que se presentan al alumno para que responda. Cada vez que se plantea un test a un alumno se dice que éste realiza una sesión del test. Las preguntas que se plantean se seleccionan sobre un conjunto de potenciales preguntas que cumplen una serie de condiciones, y el test termina cuando se verifica un determinado criterio de finalización.
-Hay que tener en cuenta que opcionalmente, si no se han establecido reglas en contra, puede ocurrir lo siguiente:
+La selección de sesiones sirve para realizar acciones conjuntas sobre un conjunto de sesiones, como puede ser el envío de mensajes a un cierto grupo de alumnos, el análisis de resultados restringido a estas sesiones o el borrado definitivo de las mismas.
-   * Un mismo alumno puede realizar mas de una sesión del mismo test.
-   * El número de preguntas puede variar de una sesión a otra.
-   * Las preguntas planteadas pueden ser distintas de una sesión a otra.
-   * Puede haber sesiones incompletas, contestadas en blanco o no finalizadas por el alumno.
-=== Datos de sesiones ===
+La selección puede hacerse de dos formas, manual o de forma automática estableciendo criterios de selección. En el primer caso, solo es necesario acceder a la pestaña "Sesiones" y a continuación a la subpestaña "Selección por sesiones" y marcar una a una las sesiones que se vayan a seleccionar.
-Por todo ello, la primera operación que debe realizarse al analizar los resultados de un test es comprobar cuál ha sido el uso que se ha hecho del test, y descartar las sesiones que no ofrecen información válida. Para ello Siette proporciona un análisis previo de los siguientes valores:
+En el caso de selección automática se accede a la subpestaña "Selección por criterios", en la que aparece el formulario de la figura anterior con un conjunto de posibles criterios de selección, que deben marcarse y configurarse. Los criterios son los siguientes, en donde X representa el nivel de conocimientos, T el tiempo en minutos empleado en realizar la sesión, y N el número de preguntas:
-   * Numero de sesiones del test: Corresponde al total de sesiones que se han hecho.
+{{ es:manual:analisis:test:seleccion_de_sesiones_1.png | Selección de sesiones }}
-   * Número de sesiones completadas: Son las sesiones en las que se ha llegado al final del test, es decir son sesiones que han terminado porque el criterio de finalización se ha cumplido, y no por otra razón (abandono del test, falta de preguntas a la hora de seleccionar, etc.)
-   * Número de sesiones vacias: Son sesiones en las que el alumno ha intentado entrar para realizar el test y posiblemente ha leido las instrucciones iniciales, pero, o bien no ha querido continuar, o bien el sistema no le ha dejado al no cumplir alguno de los criterios de acceso.
-   * Número de alumnos: Es el número de usuarios distintos que han realizado el test
-En el siguiente ejemplo se muestra un test del cual se han realizado 343 sesiones, aunque en realidad solo se han completado 283. Hay 16 sesiones completamente vacías, y solo hay 219 usuarios diferentes que han hecho el test.
+   * <b>C<sub>1</sub></b>: Seleccionar sesiones en las que el número total de ítems sea mayor que max(N)
+   * <b>C<sub>2</sub></b>: Seleccionar sesiones en las que el número total de ítems sea menor que min(N)
+   * <b>C<sub>3</sub></b>: Seleccionar sesiones en las que el nivel de conocimiento estimado (en el intervalo de la escala de la asignatura) sea superior a min(X)
+   * <b>C<sub>4</sub></b>: Seleccionar sesiones en las que el nivel de conocimiento estimado (en el intervalo de la escala de la asignatura) sea inferior a max(X)
+   * <b>C<sub>4</sub></b>: Seleccionar sesiones en las que el nivel de conocimiento estimado (en el intervalo de la escala de la asignatura) sea inferior a max(X)
+   * <b>C<sub>5</sub></b>: Seleccionar sesiones cuya duración total en minutos sea superior a: min(T)
+   * <b>C<sub>6</sub></b>: Seleccionar sesiones cuya duración total en minutos sea inferior a: max(T)
+   * <b>C<sub>7</sub></b>: Seleccionar solo sesiones completadas o no completadas.
+   * <b>C<sub>8</sub></b>: Seleccionar sesiones que hayan sido realizadas desde una dirección IP que concuerde con un cierto patrón. ((Para la concordancia se utiliza el patrón SIETTE, basado en unas expresiones regulares simplificadas. Por ejemplo, el patrón "192.168.*" concuerda con cualquier dirección IP local tal como "192.168.0.100" o bien "192.168.169.12")). Esta opción puede servir para discernir entre sesiones realizadas en un entorno controlado, por ejemplo una red local, o desde cualquier otra dirección de Internet.
+   * <b>C<sub>9</sub></b>: El último criterio corresponde a diversas variantes de selección de sesiones realizadas por un mismo alumno. Sirve para seleccionar de entre todas las sesiones realizadas por un mismo alumno la primera o la última sesión, la sesión con puntuación mas alta (max(X)) o mas baja (min(X)); o bien el criterio inverso, es decir, seleccionar todas menos la primera, o la ultima, etc..
+A la izquierda de cada uno de estos criterios hay un "checkbox" que permite activar o desactivar cada criterio. Una vez establecidos los criterios a usar, en la parte inferior de este formulario es necesario indicar si los criterios se combinaran mediante conjunción o disyunción, es decir, si las sesiones seleccionadas deben cumplir todos los criterios establecidos o basta con que cumplan solo alguno de ellos. Finalmente, se puede indicar mediante un "checkbox" situado al final del formulario que se quieren seleccionar las sesiones que NO cumplan estos criterios, es decir, invertir la selección.
+{{ es:manual:analisis:test:seleccion_de_sesiones_2.png | Selección de sesiones }}
+Una vez fijados los criterios, para proceder a aplicar la selección debe pulsar el botón situado en la parte superior derecha tal como indica la figura. Al hacer esto, a la derecha de cada criterio aparece un valor correspondiente al número de sesiones que cumplen cada uno de los criterios, y al pie de la página aparece un mensaje que indica el resultado de la selección del criterio combinado. En este ejemplo la selección compone una condición compuesta por: $$C_1 \land. C_3 \land C_5 \land C_6 \land C_7 \land C_9$$
+Una vez efectuada la selección de sesiones, en la cabecera de la pestaña correspondiente al Analizador, aparecen tambien opciones para la visualización de los datos que se muestran tanto en la estadística descriptiva como en las gráficas. Mediante un selector puede indicarse que se muestren solo los datos correspondientes a las sesiones que se han seleccionado. Esta opción es innecesaria en el caso del filtrado, que se verá a continuación.
+{{ es:manual:analisis:test:cabecera_analizador.png | Cabecera del analizador }}
+==== Filtrado de sesiones ====
+El filtrado de sesiones sirve para ocultar un conjunto de sesiones seleccionadas previamente de manera que no aparezcan en los listados. Las sesiones ocultas no se borran de la base de datos, simplemente no se muestran y a todos los demás efectos es como si no existieran.
+Los criterios de filtrado se guardan en la base de datos de Siette, de manera que se mantengan al conectar nuevamente. No solo eso, sino que si se realizan nuevas sesiones del test, se aplicarán los criterios de filtrado a las nuevas sesiones y no se mostrarán en los listados si no los cumplen. Por otra parte, y a diferencia de los criterios globales de selección que se fijan en las preferencias, los. criterios de filtrado se aplican para todos los profesores de la asignatura. La idea que subyace es que una vez elicitados los criterios de filtrado queden automatizados de manera que aunque las sesiones filtradas no se borren no tengan influencia alguna en el análisis de datos ni en la posible calibración de los ítems.
+Definir los criterios de filtrado requiere realizar las mismas operaciones que la selección, señalando los criterios que se aplicarán. Finalmente para aplicar el filtrado debe pulsarse el botón que se indica en la siguiente figura.
+{{ es:manual:analisis:test:seleccion_de_sesiones_3.png | Filtrado de sesiones }}
+Nótese que se han usado los mismos criterios que en el caso de la selección pero se ha invertido la selección, de manera que se oculten las sesiones que no cumplan estos criterios. En este ejemplo la condición compuesta para ocultar sesiones sería: $$\lnot (C_1 \land. C_3 \land C_5 \land C_6 \land C_7 \land C_9)$$
+Para deshacer el filtrado y recuperar todas las sesiones basta con pulsar sobre la etiqueta que indica el número de sesiones filtradas. (Se inidca con un 3 en la imagen anterior).
+==== Eliminación de sesiones ====
+Por último, existe tambien la opción de borrar un conjunto de sesiones previamente seleccionadas. A diferencia de la ocultación de sesiones, el borrado elimina las sesiones de la base de datos definitivamente  y no pueden volver a recuperarse, por lo que debe utilizarse con cuidado.
+{{ es:manual:analisis:test:seleccion_de_sesiones_4.png | Borrado de sesiones }}
+Aunque se pueden borrar sesiones directamente, es recomendable seleccionar primero las sesiones, comprobar que la selección es correcta y finalmente realizar el borrado pulsando sobre el botón.
+Nótese tambien que resulta mas cómodo establecer un criterio de filtrado que borrar las sesiones, ya que el criterio de filtrado queda guardado y se aplicará no solo a las sesiones que existan actualmente sino a las nuevas sesiones que se realicen; mientras que el borrado habría que repetirlo periódicamente para descartar las nuevas sesiones no deseadas. Por otra parte, el borrado es irrecuperable, y el filtrado no.
+==== Ejemplo ====
+El filtrado de datos es un proceso iterativo. A continuación se propone un ejemplo de este proceso a partir de los resultados de un test de practicas realizado a lo largo de varios años de la asignatura //Procesadores de Lenguajes//. Si se accede a los datos en bruto del test en la pestaña "Analizador" antes de realizar ningún tipo de selección se obtienen los siguientes datos:
+{{ es:manual:analisis:test:datos_generales.png | Datos generales }}
+El primer paso es comprobar los datos de las sesiones
 {{ es:manual:analisis:test:datos_sesiones.png | Datos de las sesiones }}
+En este ejemplo se muestra un test del cual se han realizado 343 sesiones, aunque en realidad solo se han completado 283. Hay 16 sesiones completamente vacías, y solo hay 219 usuarios diferentes que han hecho el test.
 A la vista de estos datos, para realizar el análisis se podría optar por filtrar los datos para quedarse solo con las  sesiones completas realizadas por alumnos diferentes, escogiendo por ejemplo la primera sesión de cada alumno. Para realizar este filtrado hay que acceder a la pestaña Sesiones y seleccionar la subpestaña Selección por criterios. En este caso se seleccionan las sesiones:
@@ Línea 36: / Línea 83: @@
 En este punto hay dos opciones:
    - Seleccionar directamente las sesiones que cumplan estos criterios.
-   - Seleccionar las sesiones que NO cumplan estos criterios (invirtiendo la selección) y ocultarlas del listado de sesiones o borrarlas definitivamente. Ocultarlas tiene la ventaja de que las sesiones permanecen en la base de datos y que si se quiere se podrían volver a recuperar deshaciendo la selección. Borrar las sesiones implica que se descartan para siempre, pero tiene la ventaja de que se facilita el análisis.
+   - Filtrar las sesiones que NO cumplan estos criterios (invirtiendo la selección) y ocultarlas del listado de sesiones o borrarlas definitivamente. Ocultarlas tiene la ventaja de que las sesiones permanecen en la base de datos y que si se quiere se podrían volver a recuperar deshaciendo la selección. Borrar las sesiones implica que se descartan para siempre, pero tiene la ventaja de que se facilita el análisis.
 La imagen anterior muestra los resultados de este criterio de filtrado. Se obtienen 283 sesiones al seleccionar solo las sesiones completas, y 223 al seleccionar solo la primera sesión de cada alumno. Se indica que la selección debe cumplir TODOS los criterios, por lo que finalmente resultan solo 183 sesiones seleccionadas. Al invertir la selección y pulsar el botón ocultar, el resto de sesiones que no cumplen estos criterios se eliminan de temporalmente del listado de sesiones.
-Los criterios de filtrado se guardan en la base de datos de Siette, de manera que se mantengan al conectar nuevamente. No solo eso, sino que si se realizan nuevas sesiones del test, se aplicarán los criterios de filtrado a las nuevas sesiones y no se mostrarán en los listados si no los cumplen.
+Una vez filtradas las sesiones, por ejemplo ocultándolas, si se vuelve a la pestaña Analizador y se recargan los datos se mostrará como ha quedan estos valores:
-Una vez filtradas las sesiones, por ejemplo ocultándolas, si se vuelve a la pestaña Analizado y se recargan los datos se mostrará como ha quedan estos valores:
 {{ es:manual:analisis:test:datos_sesiones_2.png | Datos de las sesiones }}
@@ Línea 48: / Línea 93: @@
 Según esto, y tras actualizar los datos del analizador, se ha conseguido filtrar las sesiones y quedan 183 primeras sesiones todas ellas completas. El resto de los datos tambien hará referencia a este conjunto de sesiones.
-=== Datos de preguntas ===
+A continuación se analizan los datos relativos a las preguntas. En concreto, y siguiendo con el ejemplo anterior:
-En esta sección se analizan los datos relativos a las preguntas. En concreto, y siguiendo con el ejemplo anterior:
 {{ es:manual:analisis:test:datos_preguntas.png | Datos de las preguntas }}
-   * Número de preguntas usadas alguna vez: Es el número de preguntas distintas que en alguna ocasión han sido usadas en alguna sesión de este test.
+Merece la pena fijarse en el intervalo del número de preguntas para saber si realmente las sesiones que se están analizando son las que se quiere. En el ejemplo anterior se indica que hay sesiones completadas con tan solo 6 preguntas. Esto pude deberse a algún tipo de problema durante la ejecución del test, por ejemplo, que se hubiera alcanzado el tiempo máximo, o que el profesor por alguna razón cerrara la sesión. Conviene quizás incluir un nuevo criterio de filtrado que solo seleccione sesiones con al menos 12 preguntas.
-   * Número mínimo y máximo de preguntas que han compuesto alguna de las sesiones del test. Merece la pena fijarse en este intervalo para saber si realmente las sesiones que se están analizando son las que se quiere. En el ejemplo anterior se indica que hay sesiones completadas con tan solo 6 preguntas. Esto pude deberse a algún tipo de problema durante la ejecución del test, por ejemplo, que se hubiera alcanzado el tiempo máximo, o que el profesor por alguna razón cerrara la sesión. Conviene quizás incluir un nuevo criterio de filtrado que solo seleccione sesiones con al menos 12 preguntas.
-   * Numero medio de preguntas: Es la media aritmética del número de preguntas de cada sesión.
 Al aplicar nuevamente el filtrado:
@@ Línea 71: / Línea 111: @@
 Interesa tambien saber a la hora de analizar los resultados de un test, el tiempo que ha tardado el alumno en realizar la prueba. Un tiempo por debajo de un cierto umbral indicará que el alumno no ha prestado la debida atención al test, y simplemente ha respondido al azar o ha dejado todas las preguntas en blanco. Igualmente, si el tiempo de respuesta ha sido excesivo, podría darse el caso de que el alumno hubiera realizado el ejercicio con la ayuda de apuntes o de otros medios devaluando los resultados. Dependiendo del test el profesor podrá establecer la duración mínima y máxima descartar sesiones que solo aportan ruido.
-Siguiendo con el ejemplo anterior, Siette presenta los siguientes resultados:
+Siguiendo con el ejemplo, Siette presenta los siguientes resultados:
-    * Tiempo de realización mínimo y máximo.
-    * Percentiles, Se basa en ordenar las sesiones en orden creciente de duración y dividirla en cuatro partes iguales, hallando el tiempo medio de realización para cada una de estas cuatro partes.
-    * Media y desviación típica
-    * Media en intervalo de confianza del 95%, es decir, el intervalo de duración del test que comprende al 95% de los alumnos.
 {{ es:manual:analisis:test:datos_tiempo.png | Datos de tiempo de realización }}
@@ Línea 86: / Línea 121: @@
 === Puntuaciones obtenidas ===
-Es la puntuación observada, segun el criterio de evaluación del test y ajustada a la escala fijada en la asignatura. Cuando se utiliza el criterio de evaluación por puntos, la puntuación final puede estar por debajo de la puntuación mínima, al aplicarse las penalizaciones por respuestas incorrectas. Siette muestra los siguientes valores:
+Es la puntuación observada, según el criterio de evaluación del test y ajustada a la escala fijada en la asignatura. Cuando se utiliza el criterio de evaluación por puntos, la puntuación final puede estar por debajo de la puntuación mínima, al aplicarse las penalizaciones por respuestas incorrectas. Siette muestra los siguientes valores:
-   * Puntuaciones máxima y mínima obtenidas por algún alumno.
-==== Discretización ====
-Cualquier test con un número finito de ítems siempre dará unos valores discretos. Por ejemplo un test con 10 ítems dicotómicos de evaluación porcentual solo podrá resultar en un once valores 0%, 10%, 20% hasta 100%. Sin embargo, cuando la evaluación de los ítems es mas fina o hay muchos ítems, la combinación de valores da lugar a números que se asimilan a un valor real.
-En el caso de la teoría de respuesta al ítem, al utilizar curvas características contínuas se obtienen valores reales en el intervalo $[-\infty, +\infty]$, aunque en la práctica se considera el intervalo $[-3,+3]$.
-Siette esta diseñado desde un principio para trabajar con un número relativamente pequeño de valores discretos, en los que se resumen las puntuaciones de los test. Estos intervalos equivalen constituyen un conjunto de clases ordenadas en las que se coloca a cada uno de los alumnos. De esta forma, la tarea de Siette consiste en "clasificar" a los alumnos dependiendo de sus resultados en el test, lo que da cabida al uso de diversas técnicas de clasificación basadas en Inteligencia Artificial, como las redes neuronales, los árboles de decisión o la clasificación bayesiana ((Al fin y al cabo uno de los métodos mas empleados en la TRI es la inferencia bayesiana, que es el que implementa Siette)).
-Esta clasificación facilita en cierta forma la toma de decisiones. Por ejemplo, podrían establecerse solo dos clases como resultado de un test "Suspenso" o "Aprobado". Para muchas otras aplicaciones es conveniente incrementar el número de clases, aunque siguen siendo necesarias, por ejemplo si el resultado del test determina una acción tutorial, un refuerzo específico o una asignación a un grupo determinado ((por ejemplo para determinar el grupo en el que colocar a un alumno en una academia de idiomas según los resultados de un. test preliminar))
-En la sección Analizador, en la pestaña Frecuencias absolutas, se muestra la distribución del test discretizada según el número de niveles del test. Los valores del eje de abscisas corresponden a la "marca de clase" o valor medio del intervalo.
-{{ es:manual:analisis:test:frecuencias_absolutas.png | Frecuencias absolutas }}
-Debajo de este gráfico se muestran los valores de la distribución, es decir el número de alumnos que ha terminado el test en cada nivel de conocimiento.
+{{ es:manual:analisis:test:datos_puntuaciones.png | Puntuaciones obtenidas }}
-{{ es:manual:analisis:test:valores_numericos.png | Valores numéricos de la dsitribución }}
+A la vista de los cuales parece conveniente ocultar las sesiones con puntuaciones negativas o nulas. Tras realizar esta operación los datos de puntuación son los siguientes
-En la pestaña Frecuencias relativas, se utiliza una discretización mucho más fina (50 valores), es decir mas parecida al caso contínuo. Sobre esta distribución se muestra también el ajuste de una función de Gauss (normal), lo que permite apreciar a simple vista si la distribución empírica se asemeja o no a la normal.
+{{ es:manual:analisis:test:datos_puntuaciones_2.png | Puntuaciones obtenidas }}
-{{ es:manual:analisis:test:frecuencias_relativas.png | Frecuencias relativas }}
+Al realizar todas estas operaciones de filtrado, se han seleccionado un total de 151 sesiones y se han ocultado 192. Los datos que se muestran en el analizador se han ido actualizado quedando finalmente los siguientes:
-==== Valores medios, cuartiles y desviaciones típicas ====
+{{ es:manual:analisis:test:datos_generales_2.png | Datos generales }}