Métodos de evaluación Evaluación de los diseños

Métodos de evaluación

Evaluación de los diseños n Tipos de evaluaciones Estrategias de campo n Estudio de los sistemas con tareas y en condiciones reales n Estrategias experimentales n Experimentos desarrollados en laboratorios n Estrategias de inspección n Verificación del cumplimiento de directivas, mediciones, etc. n Estrategias teóricas n Evaluaciones con base teórica n

Métodos de Inspección de usabilidad n n Inspección de la interfaz utilizando métodos heurísticos (no experimentos) Evaluación Heurística: n n Un conjunto pequeño de evaluadores examina la interfaz, y verifica si satisface los principios reconocidos de usabilidad Análisis de Acciones n Análisis cuantitativo de las acciones, para predecir el tiempo requerido para determinadas tareas

Evaluación heurística n Chequeo sistemático del diseño contra principios de usabilidad reconocidos (“heurísticas”) n n Realizado por un conjunto pequeño de evaluadores Algunas heurísticas: n n n n n Diseño minimalista (“less is more”) Utilizar el lenguaje del usuario Reconocer, no recordar Consistencia Proveer feedback Indicar claramente las salidas Proveer aceleradores Buenos mensajes de error Prevenir los errores Ayudas y documentaciones

Evaluación heurística n Realización de una evaluación heurística n n El diseño puede ser una descripción textual, un bosquejo, prototipo o un sistema finalizado Pueden proveerse evaluadores conocimiento específico del dominio Cada evaluador debiera trabajar individualmente La interfaz es analizada en 2 pasos n n n 1. Centrada en el flujo general 2. Análisis de los elementos individuales del diálogo Las evaluaciones individuales posteriormente deben ser compuestas

Evaluación heurística n Cuántos problemas son identificados? Nombre de la evaluación Número de evaluadores Problemas conocidos Nro. Promedio de problemas hallados por cada evaluador Teledata 37 52 51% Mantel 77 30 38% Savings 34 48 26% Transport 34 34 20% n Las evaluaciones individuales encuentran relativamente pocos problemas

Evaluación Heurística n Componer las evaluaciones individuales Composición: 1 2 3 5 10 Teledata 51% 71% 81% 90% 97% Mantel 38% 52% 60% 70% 83% Savings 26% 41% 50% 63% 78% Transport 20% 33% 42% 55% 71% n La composición de las evaluaciones individuales produce mejores resultados

Evaluación heurística

Evaluación heurística n La experiencia de los evaluadores influencia la cantidad de problemas hallados n Tipos de evaluadores n n Novatos (sin conocimiento de usabilidad ni del dominio) Expertos en usabilidad, pero no del dominio Especialistas en usabilidad y conocimiento del dominio Hallar todos los errores requiere combinar evaluadores de distintos tipos

Evaluación heurística n Ventajas y desventajas C económico C intuitivo C utilizable en las primeras fases del proceso de desarrollo C halla muchos problemas C halla tanto problemas mayores como menores D puede ignorar problemas específicos del dominio

Análisis de las acciones n Análisis cuantitativo de las acciones para predecir el tiempo requerido por un usuario experimentado para completar las tareas n n n Basado en las estimaciones de tiempos para acciones típicas Focalizado en la performance de usuarios experimentados(eficiencia) Niveles de detalle n n Formal (detallado) Informal

Análisis de las acciones n Análisis detallado n n n n “Análisis a nivel de tecla” Basado en modelo GOMS (“Goals, Operators, Methods, Selection”) Muy detallado Predicción del tiempo de las tareas 20% Muy tedioso de calcular Subdivide las tareas jerárquicamente en subtareas Utiliza tiempos promedios (tabulados) para los tiempos de cada acción Utilizado para optimizar la performance de sistemas de alto uso

Análisis de las acciones Acción 1. 5 0. 3 Respuesta a una luz breve 0. 1 Reconocer una palabra de 6 letras 0. 34 Mover los ojos hasta una nueva posición de la pantalla Acciones Mentales 0. 28 Mover la mano hasta el mouse o una tecla función Percepción Visual Presión de una tecla Apuntamiento con el mouse Movimientos físicos Tiempo 0. 23 Recuperar un item de la memoria de largo plazo 1. 2 Aprender un paso de un procedimiento 25 Ejecutar un paso mental 0. 075 Elegir entre métodos 1. 2

Análisis de las acciones n Análisis informal n n Alto nivel de detalle Lista las acciones requeridas para completar una tarea, pero con menos detalle que el método detallado n n n “Seleccionar ‘Save’ en el menú” “Editar el archivo ‘XXX’ “ “Confirmar presionando ‘Ok’ “ En este nivel de análisis, cada acción toma al menos 2 a 3 segundos Permite una estimación rápida de la performance para una tarea particular

Tests de Usabilidad n n Tests empíricos del diseño de la interfaz con usuarios representativos Tests con Lápiz y Papel n n “Thinking Aloud” n n Los usuarios expresan sus pensamientos en voz alta, mientras realizan tareas típicas Experimentos formales: n n Se muestra a los usuarios aspectos de la interfaz “en papel”, respondiendo a determinadas preguntas Experimentos controlados y análisis estadísticos Técnicas de consulta n Entrevistas y cuestionarios

Test en Lápiz y Papel n Se muestra a los usuarios aspectos de la interfaz “en papel” Los usuarios responden a determinadas cuestiones n El administrador del test toma notas, las colecta y construye tablas n Ej. presentar bosquejos de una página Web, y preguntar a los usuarios que esperan encontrar bajo iconos particulares C Rápido, efectivo y económico n

Test en Lápiz y Papel n Ejemplo: organización de menúes n “En forma similar a un procesador de texto actual, escriba el nombre de la opción del menú bajo la cual esperaría encontrar la tarea deseada” File Edit View Insert Format Utilities Macro Window 1. Search for a word: _____ 2. Create a header: _____ 3. Create an index entry: _____ 4. Set up your document preferences: _____ 5. Repeat an annotation: _____ 6. Paste another file into your current file: _____ 7. Use italics: ________ 8. Show summary information about your document: _____ 9. Switch to another document: _____ 10. Show all annotations in the document: _____ 11. Repaginate the document: _____ 12. Set up your printer: _____

“Thinking Aloud” n Se les solicita a los usuarios pensar en voz alta, mientras realizan sus tareas n n Se obtiene una alta cantidad de comentarios Ventajas y desventajas C Encuentra muchos problemas de usabilidad C Encuentra las causas de los problemas C Requiere un número pequeño de usuarios (3 - 5) C Utilizable en las primeras fases del proceso de desarrollo C Requiere poca experiencia del administrador de la evaluación D El tener que pensar en voz alta puede influenciar la forma de trabajo del usuario D Puede no proveer datos acerca de la performance

Experimentos formales n Experimentos controlados con usuarios n n n Análisis estadísticos Análisis de performance Proveen mediciones acerca de la performance, pero requieren muchos usuarios para estadísticas precisas (16 -20)

Medición de la performance n Recolección de datos cuantitativos y objetivos: n n n n Tiempo para completar algunas tareas específicas Número de tareas completadas en un tiempo dado Número de errores Tiempo de recuperación de errores Número de comandos y características utilizadas Número de características que el usuario puede reconocer luego del test Frecuencia de uso de la ayuda del sistema Tiempo dedicado a leer la ayuda

Análisis Estadístico n Existe alguna diferencia estadística significante entre los sistemas A y B? n n Qué tamaño tiene esa diferencia? n n Test de Hipótesis Media Que precisión tienen los resultados? n n Desviación estándar, certeza Ej. n “Tenemos un 95% de certeza que el tiempo para realizar la tarea X es 4. 5 minutos”

Experimentos formales n Ventajas y desventajas C Permite la comparación de diseños alternativos C Recolecta datos cuantitativos y objetivos D Necesita un número significativo de usuarios (16 -20) D Utilizable sólo en las etapas finales del proceso de desarrollo D Requiere experiencia del administrador D No proveen información acerca de las razones de un hecho

Técnicas de Consulta n Preguntas a los usuarios, luego de haber utilizado el sistema para realizar tareas representativas n n n Provee datos subjetivos acerca de la visión del usuario del sistema n n Entrevistas Cuestionarios Preferencias, impresiones, actitudes Simple, económico, y suplemento útil al “thinking aloud” o experimentos formales

Entrevistas Permitir al usuario expresar primeramente sus pensamientos n Comenzar con aspectos de alto nivel, y luego con más detallados n Aceptar preguntas de cualquier otro observador n Consulte cualquier aspecto que surja de las notas de la entrevista C Flexible, el administrador puede preguntar por cualquier aspecto de interés D Consume mucho tiempo D Difícil de analizar y comparar n

Cuestionarios n Formulario escrito, estructurado, completado por el usuario Datos cualitativos y cuantitativos n Cuestionarios electrónicos (ej. GVU Web User Survey). C puede alcanzar a muchos individuos (por correo, mail, Web) C fácil de repetir C consume menos tiempo que las entrevistas C fácil de analizar y comparar D menos flexible que las entrevistas n

Técnicas de consulta n Ventajas y desventajas C recolección de datos acerca de la visión subjetiva del usuario del sistema C datos cuantitativos y cualitativos C información suplementaria útil C simple C económico D los datos subjetivos pueden no ser muy confiables

Comparación de técnicas de evaluación Evaluación Análisis de heurística acciones “Thinking Aloud” Experimentos formales Técnicas de consulta Etapas Todas Diseño Análisis competitivo, testing final Todas Objectivo / Subjetivo Objetivo Subjetivo Cualitativo / Cuantitativo Cualitativo Cuantitativo Ambos Intrusivo No No Si Si No Tiempo Bajo Medio / Alto Medio Alto Bajo Equipo Bajo / Medio Bajo Experiencia Media / Alta Baja / Media / Alta Baja Evaluadores 3 -5 1 -2 1 -2 Usuarios 0 0 3 -5 16 -20 >3

Evaluaciones en cada etapa n Recolección de información n n Diseño conceptual n n Test de usabilidad, evaluación heurística Implementación del sistema final n n Evaluación heurística, test de usabilidad, evaluaciones teóricas Implementación del prototipo n n Entrevistas, evaluación heurística Diseño de la funcionalidad y la interfaz n n Entrevistas y cuestionarios, observaciones lugar de trabajo Test de usabilidad Evolución y ampliación del sistema n Observaciones lugar de trabajo, entrevistas y cuestionarios, experimentos de campo