V Jornadas de la Red Temática en Tecnologías del Habla (RTTH)
Evaluación de Sistemas ALBAYZIN-08
Plan de evaluación    |   
Contacto    |   
Listado de participantes    |   
Verificación de la Lengua
(ALBAYZIN-08 VL)
Inscripción
cerrada desde el 1/8/2008
Reglas de participación
  • Cada grupo participante constará de uno o más investigadores.
  • Los grupos que deseen participar en esta evaluación deberán inscribirse antes del 31 de julio de 2008 a través del formulario accesible desde la página web de la Evaluación ALBAYZIN-08_VL: http://gtts.ehu.es/RTTH-LRE08/Formulario.jsp. Una vez validada su inscripción, y a partir del 30 de junio de 2008, les serán enviados los materiales de entrenamiento y desarrollo. La información sobre los grupos participantes será publicada en la página web a medida que vayan formalizándose las inscripciones. Los interesados pueden dirigirse directamente al comité organizador para consultar aspectos que no estén claros sobre la evaluación, por e-mail a luisjavier.rodriguez@ehu.es y por teléfono al número 946012716.
  • Los datos suministrados (entrenamiento, desarrollo y evaluación) se utilizarán exclusivamente con fines de investigación. En el futuro, los grupos participantes podrán utilizar estos datos para desarrollar o evaluar sus propios sistemas, pero no podrán distribuirlos ni comerciar con ellos. Si dieran lugar a publicaciones, deberán referenciar la base de datos como sigue:
    KALAKA. Speech database created for the 2008 Language Recognition Evaluation on Spanish Languages, organized by the Spanish Network on Speech Technology. Produced by the Software Technologies Working Group (GTTS, http://gtts.ehu.es), University of the Basque Country.
  • Una vez recibidos los datos de evaluación (29 de septiembre de 2008), los grupos participantes deberán procesarlos y devolver los resultados de verificación de su sistema o sistemas dentro del plazo límite establecido (19 de octubre de 2008, 24:00 hora de España peninsular), según formato y método especificados en los apartados 5.2.2 y 5.3 de este plan.
  • La información disponible por un sistema en cada prueba de verificación se limitará a la especificada en el apartado 3.5. En particular:
    • cada segmento de evaluación debe ser procesado de manera independiente y sin información alguna sobre el resto de los segmentos, y
    • no está permitido escuchar las señales del conjunto de evaluación.
  • Los resultados de verificación de un sistema deben incluir todas las señales del conjunto de evaluación y todas las lenguas objetivo. En particular, no se considerarán válidos los resultados de verificación si faltan los correspondientes a alguna lengua objetivo.
  • En cada competición, cada grupo podrá enviar tantos sistemas alternativos como desee, pero deberá enviar uno (y sólo uno) identificado como primario.
  • Los envíos deberán incluir la identificación del grupo y un fichero de resultados por cada sistema, indicando a qué competición se presenta (CR, CL, AR, AL) y si las puntuaciones corresponden o no a log likelihood ratios.
  • Se entregará el premio ALBAYZIN-08 de Evaluación de Sistemas de Verificación de la Lengua al grupo ganador (esto es, al que obtenga un menor coste promedio Cavg) en la competición CR dentro de la subcategoría de segmentos de 30 segundos.
  • Cada grupo deberá enviar, junto a los resultados, un documento en formato PDF donde se describirán con suficiente detalle las características del sistema o sistemas (ya sean primarios o alternativos) que se presenten a la evaluación. Para homogeneizar el aspecto de estas contribuciones, que se publicarán en el CDROM de las Jornadas junto con el informe final del comité organizador de la Evaluación ALBAYZIN-08, se utilizarán como base las plantillas LaTeX o WORD de las Jornadas.
  • Cada grupo participante deberán enviar uno o más representantes al Workshop de Evaluaciones ALBAYZIN-08, dentro las V Jornadas en Tecnología del Habla, para presentar los detalles técnicos de su sistema o sistemas, así como los resultados obtenidos, y discutir la problemática de esta evaluación. Este Workshop se realizará en sesión abierta a todos los participantes de las Jornadas.
  • Este plan podría sufrir modificaciones, debido a restricciones o necesidades no previstas inicialmente, a errores o a imprecisiones, que en todo caso serán comunicadas a todos los grupos participantes.
Datos del equipo investigador
Nombre del equipo:
Departamento:
Centro:
Universidad/Institución:
Persona de contacto
Nombre*:
Dirección postal:
e-mail*:
teléfono:
IMPORTANTE:

Rellenar y enviar este formulario al Comité Organizador de la Evaluación ALBAYZIN-08 VL (Verificación de la Lengua) de las V Jornadas en Tecnología del Habla, supone la inscripción del equipo como participante en dicha evaluación y el reconocimiento de haber leído y aceptado las condiciones de participación y los protocolos que se detallan en el plan de evaluación.