Reglas de participación
- Cada grupo participante constará de uno o más investigadores.
- Los grupos que deseen participar en esta evaluación deberán inscribirse antes del
31 de julio de 2008 a través del formulario accesible desde la página web de la
Evaluación ALBAYZIN-08_VL:
http://gtts.ehu.es/RTTH-LRE08/Formulario.jsp.
Una vez validada su inscripción, y a partir del 30 de junio de 2008, les serán
enviados los materiales de entrenamiento y desarrollo. La información sobre los
grupos participantes será publicada en la página web a medida que vayan
formalizándose las inscripciones. Los interesados pueden dirigirse directamente al
comité organizador para consultar aspectos que no estén claros sobre la
evaluación, por e-mail a luisjavier.rodriguez@ehu.es y por teléfono al número
946012716.
- Los datos suministrados (entrenamiento, desarrollo y evaluación) se utilizarán
exclusivamente con fines de investigación. En el futuro, los grupos participantes
podrán utilizar estos datos para desarrollar o evaluar sus propios sistemas, pero no
podrán distribuirlos ni comerciar con ellos. Si dieran lugar a publicaciones, deberán
referenciar la base de datos como sigue:
KALAKA. Speech database created for the 2008 Language Recognition
Evaluation on Spanish Languages, organized by the Spanish Network on
Speech Technology. Produced by the Software Technologies Working Group
(GTTS, http://gtts.ehu.es), University of the Basque Country.
- Una vez recibidos los datos de evaluación (29 de septiembre de 2008), los grupos
participantes deberán procesarlos y devolver los resultados de verificación de su
sistema o sistemas dentro del plazo límite establecido (19 de octubre de 2008,
24:00 hora de España peninsular), según formato y método especificados en los
apartados 5.2.2 y 5.3 de este plan.
- La información disponible por un sistema en cada prueba de verificación se limitará
a la especificada en el apartado 3.5. En particular:
- cada segmento de evaluación debe ser procesado de manera independiente y
sin información alguna sobre el resto de los segmentos, y
- no está permitido escuchar las señales del conjunto de evaluación.
- Los resultados de verificación de un sistema deben incluir todas las señales del
conjunto de evaluación y todas las lenguas objetivo. En particular, no se
considerarán válidos los resultados de verificación si faltan los correspondientes a
alguna lengua objetivo.
- En cada competición, cada grupo podrá enviar tantos sistemas alternativos como
desee, pero deberá enviar uno (y sólo uno) identificado como primario.
- Los envíos deberán incluir la identificación del grupo y un fichero de resultados por
cada sistema, indicando a qué competición se presenta (CR, CL, AR, AL) y si las
puntuaciones corresponden o no a log likelihood ratios.
- Se entregará el premio ALBAYZIN-08 de Evaluación de Sistemas de Verificación
de la Lengua al grupo ganador (esto es, al que obtenga un menor coste promedio
Cavg) en la competición CR dentro de la subcategoría de segmentos de 30
segundos.
- Cada grupo deberá enviar, junto a los resultados, un documento en formato PDF
donde se describirán con suficiente detalle las características del sistema o
sistemas (ya sean primarios o alternativos) que se presenten a la evaluación. Para
homogeneizar el aspecto de estas contribuciones, que se publicarán en el CDROM
de las Jornadas junto con el informe final del comité organizador de la Evaluación
ALBAYZIN-08, se utilizarán como base las plantillas LaTeX o WORD de las
Jornadas.
- Cada grupo participante deberán enviar uno o más representantes al Workshop de
Evaluaciones ALBAYZIN-08, dentro las V Jornadas en Tecnología del Habla, para
presentar los detalles técnicos de su sistema o sistemas, así como los resultados
obtenidos, y discutir la problemática de esta evaluación. Este Workshop se
realizará en sesión abierta a todos los participantes de las Jornadas.
- Este plan podría sufrir modificaciones, debido a restricciones o necesidades no
previstas inicialmente, a errores o a imprecisiones, que en todo caso serán
comunicadas a todos los grupos participantes.
|
Datos del equipo investigador
IMPORTANTE:
Rellenar y enviar este formulario al Comité Organizador de la Evaluación ALBAYZIN-08 VL (Verificación de la Lengua) de las V Jornadas en Tecnología del Habla, supone la inscripción del equipo como participante en dicha evaluación y el reconocimiento de haber leído y aceptado las condiciones de participación y los protocolos que se detallan en el plan de evaluación.
|