El “beta testing” y desarrollo de demostradores (mediante el uso de Aina Kit) de sistemas para la monitorización, control y/o alineación en el uso de los modelos y aplicaciones de IA/TL en catalán.

Buscamos ideas para el Beta testing y desarrollo de demostradores (mediante el uso de Aina Kit) de sistemas para la monitorización, control y alineación en el uso de los modelos y/o aplicaciones de IA/TL en catalán.

Serán elegibles aquellas propuestas de demostradores que presenten soluciones a partir de sistemas existentes pero que no hayan hecho uso de Aina Kit, así como propuestas para demostradores sin un sistema preexistente, siempre que sean operativos en un plazo máximo de 6 meses desde la firma del contrato.

El Beta testing y el desarrollo del demostrador se centrarán en la evaluación del proceso de realizar la monitorización, control y/o alineación en el uso de los modelos y aplicaciones centrados en los recursos de Aina Kit como parte de la solución, la comparativa de los resultados respecto de otras opciones y la identificación de problemas en los recursos tecnológicos proporcionados, en su integración en entornos reales (infraestructura de inferencia, integración con datos, etc.) y/o en la documentación y el soporte proporcionados.

Las propuestas tienen libertad para ampliar estos ámbitos básicos y proponer lo que consideren relevante para el Beta testing y desarrollo de demostradores (mediante el uso de Aina Kit) de sistemas para la monitorización, control y/o alineación en el uso de los modelos y aplicaciones de IA/TL en catalán.

Algunas ideas que pueden encajar en el Beta testing y los demostradores de este reto son:

• Sistemas de gobernanza de la IA/TL en catalán en el marco de una organización (p. ej.: en relación con los valores de la organización, el tipo de lenguaje y tono comunicativo, las restricciones legales del sector, etc.).
• Sistemas para identificar y mitigar instrucciones maliciosas, datos sensibles, respuestas tóxicas y/o sesgadas, alucinaciones, prevención de intentos de evasión de restricciones, etc.
• Sistemas que permitan una IA interpretable y explicable.
• Sistemas para el cumplimiento de las normativas de IA/TL aplicables.
• Desarrollo de entornos de sandboxing que den soporte a la IA/TL en catalán.
• Mecanismos de ciberseguridad para el despliegue de la IA/TL en catalán.

Se valorará positivamente el impacto social de las propuestas, la capacidad para desarrollar el Beta testing y los demostradores en entornos con un volumen alto de usuarios finales y la capacidad de acceder a datos en calidad y cantidad suficientes, siempre cumpliendo estrictamente las normativas de protección de datos vigentes.

En este sentido, las propuestas podrán presentar, junto con la memoria técnica, un compromiso de colaboración en el desarrollo del demostrador por parte de una empresa o entidad usuaria final, concretando y explicando la participación de esta empresa.

Se fomenta la creatividad y la innovación en las actividades incluidas en el Beta testing, así como en los ámbitos de desarrollo de demostradores que, mediante el uso de los recursos de Aina Kit, ejemplifiquen la monitorización, control y/o alineación en el uso de los modelos y aplicaciones de IA/TL que incorporen el catalán.