El “beta testing” i desenvolupament de demostradors (mitjançant l’ús d’Aina Kit) de sistemes per al monitoratge, control i/o alineació en l’ús dels models i aplicacions de IA/TL en català.

Busquem idees per al Beta testing i desenvolupament de demostradors (mitjançant l’ús d’Aina Kit) de sistemes per a la monitoratge, control i alineament en l’ús dels models i/o aplicacions d’IA/TL en català.

Seran elegibles aquelles propostes de demostradors que presentin solucions a partir de sistemes existents però que no hagin fet ús d’Aina Kit, així com propostes per a demostradors sense un sistema preexistent, sempre que siguin operatius en un termini màxim de 6 mesos des de la signatura del contracte.

El Beta testing i el desenvolupament del demostrador se centrarà en l’avaluació del procés de realitzar la monitoratge , control i/o alineament en l’ús dels models i aplicacions centrats en els recursos d’Aina Kit com a part de la solució, la comparativa dels resultats respecte d’altres opcions i la identificació de problemes en els recursos tecnològics proporcionats, en la seva integració en entorns reals (infraestructura d’inferència, integració amb dades, etc.) i/o en la documentació i el suport proporcionats.

Les propostes tenen llibertat per ampliar aquests àmbits bàsics i proposar allò que considerin rellevant per al Beta testing i desenvolupament de demostradors (mitjançant l’ús d’Aina Kit) de sistemes per a la monitoratge, control i/o alineament en l’ús dels models i aplicacions d’IA/TL en català.

Algunes idees que poden encaixar en el Beta testing i els demostradors d’aquest repte són:

• Sistemes de governança de la IA/TL en català en el marc d’una organització (p. ex.: en relació amb els valors de l’organització, el tipus de llenguatge i to comunicatiu, les restriccions legals del sector, etc.).
• Sistemes per identificar i mitigar instruccions malicioses, dades sensibles, respostes tòxiques i/o esbiaixades, al·lucinacions, prevenció d’intents d’evasió de restriccions, etc.
• Sistemes que permetin una IA interpretable i explicable.
• Sistemes per al compliment de les normatives d’IA/TL aplicables.
• Desenvolupament d’entorns de sandboxing que donin suport a la IA/TL en català.
• Mecanismes de ciberseguretat per al desplegament de la IA/TL en català.

Es valorarà positivament l’impacte social de les propostes, la capacitat per desenvolupar el Beta testing i els demostradors en entorns amb un volum alt d’usuaris finals i la capacitat d’accedir a dades en qualitat i quantitat suficients, sempre complint estrictament les normatives de protecció de dades vigents.

En aquest sentit, les propostes podran presentar, juntament amb la memòria tècnica, un compromís de col·laboració en el desenvolupament del demostrador per part d’una empresa o entitat usuària final, concretant i explicant la participació d’aquesta empresa.

Es fomenta la creativitat i la innovació en les activitats incloses en el Beta testing, així com en els àmbits de desenvolupament de demostradors que, mitjançant l’ús dels recursos d’Aina Kit, exemplifiquin la monitoratge, control i/o alineament en l’ús dels models i aplicacions d’IA/TL que incorporin el català.