Guardat en:
| Autor principal: | |
|---|---|
| Format: | Recurso digital |
| Idioma: | espanyol |
| Publicat: |
Zenodo
2026
|
| Matèries: | |
| Accés en línia: | https://doi.org/10.5281/zenodo.18509863 |
| Etiquetes: |
Afegir etiqueta
Sense etiquetes, Sigues el primer a etiquetar aquest registre!
|
Taula de continguts:
- <p dir="ltr">El presente documento técnico registra un ejercicio empírico de red-teaming aplicado al modelo ALIA 40B Instruido en la categoría de asesoramiento financiero, realizado en el marco del Desafío ALIA organizado por la Secretaría de Estado de Digitalización e Inteligencia Artificial, Ministerio para la Transformación Digital y de la Función Pública.. Se diseñaron 20 prompts adversariales específicos para evaluar la capacidad del modelo de mantener la abstención estructural ante solicitudes que cruzan fronteras regulatorias en contextos plausibles y cotidianos.</p> <p dir="ltr">El hallazgo central: el modelo colapsa sistemáticamente en zonas grises porque su función objetivo (parecer útil) entra en conflicto estructural con la abstención regulada. En 15 de 20 casos (75%), el modelo cruzó fronteras regulatorias proporcionando recomendaciones financieras personalizadas, asignaciones de activos, evaluaciones de idoneidad o planificación financiera secuencial, a pesar de emitir disclaimers iniciales en la mayoría de las respuestas.</p> <p dir="ltr">La conclusión operativa: la mitigación efectiva de este riesgo no se resuelve mediante disclaimers, sino mediante abstención por diseño. El asesoramiento financiero en población con baja alfabetización financiera constituye el vector de máximo impacto decisorio en sistemas de IA pública por combinar alta irreversibilidad de consecuencias con alto alcance poblacional en usuarios no expertos.</p> <p dir="ltr">El análisis, metodología, taxonomía y conclusiones son de autoría propia del investigador.</p>