Expressivité d'un système combinant deux modes d'apprentissage
Fuente:
Zenodo
Gespeichert in:
| 1. Verfasser: | |
|---|---|
| Format: | Recurso digital |
| Veröffentlicht: |
Zenodo
2025
|
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
| _version_ | 1866901752468471808 |
|---|---|
| author | Dormoy, Nicolas Antoine Michel |
| author_facet | Dormoy, Nicolas Antoine Michel |
| contents | <p>Dans cet article nous etudions un systeme combinant deux modes d'apprentissage.<br>Pour des processus stationnaires et non-deterministes, nous avons propagation statistique des moments d'ordre 2 en profondeur du reseau.<br>Nous pouvons definir une matrice de variance covariance sur une base KL (processus test).<br>Cette base va etre invariante couche-par-couche, a un facteur d'echelle pres.<br>Nous definissons des embeddings comme suivant une diffusion stochastique sur l'espace des processus test.<br>Nous obtenons une selection naturelle sur les processus via des seuils de variance appliques a des projections de la matrice sigma.<br>L'imposition de logiques a long terme, couplees a des garanties d'emergence logique, permet de definir des contraintes a appliquer a la matrice sigma, et au reseau lui-meme via des perturbations pour recouvrer la structure de correlation desiree.<br>Nous montrons dans ce cadre l'existence de deux noyaux de gradients, permettant d'effectuer une double optimisation, dans l'espace iid et dans l'espace des processus test.<br>L'application de regles logiques explicites sur les processus de diffusion ouvre la porte a une meilleure interpretabilite des reseaux de neurones.</p> |
| format | Recurso digital |
| id | zenodo_https___doi_org_10_5281_zenodo_17495637 |
| institution | Zenodo |
| language | |
| publishDate | 2025 |
| publisher | Zenodo |
| record_format | zenodo |
| spellingShingle | Expressivité d'un système combinant deux modes d'apprentissage Dormoy, Nicolas Antoine Michel <p>Dans cet article nous etudions un systeme combinant deux modes d'apprentissage.<br>Pour des processus stationnaires et non-deterministes, nous avons propagation statistique des moments d'ordre 2 en profondeur du reseau.<br>Nous pouvons definir une matrice de variance covariance sur une base KL (processus test).<br>Cette base va etre invariante couche-par-couche, a un facteur d'echelle pres.<br>Nous definissons des embeddings comme suivant une diffusion stochastique sur l'espace des processus test.<br>Nous obtenons une selection naturelle sur les processus via des seuils de variance appliques a des projections de la matrice sigma.<br>L'imposition de logiques a long terme, couplees a des garanties d'emergence logique, permet de definir des contraintes a appliquer a la matrice sigma, et au reseau lui-meme via des perturbations pour recouvrer la structure de correlation desiree.<br>Nous montrons dans ce cadre l'existence de deux noyaux de gradients, permettant d'effectuer une double optimisation, dans l'espace iid et dans l'espace des processus test.<br>L'application de regles logiques explicites sur les processus de diffusion ouvre la porte a une meilleure interpretabilite des reseaux de neurones.</p> |
| title | Expressivité d'un système combinant deux modes d'apprentissage |
| url | https://doi.org/10.5281/zenodo.17495637 |