Numéro
J. Phys. France
Volume 50, Numéro 20, octobre 1989
Page(s) 3057 - 3066
DOI http://dx.doi.org/10.1051/jphys:0198900500200305700
J. Phys. France 50, 3057-3066 (1989)
DOI: 10.1051/jphys:0198900500200305700

Storage capacity of memory networks with binary couplings

Werner Krauth1 et Marc Mézard2

1  Laboratoire de Physique Statistique de l'Ecole Normale Supérieure , 24 rue Lhomond, 75231 Paris Cedex 05, France
2  Laboratoire de Physique Théorique de l'Ecole Normale Supérieure, 24 rue Lhomond, 75231 Paris Cedex 05, France


Abstract
We study the number p of unbiased random patterns which can be stored in a neural network of N neurons used as an associative memory, in the case where the synaptic efficacies are constrained to take the values ± 1. We find a solution with one step of replica symmetry breaking à la Parisi. This solution gives a critical capacity αc = p/N˜ 0.83 which seems to agree with known numerical results.


Résumé
Nous étudions le nombre p de prototypes aléatoires non biaisés qui peuvent être mémorisés dans un réseau de N neurones utilisé comme mémoire associative, dans le cas où les efficacités synaptiques ne peuvent prendre que les valeurs ± 1. Nous trouvons une solution avec une étape de brisure de symétrie des répliques à la Parisi. Cette solution prédit une capacité optimale αc = p/N ~ 0,83 qui semble en bon accord avec les résultats numériques connus.

PACS
8718S - Neural networks.

Key words
neural nets