Information processing in synchronous neural networks

Abstract
The phase diagram of Little's model is determined when the number of stored patterns p grows as ρ = αN, where N is the number of neurons. We duplicate phase space in order to accomodate cycles of length two within the framework of equilibrium statistical mechanics. Using the replica symmetry scheme we determine the phase diagram including a parameter J0 able to control the occurrence of cycles. The second order transition between the paramagnetic and ferromagnetic phase becomes first order at a tricritical point. The retrieval region is some what larger than in Hopfield's model. We also find a low temperature paramagnetic phase with unphysical properties.

Résumé
Nous obtenons le diagramme de phase du modèle de Little quand le nombre p d'échantillons mémorisés croit comme ρ = αN, où N est le nombre de neurones. Nous dédoublons l'espace de phase de façon à accommoder des cycles de longueur deux dans le cadre de la mécanique statistique. Utilisant la méthode des répliques, nous déterminons le diagramme de phase incluant un paramètre J0 pour contrôler l'apparition des cycles. La transition de phase entre les phases para- et ferromagnétiques passe du second ordre au premier ordre au point tricritique. La région de recouvrement de l'information est un peu plus grande que dans le modèle de Hopfield. Nous trouvons également une phase paramagnétique à basse température qui a des propriétés physiquement inacceptables.