J. Phys. France 46, 193-201 (1985)
DOI: 10.1051/jphys:01985004602019300

Co-existing lyotropic liquid crystals : commensurate, faceted and co-planar single hexagonal (HII) domains in lamellar photoreceptor membranes

S.M. Gruner¹, K.J. Rothschild², W.J. DeGrip³ et N.A. Clark<sup>4

1</sup>  Dept. of Physics, Princeton University, Princeton, NJ 08544, U.S.A.
²  Depts. of Physics and Physiology, Boston University, Boston, MA 02115, U.S.A.
³  Dept. of Biochemistry, University of Nijmegen, P.O. Box 91101, 6500 HB Nijmegen, The Netherlands
⁴  Dept. of Physics, Condensed Matter Laboratory, University of Colorado, Boulder, CO 80309, U.S.A.

Abstract
The interactions of inverse hexagonal (HII) domains with a host lamellar (Lα) matrix have been investigated in two lyotropic liquid crystals via X-ray diffraction and electron microscopy. The domains exhibit internal structure which is geometrically coupled to the lamellar host : the crystallographic repeats are often commensurate and one hexagonal layer is co-planar with the host lamellae. Electron microscope thin-sections reveal the cross-section of single HII domains to be limited by facets which arise from the hexagonal structure. The domains are in equilibrium with the host and can be made to grow or shrink by variations in temperature or water content. The local hexagonal packing is two-dimensional; the third dimension often exhibits spiral and toroidal textures accompanied by branching defects. Consideration of the hydrophobic-hydrophilic constraints leads to a model for the domain wall. Coupled with a hypothesized surface-induced curvature, this suggests a model for the epitaxial growth of the domains.

Résumé
Les interactions de domaines hexagonaux inverses (HII) avec une matrice lamellaire (Lα) ont été étudiées dans deux cristaux liquides lyotropes par diffraction X et microscopie électronique. Les domaines présentent une structure interne qui est géométriquement couplée à l'hôte lamellaire : les périodes cristallographiques sont souvent commensurables et une couche hexagonale est coplanaire avec les lamelles. L'examen de couches minces au microscope électronique révèle une section de domaines HII limités par des facettes provenant de la structure hexagonale. Les domaines sont en équilibre avec leur hôte et peuvent être élargis ou comprimés en faisant varier la température ou la quantité d'eau. L'empaquetage hexagonal local est bidimensionnel; la troisième dimension présente souvent des textures spirales et toroïdales accompagnées de défauts et bifurcations. En prenant en compte les contraintes hydrophobes et hydrophiles on obtient un modèle pour la paroi limitant les domaines. L'hypothèse supplémentaire d'une courbure induite par la surface, suggère un modèle pour la croissance épitaxiale des domaines.

PACS
8239W - Ion exchange, dialysis, osmosis, electro-osmosis, membrane processes.
6470M - Transitions in liquid crystals.
8715B - Structure and bonding.

Key words
biomembranes -- domains -- electron diffraction examination of materials -- liquid crystal phase transformations -- molecular biophysics -- X ray diffraction examination of materials