La méthode repose sur l'observation suivante : certains micro-organismes, une fois colorés avec du cristal violet et avec une solution diluée d'iode, se décolorent facilement quand ils sont lavés rapidement avec des solvants comme l'éthanol et l'acétone, alors que d'autres restent encore colorés après ce lavage.
Ceux qui se décolorent, sont dits "Gram négatif", tandis que les autres qui restent colorés, sont dits "Gram positif".
Les cellules Gram négatif (qui seraient invisibles au microscope) sont recolorées avec de la fuchsine qui les rend rouges, sans pour autant changer la couleur violette des Gram positif.
La capacité des Gram positif de maintenir la couleur, même traitées avec des solvants, dérive du fait que leur paroi cellulaire ne contient pas de lipides, composants très solubles dans des solvants de ce type. L'absence de lipides ne permet pas au solvant d'entrer à l'intérieur des Gram positif et d'enlever le colorant.
A l'inverse, les Gram négatif possèdent des lipides dans leur paroi cellulaire.
Cette expérience permet ainsi de distinguer les micro-organismes avec des lipides dans leur paroi cellulaire de ceux qui n'en ont pas.
Les bactéries Gram positif sont en général les plus sensibles aux antibiotiques, comme la pénicilline, qui interfèrent avec la synthèse de la paroi bactérienne.