В области начального образования главной проблемой в 1920-е годы оставалась ликвидация неграмотности. В 1923 году декретом Народного комиссариата просвещения было создано Общество «Долой неграмотность». Свыше 1,2 миллионн человек объединяли городские шефские организации, призванные помогать деревне в подъёме культуры. В целях ускорения ликбеза пришлось усилить нагрузку на пригодные школьные помещения: при том, что к 1924 году численность учащихся (при абсолютном сокращении населения) удалось довести почти до уровня 1914 года (98 %), количество школ составило лишь 83 % от предвоенного уровня. Основной приток учащейся массы в этот период составляли беспризорники, численность которых достигала в эти годы 7 млн человек. В 1925-28 годах по мере обеспечения доступности обучения для всех детей школьного возраста всеобщее обязательное начальное обучение вводилось распоряжениями местных советских органов.
В борьбе с неграмотностью были достигнуты значительные успехи, всего в 1917—1927 годах было обучено грамоте до 10 миллионов взрослых (подробнее смотрите в статье «Ликбез»). Перепись населения СССР 1926 года выявила 56,6 % грамотного населения в возрасте от 9 до 49 лет (80,9 среди городского и 50,6 сельского). В целом, в этот период значительно увеличилось количество учащихся и учителей.