Свой подвиг Г. С. Елисеев совершил на переправе через Днепр. Ночью на 26 октября 1943 г. началась переправа через Днепр. Первые лодки стремительно двигались вперед, но противник заметил десантников и открыл огонь. Несколько солдат и офицеров были ранены. Метрах в двадцати от берега снаряд разбил лодку Г. С. Елисеева. Оглушенный, с перевязанной рукой, он оказался в холодной воде, но достиг правого берега.
Во время форсирования реки погиб командир батальона. Тогда командование подразделением Г. С. Елисеев принял на себя. Сразу же пришлось вступить в рукопашный бой с врагом. Несмотря на ранение, Г. С. Елисеев уничтожил огневую точку противника, которая вела прицельный огонь по форсировавшим Днепр солдатам Красной армии. Бойцы под командованием Г. С. Елисеева захватили плацдарм на острове Хортица.
В одном из строений установили радиостанцию, с помощью которой корректировали огонь. К рассвету большая часть батальона преодолела водный рубеж. 12 раз пытались гитлеровцы выбить десантников с позиции, но безрезультатно. На следующий день враг подтянул свежие силы. Над батальоном нависла угроза окружения. В решающую минуту боя Г. С. Елисеев повел солдат в атаку, чтобы отстоять помещение, где размещалась радиостанция. Атака удалась.
Через некоторое время гарнизон получил помощь. На правый берег прибыло подкрепление, были доставлены боеприпасы. Трое суток насмерть стояли гвардейцы Г. С. Елисеева на Хортицком плацдарме. В этих боях отважный командир был ранен и тяжело контужен.