По словам Григория Чухрая, название «Баллада о солдате» предложил Михаил Ромм, после прочтения одного из вариантов сценария.
Работа над сценарием картины проходила на даче у Валентина Ежова. Там же в то же самое время создавал сценарий фильма «Жажда» (1959) Григорий Поженян.
Владимир Ивашов назвал своего первенца Алексеем в честь главного героя «Баллады о солдате».
Действие фильма происходит в 1942 году, но военные в кадре одеты в форму образца 1943 года — с погонами вместо петлиц. Фронтовик Чухрай, конечно же, знал об этом несоответствии, но сознательно пошел на то, чтобы в картине присутствовал этот явный анахронизм. Режиссер рассчитывал, что фильм будут смотреть и иностранные зрители, которые увидели советских солдат-освободителей именно в новой форме, и стремился сделать облик главного героя более узнаваемым для них.