В первой версии сценария Афоня был маляром — как и сценарист Александр Бородянский.
Вдохновение для фильма он черпал из собственной жизни, в том числе мотивы для приключений героя. Лишь после он понял, что Афоня должен быть сантехником — героем анекдотов и баек, который вдруг понимает, что его жизнь движется в ужасном направлении.
Георгий Данелия с восторгом отреагировал на сценарий, но хотел добавить в него больше светлых моментов.
Влюблённую в Афоню Катю нашли сразу в лице Евгении Симоновой, но артистка могла потерять роль — она уже была занята на съёмках фильма в Башкирии, и Данелии пришлось едва ли не выкрасть её со съёмочной площадки.
Печальную судьбу Афони в фильме не раз скрасили комичные эпизоды. Один из них — знаменитый танец на дискотеке.
Для этого эпизода нашли группу «Машина времени», но режиссёр опасался, что музыканты забудут о съёмках: так в фильме появились сразу две группы, включая популярный тогда «Аракс».
Когда фильм уже был практически отснят, Данелия все ещё понимал, что его главная проблема — финал.
По сценарию, печальный и постаревший герой покупает билет на первый попавшийся рейс, затем смотрит в собственный паспорт и видит на фото молодого, беззаботного Афоню.
Так на летном поле и появилась Катя — чтобы подарить герою хэппи-энд. За это Данелии пришлось вытерпеть критику из‑за банальности, но зрителям так не показалось, фильм имел огромный успех.