Идею будущего фильма Рязанову подал сосед по больничной койке: пожилого мужчину, работавшего в прокуратуре, почти насильно выпроводили на пенсию.
Новоиспечённый пенсионер посетовал режиссёру на несправедливость, и Рязанов так впечатлился его историей, что решил снять фильм.
На главные роли режиссёр сразу же пригласил Евгения Евстигнеева и Юрия Никулина. А вот над кандидатурами других артистов пришлось подумать.
В образе «блатного» молодого следователя Рязанов видел Анатолия Кузнецова, но актёр отказался — следователей он уже играл, а вот стариков ещё нет, поэтому был согласен только на Мячикова или Воробьёва.
Режиссёр главную роль не уступил, а следователем стал «запасной вариант» Андрей Миронов.
Ольгу Аросеву, которую зрители полюбили в образе пани Моники из «Кабачка 13 стульев», Рязанов утвердил на роль инкассатора Анны Павловны с одним условием: «Если увижу хоть один завиток от пани Моники, уберу из фильма!».
Прежде актриса ни разу в жизни не держала тяжёлого боевого оружия. Перед съёмками она так упорно упражнялась в стрельбе из пистолета, что потом из-за боли в руке даже не могла поднести ложку ко рту.
На съёмках Юрий Никулин носил седую накладку — свои волосы он всегда красил в чёрный цвет. Ольга Аросева однажды спросила: зачем ему искусственная седина, когда можно отрастить свою?
У Никулина нашёлся очень философский и правильный ответ: «Я в цирке работаю, клоуном. Если дети будут смеяться над старостью — это нехорошо.
Когда я, Балбес, падаю, пусть себе хохочут. А если старичок упадёт, над ним смеяться грех. Вот я и крашусь в брюнета».
Во время съёмок во Львове по городу разнеслась молва, что произошло настоящее ограбление музея, в котором снимают фильм. Якобы двое грабителей под видом членов киногруппы проникли на площадку и вынесли картины Рембрандта и Рубенса.
На самом деле история оказалась всего лишь выдумкой. Зато спустя много лет в итальянском городе Пьяченца двое пенсионеров невольно повторили сюжет фильма, умыкнув из музея картину Густава Климта «Портрет дамы».
Всадник, который гонится за Мячиковым во сне — статуя кондотьера Гаттамелаты из музея имени Пушкина. Сцену ограбления снимали в трёх местах — около городской ратуши, на лестницах журфака МГУ и в павильонах «Мосфильма».
В этих же павильонных декорациях были сняты детектив «Возвращение „Святого Луки“» и приключенческий фильм «Корона Российской Империи, или Снова неуловимые».
На съёмках Юрий Никулин решил разыграть коллегу Евгения Евстигнеева. Как-то он спросил напарника, готов ли тот к завтрашнему дню? «А что у нас завтра?» — забеспокоился Евстигнеев. «Как? Ты забыл сценарий? Мы же прыгаем с парашютами!
Я вот уже предупредил семью: мало ли что…» — абсолютно серьёзно произнёс Никулин. Побледневший Евстигнеев тут же пошёл к режиссёру просить на завтрашние съёмки дублёра. А Эльдар Рязанов никак не мог понять — какой дублёр, какие парашюты?
После выхода картины на экраны Юрий Никулин признавался, что недоволен результатом, не умаляя при этом достоинств Рязанова как режиссёра.
Актёр считал сюжет фильма недоработанным, основные посылы — слишком наигранными, а про своего героя говорил: «Мячиков хороший работник только понарошку.
Зритель, при всём сочувствии к нему, видит, что он — размазня. Поэтому авторам зритель не верит».