С 14-летнего возраста Заржицкая посещала церковный хор.Позже Анна пела в хоре Одесского оперного театра.
После окончания школы, Заржицкая поступила на актерское отделение Киевского киноинститута.
Окончив институт, Анна переехала в Ленинград. Работала в Ленинградском театре Краснознаменного Балтийского флота, параллельно трудилась на киностудии Совкино (Ленфильм).
С работой у Заржицкой были проблемы, и поэтому с 1952 по 1954 год, Заржицкая работала на Московском центральном телеграфе.
В 1954 году Анна вернулась в профессию и стала актрисой Театра-студии киноактера.
В кино Заржицкая дебютировала в 1926 году в фильме «Блуждающие звёзды». За свою творческую деятельность Анна Яковлевна снялась в 45 картинах. Наиболее известными из них стали: «Дело «пёстрых» и «Приходите завтра…».
Анна Заржицкая была замужем. Ее избранником был начальник ГУУЗа Министерства связи Дмитрий Иванович Аркадьев.
Умерла актриса третьего октября 1994 года. Похоронили Заржицкую на Хованском кладбище.