Анатолий Яббаров родился 24 августа 1937 года в Баку и был самым младшим из семерых детей в своей семье. На детство Яббарова пришлась смерть отца и война, которая очень тяжело отразилась на его семье: из семерых детей из-за бедности выжило лишь четверо. В 14 лет у актёра состоялся дебют на сцене — в это время он занимался в театральных и хореографических секциях. Актёру очень нравилось творчество, но из-за материальных проблем он решил поступить на физико-математический факультет. Спустя полтора года он перепоступает на факультет русского языка и литературы, а потом и вовсе уезжает в Москву, чтобы поступить в ГИТИС.
В Москве Яббаров сыграл во множестве фильмов, но преимущественно в эпизодических ролях. Среди широкой аудитории актёр запомнился своими ролями в фильмах "Джентльмены удачи" (1971), "Два капитана" (1976) и "Побег из тюрьмы" (1977).
В 1980-х актёр становится также режиссёром, когда устраивается работать в Театр киноактёра. В этой ипостаси Яббаров ставит пьесу "Щелкунчик и мышиный король", музыкальный спектакль "Мульти-пульти-ералашки" и сказку "Ровно в двенадцать". Также он срежессировал спекталь "Мудрость Евы" и сам сыграл в нём.