Tiene su origen en diferentes símbolos que se sucedieron durante el Sacro Imperio Romano Germánico, que, al desintegrarse en 1806 como consecuencia de las Guerras Napoleónicas, dejó sin escudo oficial a los Estados alemanes que habían formado parte del Imperio.
Durante el Imperio alemán, creado en 1871, el «águila real» volvió a tomarse como símbolo, siendo modificado su diseño tras la derrota alemana en la Primera Guerra Mundial y luego nuevamente en los años 1930 tras instaurarse la Alemania nazi.
La RFA estableció el actual escudo en 1950. Este escudo fue diseñado en 1926 por Tobias Schwab reformando el escudo de la República de Weimar. En esa época se le llamaba el «águila de Weimar», pero cuando la RFA lo adoptó como símbolo pasó a conocerse como el «águila federal» (Bundesadler en alemán), nombre que mantiene hasta hoy en día.