Het IAEA is opgericht in 1957 op voorstel van de Amerikaanse president Dwight D. Eisenhower, na zijn Atomen voor Vrede-toespraak, in 1953 voor de Algemene Vergadering van de Verenigde Naties, waarin hij pleitte voor de een internationaal lichaam om atoomenergie te onderzoeken en ontwikkelen.

Tegenwoordig zijn 136 landen lid van het IAEA. Het hoofdkantoor is gevestigd te Wenen, Oostenrijk. Daarnaast zijn er kantoren in Canada, Genève, New York en Tokio; laboratoria in Oostenrijk en Monaco, en een onderzoekscentrum in Triëst (Italië); deze laatste wordt bestuurd door de UNESCO.