IAEA는 다른 국제연합기구와는 달리 자체의 헌장과 이사회를 갖는 자치기구이다. 국제연합의 다른 전문기구가 국제연합 헌장에 의거, 경제사회이사회 만을 통하여 1개의 제휴협정을 체결하고 있는 반면, IAEA는 국제연합 총회, 안전보장이사회 및 경제사회이사회와 중복의 관계를 맺고 있기 때문에 형식상으로 국제연합의 전문기구는 아니다.
IAEA는 원자력의 평화적 이용을 촉진하는 한편 원자력이 군사적 목적으로 전용되지 않도록 억제하는 기능을 수행하고 있다. IAEA는 원자력 기술이전 등 국제협력을 적극 추진하고 있으며, 특히 원자력의 군사적 전용을 방지하기 위해 ‘안전조치체제’(Safeguards System)를 갖추고 있다. IAEA는 매년 UN 총회에 활동보고서를 제출하고 있으며, 특히 국제 평화와 안보에 관한 문제가 발생하였을 때에는 UN 안보리에도 관련 내용을 보고하고 있다. 1970년에 발효된 NPT에 기초하여 핵무기 비보유국은 IAEA와 평화적 핵이용 활동을 위한 안전협정을 체결해야 하며, IAEA는 핵무기 비보유국이 핵연료를 군사적으로 전용하는 것을 방지하기 위해 핵무기 비보유국의 핵물질 관리실태를 점검하고 현지에서 직접 사찰할 수 있다.
「IAEA헌장」은 본문 23개 조항과 부속서로 구성되어 있고, IAEA의 목적, 기능, 회원국, 조직 및 사업수행 등에 관한 사항을 규정하고 있다. 2016년 2월 현재 IAEA 회원국은 168개국이다. 한국은 1956년에 가입했으며, 북한은 1974년 가입 후 1994년 IAEA 이사회의 대북 제재 결의 채택을 이유로 탈퇴한 상태다. 이후 북한은 2003년 NPT 탈퇴를 선언함으로써 IAEA 및 NPT 탈퇴를 선언한 첫 번째이자 유일한 국가가 되었다.
IAEA의 조직으로 총회, 이사회, 사무국이 있다. 총회(General Conference)는 IAEA 회원국 정부의 대표로 구성되며 통상적으로 매년 9월 하순에 빈에서 개최된다. 이사회의 요청이나 회원국 과반수의 요청이 있을 시는 특별 총회(Special Conference)가 개최된다. 총회의 주요 기능은 이사국 선출, 사무총장 임명, 예산 승인, 연례보고서 심의 등이다. 이사회(Board of Governors)는 35개 이사국(지명이사국 13개, 지역이사국 20개, 윤번이사국 2개)으로 구성되어 있다. 이사회는 분기별(3월, 6월, 9월, 12월)로 회의를 개최하여 IAEA의 실질적인 정책을 결정한다. 이사국 선정은 전임위원회가 원자력 관련 기술의 진보에 따라 13개국을 지정하며, 기타 22개국을 지역적인 구성을 고려하여 총회가 선출한다. 우리나라는 1957년∼2005년 간 지역이사국 10회, 2003∼2005년 윤번이사국을 3회 수임하였다. 사무국(Secretariat)은 총회의 승인을 얻어 이사회가 임명한 사무총장(임기 4년) 산하에 관리국, 기술협력국, 원자력 에너지국, 원자력 안전보안국, 원자력 과학응용국, 안전보장국 등 6개 부서로 구성되어 있으며 사무차장(Deputy Director General)이 각 부서를 관장하고 있다. 주요 정책과 예산은 이사회와 총회를 거쳐 수립된다.