Die BA hat im Wesentlichen einen dreistufigen Aufbau.

Die Zentrale hat ihren Sitz in Nürnberg. Bis zum 31. Dezember 2003 lautete ihre Bezeichnung „Hauptstelle“. Auf regionaler Ebene üben die 10 Regionaldirektionen (früher: "Landesarbeitsämter") die Fachaufsicht über die einzelnen Agenturen für Arbeit (lokale Ebene) aus. Gleichzeitig halten sie den Kontakt zu den Landesregierungen und stimmen sich mit diesen über Fragen der regionalen Arbeitsmarkt- und Strukturpolitik ab. Die zehn Regionaldirektionen decken das Bundesgebiet wie folgt ab:

• Baden-Württemberg
• Bayern
• Berlin-Brandenburg
• Hessen
• Niedersachsen-Bremen
• Nordrhein-Westfalen
• Nord (Schleswig-Holstein, Hamburg, Mecklenburg-Vorpommern)
• Rheinland-Pfalz-Saarland
• Sachsen
• Sachsen-Anhalt-Thüringen

178 Agenturen für Arbeit (früher: "Arbeitsamt") stellen mit 660 Geschäftsstellen die örtliche Erreichbarkeit für Kunden sicher und setzen die Aufgaben der BA um.

Daneben werden einige Aufgaben durch so genannte "besondere Dienststellen" wahrgenommen, das sind:

• Institut für Arbeitsmarkt- und Berufsforschung,
• Führungsakademie der BA,
• BA-IT-Systemhaus,
• BA-Service-Haus,
• Zentrale Auslands- und Fachvermittlung (ZAV)
• Familienkasse
• Hochschule der Bundesagentur für Arbeit (HdBA)

Finanziert wird die BA vor allem durch Sozialversicherungsbeiträge. Diese werden je zur Hälfte von den Arbeitnehmern und Arbeitgebern eines sozialversicherungspflichtigen Arbeitsverhältnisses erbracht. „Mini-Jobber“ zahlen keine Beträge in die Arbeitslosenversicherung ein. Aus den Beitragsmitteln werden die Kernaufgaben und die Versicherungsleistungen (wie zum Beispiel Arbeitsvermittlung, Arbeitsberatung oder Arbeitslosengeld) getragen.

Der Bund genehmigt den Haushalt der BA und ersetzt aufgrund des § 363 SGB III die Kosten der BA, welche aus den zusätzlich übertragenen Aufgaben (wie zum Beispiel Kindergeld oder Arbeitslosengeld II) entstehen.

Nach § 364 SGB III ist der Bund verpflichtet, die zur Aufrechterhaltung einer ordnungsgemäßen Kassenwirtschaft erforderlichen Liquiditätshilfen als zinslose Darlehen zu leisten, wenn die Mittel der BA nicht zur Erfüllung ihrer Zahlungsverpflichtungen ausreichen. Diese Darlehen sind zurückzuzahlen, sobald und soweit die Einnahmen eines Monats die Ausgaben übersteigen und dieser Überschuss voraussichtlich im nächsten Monat des laufenden Haushaltsjahres nicht zur Deckung der Ausgaben benötigt wird. Können Darlehen des Bundes zum Schluss des Haushaltsjahres aus den Einnahmen und der Rücklage der BA nicht zurückgezahlt werden, so wird aus den die Rücklage übersteigenden Darlehen ein Zuschuss.