O Tribunal Regional Federal da Terceira Região foi criado juntamente com os outros quatro Tribunais Regionais Federais, pela Constituição de 1988 (artigo 27, § 6º, do Ato das Disposições Constitucionais Transitórias), com o objetivo de substituir e regionalizar a jurisdição do extinto Tribunal Federal de Recursos (TFR).

Os Tribunais Regionais Federais foram inaugurados simultaneamente, com suas sedes em São Paulo, Brasília, Rio de Janeiro, Porto Alegre e Recife no dia 30 de março de 1989, e tiveram suas composições iniciais previstas na lei nº 7.727, de 1989.

O TRF da Terceira Região foi solenemente instalado sob a presidência do ministro Washington Bolívar de Brito, vice-presidente do Tribunal Federal de Recursos, no Edifício "Saldanha Marinho", na rua Líbero Badaró, 39 - imóvel da Fepasa, tombado pelo CONDEPHAAT - Conselho de Defesa do Patrimônio Histórico, Arqueológico, Artístico e Turístico do Estado de São Paulo.

Estando esse prédio ainda em fase de reformas, o Tribunal ficou instalado, até 5 de setembro de 1989, na sede da Representação do STJ - Superior Tribunal de Justiça, no 11º andar do "Fórum Pedro Lessa", na Avenida Paulista, 1682.

Na data de inauguração do TRF da Terceira Região, foram empossados os magistrados (hoje denominados desembargadores federais) Milton Luiz Pereira, Homar Cais, Américo Lourenço Masset Lacombe, Sebastião de Oliveira Lima, Jorge Tadeo Flaquer Scartezzini, Ana Maria Goffi Flaquer Scartezzini, José Kallás, Márcio José de Moraes, Anna Maria Pimentel, Fleury Antonio Pires, Lúcia Valle Figueiredo Collarile, João Grandino Rodas, Rômulo de Souza Pires, Diva Prestes Marcondes Malerbi, Célio Benevides de Carvalho, Aricê Moacir Amaral dos Santos, Pedro Rotta e Edgar Silveira Bueno Filho.

Em 1989 na instalação do Tribunal, a presidência foi assumida pelo juiz Milton Luiz Pereira, sucedido nos biênios seguintes, respectivamente, pelos juízes Homar Cais, Américo Lacombe, Oliveira Lima , Jorge Scartezzini, José Kallás, Márcio Moraes,  Anna Maria Pimentel, Diva Malerbi, Marli Ferreira, Roberto Haddad, Newton De Lucca, Fábio Prieto, Cecília Marcondes e Therezinha Cazerta.

Hoje o TRF da Terceira Região é responsável por mais de 50% das ações ajuizadas na Justiça Federal do país. O rápido aumento dos processos em tramitação e o aumento do número de Desembargadores Federais e de servidores, tornaram as instalações da rua Líbero Badaró inadequadas às necessidades funcionais de todos os setores do Tribunal.

Assim, na gestão do presidente Jorge Scartezzini, foi obtida por meio de permuta com a Caixa Econômica Federal, a nova sede do Tribunal Regional Federal da Terceira Região, localizada na avenida Paulista, 1842 e inaugurada aos 22 de fevereiro de 1999.

A nova sede representou a concretização de um antigo anseio da Justiça Federal em São Paulo, que passou a contar com instalações condignas, permitindo a oferta de uma prestação jurisdicional mais célere e eficaz.