Langlet viste tidlig talent for både det tekniske, praktiske og kunstneriske, og i ung alder fikk han stilling ved Överintendentsämbetet (det statlige bygningsvesen) der han ledet flere byggearbeider.

I 1845 ble han elev ved det kongelige kunstakademiet i Stockholm og i 1851 ble han tildelt stipend for å reise til Frankrike og Italia. Det var under studieoppholdet i Italia at Langlet fikk høre om den pågående konkurransen om stortingsbygningen i Christiania.

Langlets forslag til stortingsbygning var i en ubestemmelig stil, med elementer hentet fra både det antikke og det moderne. Den særpregede bygningen hans tok debatten med storm. Trøtt på nygotikk, vraket Stortinget vinneren av arkitektkonkurransen og valgte istedenfor Langlets «Nutids-Skabning».

Noe av det som særlig appellerte ved Langlets forslag var hans blanding av klassiske stilarter i kombinasjon med det funksjonelle. Vinduer og ytre dekor fremhevet rommenes betydning. Stortingssalens plassering i en rotunde med store buede vinduer ga godt lys på innsiden samtidig som det inviterte til åpenhet på utsiden. Fasaden kunngjør den store bestemmelse, som Johan Sverdrup utrykte det i Stortinget i 1860.

Langlet var virksom under årene i Christiania. Ved siden av hans store prosjekt, stortingsbygningen, rakk han også å oppføre en rekke andre bygninger, blant annet Nissens pikeskole (Bokhandelens hus) og Studentersamfunnets hus. Førstnevnte ble utført i gul teglstein slik som stortingsbygningen, som hittil var ukjent i hovedstaden. I Drammen sto Langlet blant annet bak den flotte teaterbygningen og i Fredrikstad ble både rådhus og fengsel oppført etter hans tegninger. I tillegg tegnet Langlet en rekke bolighus i Christiania, Drammen, Fredrikstad og Sarpsborg.

Langlet var også interiørarkitekt, med interesse for tekniske og praktiske løsninger. Stolene i stortingssalen var Langlets eget design, fleksibelt utformet for å gi representantene mulighet til å endre stilling under lange debatter. Stortingsbygningen ble utstyrt med moderne innretninger for varmtvann og ventilasjon, og rørpostsystem ble bestilt fra Paris.

Etter at stortingsbygningen var oppført, returnerte Langlet til Sverige. Han fikk aldri noen hedersbevisning for sitt unike verk, til stor forargelse for hans mange støttespillere. Tilbake i Sverige dedikerte Langlet sin tid til det han virkelig ivret for, kirkearkitekturen. Også her lekte han seg med stilarter, form og funksjon, og han fikk oppført 12 kirker i sin egenartede sentralkirkestil. Stortingsbygningen, med sine rotunder, halvsirkelformede rom, buede former og søyler, har mange likhetstrekk med kirkene Langlet senere oppførte.

Langlet var en meget selvstendig kunstner, og hans blanding av ulike stilarter fikk også en blandet mottakelse. Han ble både kritisert og anerkjent for å gå sin egen vei og følge sine ideer. Langlet levde de siste årene en tilbaketrukket tilværelse på sin eiendom utenfor Stockholm, og døde 74 år gammel i 1898.

Stortingsrepresentantenes stoler var Langlets egen oppfinnelse. Stolen besto av en fast ryggstøtte og et bevegelig sete, og det tilhørende bordet hadde underliggende hyller og fotstøtte. Skissen er hentet fra «Tidsskrift för Byggnadskonst och ingeniörvetenskap», som Langlet var redaktør for i årene 1867–68. Setet skulle kunne beveges og dermed «förändra stolens form, så att, då man tröttnar vid en viss ställning, man kan intaga en annan, antingen mera hvilande eller mera upprätt.» (gjengitt fra Langlets artikkel i tidsskriftet nr. 1 og 2, årgang 1867, s. 9).