Johan III var mycket intesserad av konst, speciellt byggnadskonst. Utan tvivel är han den mest byggnadsivrige monark Sverige någonsin haft. Han var liksom brodern Erik i hög grad konstnärligt och estetiskt begåvad. Ett uppenbart uttryck tog sig dock hans skönhetssinne på byggnadskonstens fält. Han ägnade mycket tid åt uppgörandet av vidlyftiga byggnadsplaner, av vilka en liten del uppfylldes under hans livstid. Han inkallade skickliga byggmästare, bildhuggare och målare från Tyskland och Nederländerna och ingrep även själv, genom egna ritningar, i den rika byggnadsverksamhet som han på så många håll framkallade. Hans bevarade byggnadsbrev visar också att han förstod sig på arkitektur och att han satt sig in i den italienska renässansstilens principer, närmare bestämt hög- och senrenässansens. Framför allt synes Sebastian Serlios böcker om byggnadskonsten varit en av honom ofta anlitad källa. Hans egen smak kom därför att på mångfaldigt sätt göra sig gällande, och med full rätt kan han betraktas som medelpunkten i den intressanta konströrelse, som under hans regering uppstod.
En särskild sida i Johan III:s byggnadsintresse är hans omsorg om äldre monumentala byggnaders bevarande. Även sträcktes hans nitälskan till omsorg om städernas utseende. Bland de förnämligare kyrkobyggnader som (efter eldsvådor) åter iståndsattes bör nämnas domkyrkorna i Uppsala, Västerås, Linköping och Skara. I Finland restaurerades Åbo domkyrka, som fick nytt kor, i Estland Revals (Tallinns). Bland de av Johan III uppmärksammade mer eller mindre raserade klosterkyrkorna märks Varnhem, Vreta kloster, Alvastra, Askeby och Gudhem samt Nådendal i Finland. I Stockholm restaurerades eller ombyggdes helt äldre kyrkor, såsom Storkyrkan, Riddarholmskyrkan, Sankta Clara kyrka, Sankt Henriks kyrka och andra, eller planerades nya, som Trefaldighetskyrkan, Tyska kyrkan och Jakobs kyrka; av de sistnämnda kan blott Jakobs kyrka åtminstone till planen anses som en skapelse från Johan III:s dagar.
På alla sina större slott byggde Johan III kapell, på Vadstena och Kalmar slott ännu väl bevarade. I denna kyrkliga byggnadsverksamhet levde gotikens traditioner, även i detaljer, kvar. De många slotts- och fästningsföretagen var dels från Gustav Vasas och Erik XIV:s tid övertagna, dels av Johan III nybegynta. Stockholms slott tillbyggdes väsentligt och nyinreddes. Den norra borggården med bland annat slottskyrka fick den karaktär som den bibehöll till branden 1697. Slottet i Uppsala (den nuvarande södra delen och dess västliga fortsättning) ombyggdes efter eldsvådan 1572 och blev en tegelbyggnad med rusticerad puts samt med två runda torn. Vadstena slott, liksom det förra grundlagt av Gustav Vasa, utvidgades till det renässanspalats som det är ännu i dag, även om det först i början av 1600-talet blev färdigbyggt enligt den ursprungliga planen. En egendomlig byggnad blev Svartsjö slott med sin cirkelrunda arkadomgivna gård och sin kupolkyrka på ömse sidor om ett äldre stenhus. Vid Kalmar slott fullbordades borggårdens kringbyggnad, våningarna lades i samma nivå, och i det inre fortsattes den under Erik XIV påbörjade dyrbara inredningen. Borgholms slott blev däremot Johan III:s största nybyggnad med en fullständigt regelbunden plan, en enastående rymlighet och magnificens samt starka fästningsverk, men fullbordades inte under Johan III:s tid. En nybyggnad blev även Bråborg, som avsågs till änkesäte åt drottning Gunilla Johansdotter, medan Drottningholm (det äldre, 1661 nedbrunna) på Katarina Jagellonicas önskan uppstod på en av Mälarens öar. Även ombyggnaden av Åbo slott, Västerås slott, av Gävle slott, Stegeborg och Linköpings hus kan nämnas. Befästningar fanns vid nästan alla slotten. Mera enbart betydelse som fästningar hade till exempel Älvsborg, Gullberg, Kronoberg, Kexholm, Viborg och andra orter, vid vilka ofta betydande, av konungen med intresse följda befästningsarbeten företogs. I befästningskonsten stod Sverige vid denna tid främst bland de nordiska länderna, i det att det nya italienska systemet hade införts.
Bland monumentala skulpturverk kan främst erinras Gustav Vasas och hans båda första gemålers gravmonument samt Katarina Jagellonicas vackra gravvård, båda i Uppsala domkyrka. Monumentet över Johan III på sagda plats beställdes av Sigismund i Danzig (hos bildhuggaren Wilhelm van der Blocke), men kom först 1782 genom Gustav III:s försorg till Sverige och uppsattes på sin nuvarande plats 1818, dock med oriktig anordning, som emellertid omgestaltades av Agi Lindegren vid kyrkans restauration i början av 1890-talet.
I den stora kretsen av konstnärer och konsthantverkare kring Johan III finns några mera framträdande, såsom svensken Anders målare, mest verksam som byggmästare, den både som skulptör och arkitekt betydande Willem Boy (skaparen av de båda förstnämnda vårdarna i Uppsala), Vadstenaarkitekterna Arent de Roy och Hans Flemming, de tre medlemmarna av den ursprungligen från Lombardiet stammande arkitektfamiljen Pahr, Franciscus Pahr, Johan Baptista Pahr och Dominicus Pahr, av vilka den förstnämnde bundit sitt namn vid Uppsala, de båda senare vid Borgholms och Kalmar slott, stuckatören och byggmästaren Antonius Watz, Finlands och Livlands överbyggmästare Peter Hertig, bildsnidarna Markus Ulfrum och Urban Schultz, målarna Baptista van Uther och Arent Lambrechts, sten- och bildhuggarna Roland Mackle, Peter de la Koche, Lukas van der Werdt och andra.