Þegar heimastjórn var komið á fót hér á landi árið 1904 var stofnað embætti ráðherra Íslands, og var hann æðsti yfirmaður Stjórnarráðs Íslands. Stjórnarráðinu var skipt í þrjár skrifstofur sem gengu undir nöfnunum fyrsta, önnur og þriðja skrifstofa. Fyrstu skrifstofu var ætlað að sjá um dóms-, skóla- og kirkjumál, önnur skyldi sjá um atvinnumál, samgöngumál og póstmál en hin þriðja fjármál. Skrifstofustjóri var yfir hverri skrifstofu en landritari var yfirmaður þeirra. Allir lutu þeir svo ráðherra Íslands.
Þessi skipan hélst til 1917 að ráðherrar urðu þrír. Með þeirri breytingu varð embætti forsætisráðherra fyrst til, án þess þó að stofnsett væri sérstakt forsætisráðuneyti. Þess má geta að árið 1921 var farið að kalla skrifstofurnar þrjár sem áður getur (nefndar deildir frá 1917) dóms- og kirkjumálaráðuneyti, atvinnu- og samgöngumálaráðuneyti og fjármálaráðuneyti.
Samkvæmt konungsúrskurði frá 1924 var ákveðið að ráðherrar skyldu vera fjórir, forsætisráðherra, dóms- og kirkjumálaráðherra, atvinnu- og samgöngumálaráðherra og fjármálaráðherra. Undir forsætisráðherra skyldu m.a. heyra stjórnarskráin, Alþingi, skipun ráðherra og lausn og forsæti Stjórnarráðsins, og að auki utanríkismál og forsæti í bankaráði Íslandsbanka.
Árið 1921 var ráðinn starfsmaður til þess að sinna ákveðnum málaflokkum sem féllu undir forsætisráðherra. Sú ráðning var þó aðeins til skamms tíma en frá 1927 hefur sérstakt starfsfólk haft málefni þau sem heyra undir forsætisráðherra á sínu verksviði. Þar með var skrifstofu forsætisráðherra komið á fót og í raun forsætisráðuneyti, án þess þó að það væri nefnt því nafni. Frá sama ári eru einnig til bréfadagbækur með nafni forsætisráðuneytisins. Starfsfólk á skrifstofu forsætisráðherra hafði í fyrstu eitt lítið herbergi til afnota inn af aðsetri forsætis-ráðherra og þurfti að ganga í gegnum skrifstofu hans, en árið 1933 fékkst meira rými á annarri hæð Stjórnarráðshússins.
