Ofisi ya Wakili Mkuu wa Serikali (OWMS) ilianzishwa kupitia Amri ya Mheshimiwa Hayati Dkt. John Pombe Joseph Magufuli, Rais wa Awamu ya Tano wa Jamhuri ya Muungano wa Tanzania iliyotangazwa tarehe 13 Februari, 2018 katika  Gazeti la Serikali Na. 50 la Mwaka 2018. Amri hiyo ilitolewa kwa Mamlaka aliyonayo kwa mujibu wa Ibara ya 36 (1) ya Katiba ya Jamhuri ya Muungano wa Tanzania 1977 na kutangazwa katika Gazeti la Serikali Na. 48 la Mwaka 2018 pamoja na mambo mengine, kufanyika kwa marekebisho ya Muundo wa Ofisi ya Mwanasheria Mkuu [Office of the Attorney - General (Re-structure) Order, 2018. (GN.No. 48 of 2018) kuanzisha ofisi tatu ambazo ni Ofisi ya Mwanasheria Mkuu wa Serikali, Ofisi ya Taifa ya Mashtaka na Ofisi ya Wakili Mkuu wa Serikali (OWMS).

Lengo la kuanzishwa kwa OWMS ni kuwa na taasisi moja ya Serikali itakayowajibika  na utoaji wa huduma za kisheria kwa Serikali na taasisi zake katika  maeneo ya uratibu, usimamizi, ushauri na uendeshaji wa mashauri ya madai na usuluhishi  kwa niaba ya Serikali na taasisi zake ndani na nje ya nchi. Pia, kuingilia kati na kuendesha mashauri ya taasisi binafsi pale ambapo mashauri husika yana maslahi ya umma au yanahusu mali ya umma.

Baada ya Tangazo hilo la Serikali Na 50/2018, tarehe 14 Aprili, 2018, Mheshimiwa hayati Dkt. John Pombe Joseph Magufuli - Rais wa Jamhuri ya Muungano wa Tanzania alimteua Dkt Clement Julius Mashamba kuwa Wakili Mkuu wa Serikali (WMS) na Dkt. Ally Saleh Possi kuwa Naibu Wakili Mkuu wa Serikali (NWMS). Aidha, tarehe 07 Julai, 2018, aliidhinisha Muundo wa OWMS sambamba na Muundo wa Ofisi ya Mwanasheria Mkuu wa Serikali na Muundo wa Ofisi ya Taifa ya Mashtaka. Utekelezaji wa majukumu ya OWMS ulianza rasmi mwezi Julai, 2018 baada ya Muundo wa Ofisi kupitishwa na Mheshimiwa Rais na kuwa mwongozo wa utekelezaji wa majukumu ya Ofisi.

Tarehe 20 Septemba, 2019 mwaka mmoja na miezi miwili tangu kuanzishwa kwa OWMS, Mhe. Hayati Dkt. Magufuli alifanya mabadiliko ya uongozi kwa kumteua Bw. Gabriel Pascal Malata aliyekuwa Kamishna wa Kazi katika Ofisi ya Waziri Mkuu, Kazi, Ajira, Vijana na Wenye Ulemavu kushika nafasi ya Naibu Wakili Mkuu wa Serikali ambapo Dkt. Ally Saleh Possi  aliyekuwa NWMS aliteuliwa kuwa Naibu Katibu Mkuu, Wizara ya Habari, Utamaduni, Sanaa na Michezo.

Mnamo tarehe 10 Julai, 2020 Mheshimiwa Rais alifanya tena mabadiliko ya uongozi kwa kumteua na kumpandisha cheo aliyekuwa Naibu Wakili Mkuu wa Serikali Bw. Gabriel Pascal Malata kuwa Wakili Mkuu wa Serikali na kumteua Dkt. Boniphace Nalija Luhende aliyekuwa Mhadhiri wa Chuo Kikuu cha Dar es Salaam kushika nafasi ya Naibu Wakili Mkuu wa Serikali.

Mnamo tarehe 09 Oktoba, 2022, Mhe. Dkt. Samia Suluhu Hassan, Rais wa Jamhuri wa Muungano wa Tanzania alifanya mabadiliko kwa kumteua na kumpandisha cheo aliyekuwa Naibu Wakili Mkuu wa Serikali Dkt. Boniphace Nalija Luhende kuwa Wakili Mkuu wa Serikali na  alimteua Bi. Sarah Duncan Mwaipopo kuwa Naibu Wakili Mkuu wa Serikali.

Vilevile, mnamo tarehe 27 Septemba, 2023 Mhe. Rais Dkt. Samia Suluhu Hassan alifanya mabadiliko ya uongozi kwa kumteua Bi. Sarah Duncan Mwaipopo kuwa Jaji wa Mahakama Kuu ya Tanzania na nafasi yake kukaimiwa na Bw. Mark Mulwambo hadi kufikia tarehe 4 Aprili, 2024 ambapo Mheshimiwa Rais alimteua Bi. Alice Edward Mtulo kuwa Naibu Wakili Mkuu wa Serikali.

Aidha, tarehe 14 Agosti, 2024 Mhe. Rais Dkt. Samia Suluhu Hassan alimteua Dkt. Ally Saleh Possi kuwa Wakili Mkuu wa Serikali.