Mwaka 1980, Dr. Salim aliteuliwa kwa mara ya kwanza na aliekuwa Rais wa Tanzania wakati huo Hayati, Mwl. Julius Kambarage Nyerere kuwa Waziri wa Mambo ya Nje. Wakati huu Dr. Salim alikuwa amerejea kutoka kwenye majukumu yake Umoja wa Mataifa.
Alihudumu kwenye nafasi hii kwa miaka minne kabla ya kuteuliwa tena kuwa Waziri Mkuu na Mwalimu baada ya kifo cha aliyekuwa Waziri Mkuu wa wakati huo Hayati, Edward Moringe Sokoine.
Baadae Dr. Salim aliteuliwa tena kuwa Naibu Waziri Mkuu na Waziri wa Ulinzi na Jeshi la Kujenga Taifa. Hii ilikuwa mwaka 1985 na alihudumu katika nafasi hii mpaka mwaka 1989 kisha akaenda kulitumikia bara ka Afrika kama Katibu Mkuu wa Umoja wa Afrika (OAU) kwa miaka 12.
Wale mliozishuhudia nyakati hizi tupeni kidogo picha ya Dr. Salim akiwa kiongozi ndani ya serikali ya Tanzania.