上海科技管理干部學院的前身為1964年根據國家科委要求成立的外語進修部。 1980年市科委決定恢復外語部并在原外語部基礎上報請市政府批準成立了上海科技干部進修學院，增設了管理部。1985年經上海市政府批準改名為上海科技管理干部學院。1991年經中共上海市委批準設立了中共上海市科技黨校。學院于1994年經國家教育部批準為獨立設置的成人高等學校。 建院以后，承擔國家科技部下達的培訓任務，是學院的主要工作之一。

早在80年代，學院成立初期，曾經受國家科委委托舉辦全國各省、市、自治區科委、科技廳（局）外事處長英語培訓班，國家科委機關外事干部英語培訓班，各省區科研所所長、地（市）、縣科委（科技局）主任（局長）、大中型企業主管科技工作領導干部的科技管理研究班，培訓各類人員數萬名。1998年以后，學院根據國家實施西部大開發戰略，承擔了上海市政府和國家科技部下達的對西部地區科技管理干部培訓的任務。8年來，學院為中西部地區（17個省區）舉辦培訓班71期（其中赴云南、新疆、貴州辦班14期）培訓干部3448名，為西部大開發人才培訓作出了應有的貢獻。學院的培訓工作得到有關省區主管部門和領導的高度評價。

學院還根據科技體制改革、增強創新能力、促進成果轉化與高科技產業化及市場經濟條件下對本市科技系統干部隊伍素質提出的新要求，舉辦了技術創新管理、技術管理、工商管理、科技管理、知識產權管理、現代項目管理等專題研究班。學院是國家u201c星火u201d、u201c火炬u201d計劃的培訓基地。

學院在長期開展外語培訓教學過程中形成了自己的特色，創造了良好的聲譽，多年來開展的科技人員和其他在職干部的外語培訓工作取得良好成績。學院曾受市委組織部委托開展領導干部的外語培訓，一大批中高級管理干部的外語水平得到了強化提高，受到市領導的高度評價。

學院大力開展科研工作和學科建設，在科技管理、技術創新管理、技術管理、知識產權管理、人力資源開發咨詢等學科領域有自己的特色和專長。科研工作圍繞當前改革中熱點問題，堅持理論聯系實際，積極探索科技為科技和社會發展服務，完成了多項政府和企業重大軟課題研究，如學院曾受中國石油化工集團公司、上海寶山鋼鐵公司、上海國際集團、國家勞動人事部、上海市委組織部、上海市科技黨委、上海市科委、上海知識產權局等國內特大型企業和政府機關委托開展軟課題研究，研究成果得到采納和應用并受到較高評價。

學院在開展科技管理干部的培訓中積累了一定的經驗，為了增強針對性，形成特色，組織教師編寫出版了有關的培訓教材，如《科技管理》、《星火計劃管理理論與實務》、《管理決策定量分析》、《技術經濟分析》、《市場調查》、《知識產權u2014u2014法律與實務》等。其中有的曾被原國家科委列為全國科技管理干部培訓的統編教材。

學院自2000年以來一直是上海市文明單位。