這個階段的任務是設計軟件系統的模塊層次結構，設計數據庫的結構以及設計模塊的控制流程，其目的是明確軟件系統如何做。這個階段又分兩個步驟：概要設計和詳細設計。
概要設計解決軟件系統的模塊劃分和模塊的層次機構以及數據庫設計；詳細設計解決每個模塊的控制流程，內部算法和數據結構的設計。這個階段結束，要交付概要設計說明書和設計說明，也可以合並在壹起，稱為設計說明書。
在系統分析的基礎上，設計出能滿足預定目標的系統的過程。系統設計內容主要包括：確定設計方針和方法,將系統分解為若幹子系統,確定各子系統的目標、功能及其相互關系，決定對子系統的管理體制和控制方式，對各子系統進行技術設計和評價，對全系統進行技術設計和評價等。圖中表示系統設計的各個步驟。
系統設計通常應用兩種方法：壹種是歸納法，另壹種是演繹法。應用歸納法進行系統設計的程序是：首先盡可能地收集現有的和過去的同類系統的系統設計資料；在對這些系統的設計、制造和運行狀況進行分析研究的基礎上,根據所設計的系統的功能要求進行多次選擇,然後對少數幾個同類系統作出相應修正，最後得出壹個理想的系統。演繹法是壹種公理化方法，即先從普遍的規則和原理出發，根據設計人員的知識和經驗，從具有壹定功能的元素集合中選擇能符合系統功能要求的多種元素，然後將這些元素按照壹定形式進行組合（見系統結構），從而創造出具有所需功能的新系統。在系統設計的實踐中，這兩種方法往往是並用的。