鐵路上海南站位于上海市徐匯區西南部，主站屋和車站南北廣場占地60公頃，南站主站屋設計為巨大圓形鋼結構，高47米，圓頂直徑200多米，總面積5萬多平方米建筑整體結構，氣勢磅礴。南來北往的火車可從主體建筑的架空部分穿行而過，主站屋為南北貫通、高進低出、高架候車。大致分為三層：中層與地面同高，為站臺層，設有13條鐵軌和6個上下客站臺，另有通道與南北廣場相連，還設有貴賓候車室、車站公安派出所等；上層為出發層，設有周長為800米的高架環形出發平臺、可同時容納一萬余人候車的大空間候車區、檢票通道等；下層為到達層，設有旅客出站地道、南北地下換乘大廳、地鐵一號線、三號線、即將建設的輕軌L1線、部分長途客運和旅游專線等，面積相當于40個標準足球場大小的地下空間，縱橫交錯，四通八達，旅客可隨意實現多種交通工具的“零換乘”。南站南北廣場平面設計為園林綠地和旅游集散地，南北廣場地下設計二層商鋪、道路和仃車場，總建筑面積為12萬平方米。

　　上海鐵路南站共安裝各類機電設備3330臺，鋪設電纜370公里，各類管線295公里，燈光30000套（組）。上海鐵路南站屋頂是世界上最大的圓形透光屋頂。采光頂猶如一頂“無柄”巨傘。這頂直徑278米的巨傘，撐開的傘面有6萬平方米，由八千多噸鋼、十四萬件約五萬多平方米的陽光板組成，全靠傘邊緣54根永久鋼柱支撐。采光頂透光材料類似“三明治”結構，最上層是減少強光照射的鋁合金遮陽板，中間一層關鍵材料是通用電氣塑料集團的力顯聚碳酸酯板材，這兩種材料既保證透光率65％，又構成阻擋紫外線的聯合防線。如果有效擋住了紫外線，陽光中70％的熱能就無法滲入。這些透光性好的新板材，不僅可使夏季屋內降溫和照明費用減少40％，獨特的涂層技術還使屋頂具有遇水自動清潔功能。無需時時派人爬上屋頂清洗。

　　上海作為我國最大的經濟中心城市和具有國際影響的特大城市，僅有上海、上海西主輔兩處客運站是遠遠不夠的。為此，鐵道部、上海市領導高度重視，早在上海明珠線（地鐵3號線）建設時，就做出建設鐵路上海南站的決策（當時叫上海第二客站），并要求把上海南站建設成為“廿一世紀上海標志性建筑”。

　　1996年11月，上海市人民政府、鐵道部共同下達了《關于上海市地鐵3號線建設項目會議紀要》，提出鐵路上海南站的規劃建設要按“統一規劃、一次動遷、同步實施、逐步完善”的原則。《會議紀要》決定，鐵路以內環線置換上海市400多畝土地，用于建設鐵路上海南站。

　　經國務院批準，上海南站交通樞紐總投資33.8億元，其中包括鐵路站屋及行車工程、廣場及市政配套工程、郵政專運站工程。與此同時，上海市還投資近20億，配合主體工程進行軌道交通一號線、三號線上海南站站改建和新建一批配套工程。鐵道部也投入相應資金，對線路電氣化等設備進行改造。

　　鐵路上海南站站屋工程由法國AREP公司和華東建筑設計院聯合設計，上海建工（集團）總公司總承包施工。行車工程由鐵道第四設計院負責設計，中鐵二十四局總承包施工。

　　2002年4月9日，鐵路上海南站工程建設指揮部、上海南站廣場投資有限公司揭牌，時任上海市市長陳良宇、鐵道部副部長蔡慶華出席揭牌儀式并講話。

　　2002年7月28日，鐵路上海南站與地鐵一號線上海南站相關工程同時開工。2003年12月23日，國家發改委正式批復上海南站開工。

　　2006年6月19日，由上海市、鐵道部組成的工程初驗委員會，對鐵路上海南站工程進行驗收并一次通過。6月25日上午8時15分，首趟N521次列車從上海南站開出，直駛“天堂”杭州，這標志著上海南站開始試運營。7月1日，上海南站正式開站運營，首開旅客列車32對。

　　鐵路上海南站不僅是上海中心城市的南大門，也是聯系長江、珠江三角洲及我國南方其他城市包括港澳地區的重要交通樞紐。上海南站投入使用后，旅客年發送量為一千二百七十萬人次，最終將達一千五百萬人次。