新亞書院的前身為「亞洲文商學院」，成立於一九四九年，為錢穆、唐君毅、張丕介等學者所創辦，其目的在上溯宋明書院講學精神，旁採西歐大學導師制度，以保存和發揚中國傳統的人文精神及溝通東西文化為教育宗旨。建校初期，規模極小，師生不過數十人，租用佐敦道三間課室在夜間上課。當時只設文史、哲學教育、經濟三系。其後獲得王岳峯先生資助，在九龍深水埗桂林街六十一、六十三及六十五號租用三、四樓兩層作為校舍。一九五○年三月改組並易名為新亞書院，增設商學、農學、新聞社會三系，其後因未能自設農場及校舍不敷應用，停辦農學及新聞社會兩系。由錢穆先生任院長兼文史系系主任，唐君毅先生任教務長兼哲學系系主任，張丕介先生任總務長兼經濟系系主任，楊汝梅先生任商學系系主任，趙冰先生任法律顧問。當時在校任教的其他學者有吳俊升、羅香林、張維翰、梁寒操、陳伯莊、程兆熊、羅夢冊等。

開學兩個月後，王岳峯先生因經濟困難而中斷資助，新亞陷入經濟危機。於是，創校諸先生四出募捐，又勤於撰稿，賺取稿費補助書院，苦苦撐持。後錢先生赴台，獲總統府從辦公費中每月撥捐三千港元，始解燃眉之急。一九五一年，學生只有八十多人，大多為大陸流亡來港的青年，未能負擔學費，有能力繳納學費者僅三分之一。學校經濟窘迫，老師以鐘點計薪，每人的月薪由八十至一百元不等。除正規課程外，書院又於每逢週末在桂林街舉行公開文化講座，座無虛設，廣獲各方推崇，因而聲名遠播。

一九五三年開始，新亞書院漸獲香港社會，乃至國際團體支持及援助，包括亞洲基金會、雅禮協會、福特基金會、香港孟氏教育基金會、哈佛燕京學社、美國洛克斐勒基金會及香港政府等。其中贊助最有力的是雅禮協會，一九五四年與本院展開合作計劃，除捐建新校舍外，又協助購置圖書，成立圖書館，及捐助每年經費差額。新亞在各方援助下，於一九五三年成立新亞研究所，校舍設於太子道，由錢院長兼任所長。這段桂林街時期，新亞師生為理想而艱苦奮鬥的「新亞精神」，最為人津津樂道。