1831年4月18日，由托馬斯·杰斐遜總統(tǒng)時期的美國財政部長艾伯特·加勒廷（Albert Gallatin）以及一群熱愛教育的紐約市民所建立，鑒于1828年倫敦大學的成立，進一步體認到紐約人也應該有自己的大學，于是創(chuàng)立了紐約大學。創(chuàng)校之初，只有一百五十八位學生及十四位教授。當時的校名是紐約市大學（University of the City of New York）。這是一所非宗教性的，不以出身和社會階級作為招生標準的學校。
1832年，第一屆學生在位于市政廳附近臨時租用的教室里開課，同年文理學院（College of Arts & Science）成立，提供B.A.學位，院內(nèi)包括人文、科學及社會科學多種科系。
1835年，學校主體建筑正式在華盛頓東廣場開放，法學院正式建立。值得一提的是紐約大學法學院（School of Law）被稱為“”美國超級法學院”T6的末班車，相較其它5所法學院（耶魯，哈佛，斯坦福，哥大及芝加哥大學），其劣勢主要為紐約大學法學院僅有一個小小的四合院，由于地處曼哈頓中心，學生花銷較大。NYU法學院的稅法和國際法都是全美第一。此外，涉及金融法、商法領域的學科，紐約大學法學院也非常強勢。NYU法學院的師資力量是其守住T6寶座的重要原因。
成立之初的幾年里，學校的規(guī)模在華盛頓廣場附近逐漸擴大。而隨著紐約市對北方上城區(qū)的開發(fā)，紐約大學購買了布朗克斯區(qū)大學高地（University Heights）附近的土地，并于1894年將包括文理學院與工程學院在內(nèi)的大多數(shù)院系遷移到布朗克斯，建立了新的校舍，在曼哈頓下城只保留了法學院和少數(shù)研究室。
1841年，紐約大學醫(yī)學院正式建立
1854年，紐約理工學院 （New York University Polytechnic School of Engineering）成立，為全美第二古老的工學院，擁有如計算機科學、金融工程、技術管理、電氣工程、網(wǎng)絡安全、無線通信等專業(yè)。
1865年，牙醫(yī)學院 （College of Dentistry）成立，為全美第三古老的牙醫(yī)學院，并且為全美最大的私立牙醫(yī)中心。該學院附設戴維．凱利斯醫(yī)學中心（David B. Kriser Dental Center），兼重臨床、實驗及教學三方面。紐約大學的牙醫(yī)專業(yè)在2016年的QS美國大學牙醫(yī)專業(yè)排名中排名世界第十，美國第二，僅次于密西根大學。
1886年，文理研究院 （Graduate School of Arts and Science）成立，提供人文、社會及自然科學，其中Courant Institute以研究數(shù)學與流體力學揚名于世界。
1890年，文化教育學院（Steinhardt School of Culture,Education and Human Development）成立，為紐約大學最大的學院。學院分為五個系，應用心理、健康、藝術、傳媒和音樂系。
1896年，學校正式更名為紐約大學。1900年，斯特恩商學院（Leonard N. Stern School of Business）成立，紐約大學商學院是紐約最著名的一所學院，也是王牌學院，在經(jīng)濟，商業(yè)和管理等領域有著非常突出的學術成就。研究所原位于世界金融中心的華爾街上，擁有會計、稅法、商業(yè)法、財務、管理及營銷等各種細分的專業(yè)學科，為紐約金融中心造就許多人才。由于毗鄰金融中心華爾街，商學院同數(shù)百家世界級的金融研究機構及金融企業(yè)有廣泛的聯(lián)系，使得紐約大學商學院不僅在學術理論領域，而且在金融實踐方面都擁有杰出的優(yōu)勢。紐約市是最大的世界金融中心和聯(lián)合國總部所在地。憑借地域和學術優(yōu)勢，紐約大學商學院已成為了一個真正意義的，世界一流的，全球性商業(yè)和經(jīng)濟管理研究和學術機構。其金融、營銷等專業(yè)在2010年度《商業(yè)周刊》、《經(jīng)濟學家》、《金融時報》等眾多排名中皆位列前。其中以金融學最為優(yōu)異，連續(xù)排名在全美前三名。在1992年秋已遷回總校區(qū)，在全美MBA研究所中排名第11名。 其MBA 及EMBA專業(yè)常年位列全美TOP5，市場學，會計等專業(yè)常年位列全美TOP10.其經(jīng)濟學碩士項目在TFE Ranking中位列第一。
紐約大學商學院在金融領域著名的校友包括：美國聯(lián)邦準備委員會主席格林斯潘, 美國紐約股票交易所執(zhí)行董事/萊曼兄弟投資銀行控股公司總裁理查德· 法爾德，美國納斯達克股票交易所CEO兼總裁羅伯特· 格雷菲爾德，美國運通金融公司董事主席格魯伯，瑞士信貸第一波士頓銀行董事局主席，臺灣中國信托銀行總裁JEFFREY KOO等。最新一屆（2003）諾貝爾經(jīng)濟學獎得主羅伯特· 恩格爾目前為紐約大學商學院金融學教授。
1922年，美術研究所 （Institute of Fine Arts）成立。
1929年，美國開始了大蕭條時期，第二年，Chancellor Chase創(chuàng)立了職業(yè)研究學院，使得學校在大蕭條時期依然能夠為更多的學生提供學習機會。
1934年， 職業(yè)研究學院（School of Professional Study）正式成立，提供應用性科目，如房地產(chǎn)、市場營銷、人力資源和公共關系等課程，其中值得一提的是紐約大學的沙克（Schack）房地產(chǎn)項目，是美國房地產(chǎn)業(yè)界著名的高水平研究機構，和世界金融及地產(chǎn)界聯(lián)系緊密， 2019年USNEWS專業(yè)排名全美第四位 [12] 。沙克地產(chǎn)學院新開設的“國際地產(chǎn)學程”(Global Real Estate)更可以讓學生們將以前各門課的所學應用到世界各地地產(chǎn)開發(fā)案架構中來思考。修課的學生將會到美國與國際各大城市進行考察。Integrated Marketing(整合營銷)專業(yè), 旨在培養(yǎng)學生的理論知識, 分析技巧，最實用的市場問題應對方法。同年，庫郎數(shù)學科學研究所 （Courant Institute of Mathematical Sciences） 成立，提供數(shù)學、計算機科學等專業(yè)，其中應用數(shù)學專業(yè)為全美排行第一。庫郎數(shù)學科學研究所本科專業(yè)與研究生專業(yè)為所內(nèi)獨立運行，且分別與文理學院及文理研究所關聯(lián)。1935年，紐約大學在長島開設了分校。
1937年，紐約大學位于長島的分校獨立成為了霍夫斯特拉大學。
1938年，瓦格納公共行政學院 （Robert F. Wagner Graduate School of Public Service） 成立，有聯(lián)合國總部提供國際課程的人力及資源。
20世紀60至70年代的金融危機沉重打擊了紐約市政府，并波及到了包括紐約大學在內(nèi)的多家教育機構。1960年，Silver社工學院（Silver School of Social Work）成立，偏重于社會工作及公共政策的專業(yè)訓練。
1965年，帝勢藝術學院 （Tisch School of the Arts）成立，設有電影、電視、舞蹈、設計、音樂等科系。該學院在全美各大高校和電影機構中，培養(yǎng)了最多的奧斯卡獎得主。而其藝術學院下屬的電影學院（Maurice Kanbar Institute of Film and Television）培養(yǎng)出的著名電影人包括：馬丁·斯科塞斯（代表作：出租車司機、憤怒的公牛、紐約黑幫、無間行者）斯派克·李（美國最著名的黑人導演，代表作：叢林熱、為所應為）奧利弗·斯通（代表作：野戰(zhàn)排、天生殺人狂、刺殺肯尼迪、華爾街）、李安（代表作：喜宴、冰風暴、臥虎藏龍、斷背山、少年Pi的奇幻之旅）、喬·科恩（科恩兄弟中的哥哥，代表作：謀殺綠腳趾、巴頓·芬克、冰血暴、老無所依）、克里斯·哥倫布（代表作：小鬼當家、哈利·波特）、查理·考夫曼（導演，代表作：紐約提喻法，編劇代表作：改編劇本、成為約翰·馬爾科維奇、美麗心靈的永恒陽光）等在內(nèi)的眾多杰出電影人才，并與南加州大學（USC）和加州大學洛杉磯分校（UCLA）兩校的影戲學院共同被認為全美最佳的三所電影學院。
1972年，迦勒汀個人學習學院 （Gallatin School of Individualized Study） 成立。1973年，為了避免學校陷入財政危機，紐約大學將布朗克斯的校舍出售給了紐約市立大學，將工程學院出售給了理工大學，并逐步恢復了華盛頓廣場附近的校舍。
1984年到1994年，是紐約大學極速發(fā)展的十年。學校融資10億美元，在校友的幫助下重整并擴大了校園，建立了一流的語言學與數(shù)學研究機構，鞏固了醫(yī)學院、法學院、商學院與藝術學院的地位，大幅提高了教學科研水平與入學標準。
1995年，護理學院 （Rory Meyers College of Nursing） 成立。2003年，學校再次計劃融資25億美元，以進一步翻新學校的設施
2006年，公共衛(wèi)生國際學院 （College of Global Public Health） 成立。
2007年，紐約大學正式公布將建立阿布扎比分校（NYU Abu Dhabi）的計劃，建成之后將和其它學術機構一起成為NYU‘s Global Network University成員之一。同年，紐約大學還在新加坡設立了藝術學院，在以色列特拉維夫設立了海外分校，但由于不斷升級的巴以沖突而暫停招生。
2008年，紐約理工大學正式合并至紐約大學，讓紐約大學在理工以及科技專業(yè)上有更多資源與發(fā)展。
2010年，紐約大學阿布扎比分校（NYU Abu Dhabi）于2010年9月建成并開始招生，同年，古代世界研究所 （Institute for the Study of the Ancient World） 成立。
2013年，上海紐約大學（New York University Shanghai）正式開始招生。
2014-2015年，紐約大學在泰晤士報世界大學排名中排名第38位
同年，工學院名稱由 NYU Poly（Polytechnic Institute of NYU） 改為 NYU Polytechnic School of Engineering。合并之后學院會一直待在布魯克林，不會遷移到紐約大學本部所在的曼哈頓去。
2014年1月1日，POLY變成了NYU Polytechnic School of Engineering，成為NYU的18個學院之一，與其他17個學院共享NYU的所有資源。從2013年8月份以后提交的本科申請，都由NYU招生辦公室統(tǒng)一錄取招生，研究生則學院本身自己招生。
2015年10月5日，由于接受了Tandon夫婦1億美元的捐款，NYU理工學院將正式改名為（Tandon School of Engineering） 2018USNEWS 工程研究生院排名第45位。
2016年，紐約大學在泰晤士高等教育世界大學排名中排名第30位，USNEWS 美國大學綜合排名第32位在最受歡迎的10所大學排行中排名第三位，僅次于斯坦福大學和哈佛大學。
截止到2019年，紐約大學在世界大學聲譽排行榜上排名第27位；QS世界大學排名第39位；USNEWS世界大學排名28位；USNEWS美國大學綜合排名第30位；年度全球CEO母校排名第18位；全美著名校友總數(shù)排名第8位。 4位圖靈獎得主位列世界第九，與劍橋大學并列。13位菲爾茲獎得主，與牛津大學并列世界第13位。而37位諾貝爾獎得主（全球第15，全美第10）也讓紐約大學光芒四射，享譽世界。
