1927年秋天，傅斯年（時任國立中山大學文科學長）在廣州中山大學設置語言歷史研究所。十月，中華民國大學院院長蔡元培根據《中華民國大學院組織法》第七條「本院設中央研究院，其組織條例另定之」，著手籌備中央研究院。1928年三月，中華民國大學院委託中山大學籌備建立歷史語言研究所（下稱史語所），聘傅斯年、顧頡剛、楊振聲為籌備委員。四月，中央研究院脫離大學院，成為獨立機關，改稱國立中央研究院（下稱中研院）；六月九日，中研院第一次院務會議在上海召開，中研院正式成立。
1928年八月，史語所籌備處派遣通信員董作賓前往河南安陽殷墟調查，得知小屯村仍有大批甲骨出土，隨即於十月十三至三十一日，由官兵十一人保護，董作賓主持，在小屯進行殷墟第一次發掘。十月十三日開始的考古工作，為中國第一次進行具研究性質的學術考古工作，此日也為史語所前輩考古學者非正式的定為「考古節」。1928年十月二十二日，史語所自借用中山大學館舍的籌備處遷至廣州東山恤孤院柏園，史語所正式成立，籌設八組：史料學、敦煌材料研究、文籍校訂、漢語、漢字、民間文藝、考古學、人類學及民物學。
1929年三月，由李濟與董作賓主持，在安陽小屯進行第二次發掘。同時，史語所開始進行北遷工作。六月，史語所遷至北平北海公園靜心齋；同月，經所務會議議定，組織改併為史學、語言學、考古及人類學三組，李濟任第三組主任。從該年七月起，史語所四度在山東濟南龍山鎮城子崖調查。十月，李濟與董作賓前往安陽小屯進行第三次發掘，發現刻辭鹿頭與大龜四版在內的重要古物多件；卻於十一月因河南民族博物院來此爭掘，遭受河南圖書館館長何日章藉故阻擾，工作無法進行；傅斯年與河南省主席與教育廳長多方說明協調，努力求全，發掘工作因而暫停。
1930年九月起，梁思永調查與發掘黑龍江昂昂溪遺址。下半年間，史語所多位考古學家勘查城子崖遺址，與山東省政府共組「山東古蹟研究會」，於十一月進行該遺址第一次發掘，發現了龍山文化的圍牆與陶窯，出土遺物二萬餘件，並於隔年元旦起，在青島大學展出山東發掘出土遺物三天。
1931年三月，史語所與河南省人士組成河南古蹟研究會，並接納河南省政府代表與河南大學學生，重啟停頓近一年半的殷墟小屯考古發掘（第四次），並開始進行洹河兩岸調查工作。四月、十一月，分別在安陽四盤磨、後岡與小屯進行發掘，在小屯發現夯土遺跡，在後岡出土殷商/龍山/仰韶文化三疊層，在層位上確立仰韶文化與龍山文化的早晚關係，是為殷墟第五次發掘；此外，於四月調查汲縣山彪鎮，七月調查濬縣辛村先秦墓葬被盜情況，八月調查偃師一帶遺址；另於十月進行城子崖遺址第二次發掘。
1932年四月至五月，分別進行殷墟小屯、高井臺子、王裕口與霍家小莊等地點的發掘（第六次），在小屯E區首度確定存在建築基址；從十月至十二月，在小屯進行第七次發掘，出土金頁、陶範等遺物。於四月、十月，在濬縣辛村各進行一個半月與二個月的發掘，並於隔年二月在河南博物館展覽出土遺物。同時因華北局勢日非，史語所考慮南遷。
1933年一月開始，史語所第二、三組南遷上海曹家渡小萬柳堂，第一組部份人員暫留北平持續整理明清檔案。該年四至五月與十至十二月，在辛村墓地進行大規模發掘，出土遺物甚多；但其中60號墓部份隨葬品夜間為匪盜去。十月下旬至隔年一月，於小屯與後岡進行第八次發掘，在後岡西區發現殉葬28個人頭的大型墓葬一座。
1934年三到五月間，史語所在小屯、後岡、侯家莊南地與南霸臺進行殷墟第九次發掘。五月，原社會科學研究所民族學組併入史語所，並與原屬第三組的人類學合併增設人類學組。十月，史語所遷至南京欽天山麓雞鳴寺路一號北極閣新廈，各組才集中工作。十月至十二月，由梁思永主持，首度在侯家莊西北岡進行發掘，發現多座墓葬，其中有四座大墓；史語所在侯家莊村內設置工作站，工作人員居住於此，有保安隊十人駐站保護，有壯丁十人夜間看坑；但仍於十二月初某夜，有當地人武裝盜坑而被駐軍拏獲。
1935年三到六月，擴大前一年西北岡發掘區並發掘大墓與車馬坑，在HPKM1004出土牛鼎、鹿鼎以及成組多套的銅戈盔矛，是為殷墟第十一次發掘。九到十二月，第十二次發掘又出土六座大墓，於HPKM1400出土寢小室盂與銅人面等重要遺物；在HPKM1443則有數十個人頭骨殉葬；在此同時，另發掘了大司空村與范家莊。而郭寶鈞則於八到九月與十一月分別在山彪鎮與琉璃閣進行發掘。
1936年三到六月，在小屯進行第十三次發掘，發現版築基址四座與YH127甲骨坑。九月到年末，小屯與大司空村進行第十四次發掘，發掘團並捐資在小屯村內開設「洹水學校」，以教育工人子弟與附近學童。五月至七月，另在山東發掘兩城鎮的瓦屋村與大孤堆兩處地點。
1937年三至六月，在小屯進行第十五次發掘，發掘YM331、333、338等墓葬，出土多件重要遺物；此為史語所最後一次進行的安陽考古發掘工作。四月在全國第二次美術展覽會中，特闢殷代專室展出史語所發掘侯家莊與小屯出土的遺物。此後，因日軍侵華，史語所西遷，人員、圖書、儀器、標本輾轉江西南昌、湖南長沙、廣西桂林、陽朔、雲南昆明、四川南溪李莊等地；遷運過程中，少部份遺物落水浸濕，部份留長沙與存香港文物陷日損失。
史語所播遷至滇、川，但考古學者仍然在雲南蒼洱、四川成都西門外琴臺，以及西北地區進行發掘。琴臺前蜀王建墓的發掘係與中央博物院及四川博物館合作，議定出土物歸四川博物館典藏；在玉哀冊出土後，傳言出有金娃娃，鄉民聳動，阻難發掘，踏毀遺物，一月半後平息，發掘工作才得以繼續。
1945年八月日本投降，九月，史語所派石璋如赴南京，準備復員。1946年十一月，史語所遷回南京北極閣原址。1948年初冬國共徐淮戰起，十二月史語所奉命疏遷，圖書、儀器、標本、檔案裝箱，由李濟督運，國民政府派軍艦護送。隔年一月遷抵臺灣，暫借臺大醫學院部份房舍安置；二月，轉厝楊梅，並於1951年七月在臺灣大學校總區圖書館暫借三間為史語所臺北辦事處。即便在此困頓時期，來臺的考古學前輩仍於1949年二月至六月，調查臺北圓山、南投大馬璘、瑞岩與臺中營埔遺址，並於十一月發掘大馬璘。
1952年五月，中研院在臺北南港購妥土地，興築館舍。1954年十二月，史語所文物倉庫、辦公大樓以及附屬房舍落成，史語所從楊梅遷南港，正式在此落戶。1958年四月十日，新建考古館落成啟用，並於1979年八月改稱「李濟紀念館」。1958年十一月，史語所新設「甲骨文研究室」，由董作賓主持，史語所四組一室組織於此確立。1990年，甲骨文研究室更名為文字學組。1997年，語言學組獨立成為語言學研究所，史語所名稱維持不變。
2002年12月31日，中研院取消各所所內分組的編制，在中研院存在74年的考古組就此從歷史上消失。但即便正式編制的所內組取消，史語所屬於多學科研究所，為內部作業分工，另設置各「學門」實質運作。
從1949年大馬璘遺址發掘之後，史語所即沒有經常性經費得以從事主動性發掘，限制了史語所考古研究的主動性。而從1980年代以後，臺灣經濟起飛，各種建設紛至沓來，加上逐漸完備的遺址保護法規，史語所進行了多處重要遺址的大規模搶救發掘，如臺北十三行、臺南科學園區遺址群、臺南西寮、花蓮花岡山等諸多遺址的發掘，都獲得重要成果，對臺彎地區史前文化區域史的建立與古代先民生活樣貌的重建，都有重要貢獻。
前述史語所考古工作簡略的大事記中，有許多面向可供今日思考借鏡。史語所在安陽進行發掘，不僅聘僱大量的民工，提供當地部份居民重要收入來源，也積極參與當地的民俗婚祭活動，並捐資興建小學，石璋如甚至為部分工人立傳（《殷虛發掘員工傳》，待出版）。考古工作者在地方進行大規模的發掘工作，僱用民工動輒上百人，除了平常的薪水之外，前輩也在能力所及，為職工子女設立學校，對於當地的人群生態與民間記憶，當有深刻的影響。人文精神的社會實踐已經在七十餘年前考古前輩行事上看到。
現代考古發掘不只是學術研究與文化資產保存的問題，也經常牽涉複雜的社會參與與人群互動。文化資產誰屬的問題，從來難解；史語所前輩學者處理當地人士對遺物或發掘權之爭，初以共組古蹟研究會，同時在當地舉辦出土遺物展覽，後有與地方博物館協作，而出土物歸其典藏等不同作法。諸多作為，無非是希望能順利進行學術研究，以使此土先民的遠古歷史能重現世人眼前。而史語所歷次發掘的出土資料，也預定在研究結束後，轉由當時籌設的中央博物院典藏；從無以收藏古物為目的的發掘，也無錮藏出土遺物秘不示人的行為。臺灣遺址相關法令的規定，以及現代考古工作所面臨的當地人民關切介入的處理方式，與此其實並無二致。
在人民生活困苦，不知文化資產保護為何的年代，心亂於可欲，不免從其舊習，盜挖先人塚墓，甚或哄搶考古工地。史語所考古學者違冒生命之險，在軍隊保護下進行工作，是現代考古學者難以想像的。而前輩學者在顛沛流離的時代，不忘職志，行腳所及，隨處即行考古工作，積極戮力的態度，更值得我們學習。這些大都可以在翻閱這本紀錄殷墟十五次發掘的《殷墟發掘照片選輯1928-1937》中看到。
這些已經泛黃部份漫漶的照片，為前輩學者們發掘工作的歷程紀錄，可以看到中國考古學草創初期相對於今日粗樸的設備、學者們親力親為，辛勤工作的身影，以及工暇之餘行腳所至觀覽所及之民俗參與和地方風貌。昔日殷墟今日安陽一帶，已經是處處高樓大道，世界遺址之所在。這本照片選輯呈現當年土牆瓦頂，黃沙小徑，以及早已不復存在的廟宇，鮮活地保存了安陽的歷史記憶。
史語所前輩考古學者在有限資源的條件下，蓽路藍縷，成就名山事業。今日我們後輩小子沒有徒自緬懷的權利，也不應以侷促海峽一隅，遠離「黃金」遺址而自限，而應積極尋求學術的活路。筆者承乏考古學門召集人，瞭解史語所必須賡續前人志業，完成考古學家整理出版發掘資料的責任。在此之餘，如何克紹前規，另探驪珠，以不墜先人的風緒，實有賴我學門同仁共砥礪焉。
史語所考古學門召集人
陳光祖
民國一百零一年七月三十日