甘肃是中华民族古代文明的发祥地之一。文化教育历史源远流长。早在七八千年前的新石器时代。随着原始农牧业的发展，先民们在生产实践中把磨制石器、烧制陶器、耕牧纺织的知识与技巧传授给下一代的过程中，就产生了最早的教育活动。
据《易传》《三皇本纪》等古籍记载，生活在今天水、秦安一带的中华民族“人文初祖”伏羲氏就“仰则观象于天，俯则观法于地，观鸟兽之文与地之宜”，“造网罟，教民以渔”，“造书契以代结绳之政”，“作历度，连分八节以应天气”。“制嫁娶，以俪皮为礼”，“作琴瑟为乐，有网罟之歌”，“画八卦，以通神明之德”。这些虽属传说。但与其同时期或稍晚的秦安县大地湾文化遗址、临洮县马家窑文化遗址、广河县齐家文化遗址等无不印证在远古时期甘肃境内文化教育活动的繁荣。甘肃新石器时代灿烂的文化，孕育着早期的中华文明，从教育史的角度看，它反映了甘肃的远古教育在中国教育史上的重要地位。
夏商周时期的甘肃，尽管各地区发展不平衡，但仍然陆续跨人文明时代。玉门火烧沟文化及辛店文化、寺洼文化、沙井文化等都充分证明了这一点。史籍记载，此时生活在甘肃境内的氐、羌、周、秦等族，都对祖国历史文化的繁荣发展作出过伟大的贡献，特别是周、秦文化更具有深远的影响。据《史记?周本纪》记载，周人初兴于西北地区，其先祖后稷“逆好农耕。相地之宜，宜谷者稼穑焉，民皆法则之”。后稷的后代公刘“虽在戎狄(今庆阳一带)之间，复修后稷之业，……周道之兴自此始。”周人先祖教民稼穑，在陇东地区创造了灿烂辉煌的农耕文化。
春秋末期，随着社会经济的发展变化，出现了教育的专门机构――学校。偏居西陲、受游牧民族风俗习惯影响较大的秦国，虽然经济文化较东方各诸侯国落后，但在交往中，积极吸收东方各诸侯国的文化思想和教育制度，文化教育水平也得到不断提高。籍贯甘肃的秦国学子壤驷赤、秦祖、石作蜀千里迢迢，前往鲁国，投师孔子门下，学习六艺，名列孔门七十二贤之中。
两汉时期，自汉武帝设置河西四郡后，为了巩固边塞，保证丝绸之路的畅通，大量向河西地区移民，屯垦戍兵，不仅给甘肃带来了中原地区先?的生产经验，也促?了甘肃文化教育事业的发展。与此同时，汉武帝采纳董仲舒“独尊儒术”的主张，令“天下郡国皆立学官”，以儒术教化万方，使官学私学得到了空前发展，为后来历代封建教育的发展奠定了初步基础。汉平帝元始三年(公元3年)，颁令“郡国日学，县、道、邑日校。校、学置经师一人。乡日庠，聚日序，序、庠置《孝经》师一人。”由此可见，甘肃各郡至少在西汉后期就设置了地方学校。《后汉书?任延传》记载，汉光武帝建武初年，南阳名儒任延为武威太守，他在武威建立学校，“自掾吏子孙皆令诣学受业，除其徭役。章句既通，悉显拔荣?之”。这是甘肃最早有明确文字记载的地方官学。从东汉时期颁布的一些诏令来看，汉代对地方学校从教师设置、教学内容、学校礼仪等方面，都当作一项制度来贯彻执行，并取得了显著成效。
汉代的私学教育也颇为繁荣，特别是东汉时甚至比官学还发达。《后汉书?儒林列传》中“自光武以后，干戈稍戢，专事经学，自是其风世笃焉。其服儒衣，称先生。游庠序，……其者名高义，开门授徒者，编牒不下万人”的描述，就是对当时私学之盛的基本概括。而在甘肃诸郡办学授徒，名噪一时的也不乏其人，其中最为著名的有安定临泾(今镇原县)人李恂、安定朝那(今灵台县)人皇甫规、陇西上邦(今清水县)人姜歧等。两汉官学私学的兴盛，也使甘肃大地人才辈出。西汉时期的名臣名将就有李广(陇西成纪人)、赵充国(陇西上邦人)、傅介子(北地义渠人)、甘延寿(北地郁郅人)等，东汉时期著名的文人儒士就有思想家王符(安定临泾人)、书法家张芝(敦煌酒泉人)、文学家侯瑾(敦煌人)等。
新中国成立后，河西走廊先后出土过大量的汉简，其中不乏字书、经籍、医典等。武威磨嘴子西汉墓曾出土了9篇完整的《仪礼》，共469简，墓主为西汉成帝时人，这是他诵习教授用的手抄本。这里还出土了古代天文仪器――木质仪器盘。武威旱滩坡东汉墓曾出土了医药简牍，是我国最早的一部比较完整的医药著作。这些文物，从一个侧面反映了两汉时期甘肃的文化教育还是比较发达的。