广州市第二中学创建于1930年8月，现校址所在地曾是广州著名的书院学海堂（清道光四年，两广总督阮元创办）、菊坡精舍（清同治六年建校，首任学长是著名学者陈澧）、应元书院（同治八年，广东布政使王凯泰创办）的所在地，书香浓郁，闻名遐迩。
广州市二中原选址于西关蓬莱路，首任校长徐甘棠。
抗日战争胜利后，因蓬莱路校址已设为广州市一中，1947年初，学校在原市一中校址复办。
应元路21号校区现为学校初中部，她北倚风光秀丽的越秀山，南临雄伟壮丽的中山纪念堂，毗邻省、市政府。
早在1956年，学校就被广州市人民政府评定为广州市重点中学;1994年被评为广东省首批省一级学校。
2005年9月启用的科学城校区，是学校的高中部和初中苏元校区。
她地处萝岗区科学城内的水西路上，毗邻新兴的萝岗行政中心区，倚苏元山（相传唐宋八大家之一的苏东坡曾在此结庐而读，因得名）而建。
校区内有天然山水汇聚成湖，是一所以"山水学府，生态校园"为理念构建而成的现代化一流学校。
学校占地面积300亩，其建筑布局合理，气势恢弘，设计规模为60个教学班，3000名学生，为一时之最。
2007年，学校在广东省普通高中教学水平评估中达到优秀学校标准，并顺利通过广东省国家级示范性普通高中验收。
在新的历史条件下，学校以邓小平同志"三个面向"的重要思想为指导，用科学发展观统领学校工作全局，全面实施素质教育，确立了把学校办成在省内乃至国内有高知名度的一流学校的奋斗目标。
学校以培养现代化人才为目标，着眼于人的创新精神、实践能力、健全人格的培养与塑造，教育质量稳定，办学成果显著，形成了具有鲜明特色的"元元传承，厚德格物"的办学理念，形成了"合理负担高效益，因材施教高质量"的办学特色。
学校中考与高考成绩长期处于广州地区的前列，两个毕业年级的工作一直荣获广州市一等奖。
英语、语文、历史等学科都是公认的品牌学科。
从上世纪80年代起，几乎每年都有总分或单科状元涌现，社会誉之"历史名校，状元摇篮"。
