方程最早见于我国古代算书《九章算术》。《九章算术》是在我国东汉初年编订的一部现有传本的、最古老的中国数学经典着作。书中收集百了246个应用问题和其他问题的解法，分为九章，“方程”是其中的一章。在这一章里的所谓“方程”，是指一次方程组。
古代是将它用算筹布置起来解的，各行由上而下列出的算筹表示x，y，z的系数与常数项。我国度古代数学家刘徽注释《九章算术》说，“程，课程也。二物者二程，三物者三程，皆如物数程之，并列为行，故谓之方程。”这里所谓“如物数程之”，是指有几个未知数就必须列出几个等式。一次方程组各未知数的系数用算筹表示时好比方阵内，所以叫做方程。
