小明买回40本笔记本,单价分别为5元、8元.他领款300元,退回来68元

假设5元笔记本买了x本,8元的买了y本,那么x+y=40,如果找回来68元,那么5x+8y=232（300元,假设找回来68元,相当于实际用了232元）。这两个方程解出来后,x、y不是整数,所以不可能找回68元。如果是找回55元,那么实际使用了245元,也就是5x+8y=245元,和前面的方程组合解出来后,x=25,y=15,也就是5元笔记本买了25本,8元笔记本买了15本,这两个数才是合理的。