提起上都，其实更多想起的是元上都，位于今内蒙古自治区锡林郭勒盟正蓝旗境内，这在历史上还是非常有名的，而至于洛阳，在历史上更加出名的别称是东都。
隋唐两个朝代都曾经在长安和洛阳两个地方定都，不过在不同的时期一个为主一个为辅而已，具体哪个为主就要看皇帝在哪里了。
比如隋朝的时候是隋炀帝迁都洛阳的，洛阳为主，长安为辅，隋文帝时候则相反，而到了唐朝也是如此，唐朝大部分时间是在长安的，但在武周时期迁都洛阳，因为洛阳在长安以东，因此经常有东都洛阳或者东京洛阳的称呼，而长安则被成为西京，在武则天在位时期，洛阳被称之为神都。
洛阳被称为上都的时候其实很少，正如题主所说唐肃宗之前被称之为上都，唐朝洛阳被称为“上都”，都是礼制超过长安，其实记载也挺少，除了题主所说诗，其他地方的记载也比较少。
《河洛上都龙门山之阳大卢舍那像龛记》是研究龙门石窟奉先寺造像的唯一文字史料。
《像龛记》镌刻于龙门大卢舍那佛座北侧，高107厘米，宽65厘米，四周绕以半破之莲花纹。
很多史籍都有收录此文，全篇出题目外，都没提到上都洛阳。
《全唐文》中的《宽宥天下囚徒制》： 二十年二月壬午制曰：行庆施惠，所以奉天时。
缓刑恤狱，所以爱人命。
。
。
及与百姓怨雠者，并不须令却上。
其上都委中书门下疏理，京城委留守，天下诸州长官当日处理，其责保停务之类并宜准此。
这说明当时的皇帝在洛阳，而京城则是长安，一定程度上说唐朝实行的是两京制，虽然并没有下诏，但实际如此，而洛阳的规制超过长安的死后，洛阳被称为上都，但除武则天外并没有定洛阳为京，所以称呼洛阳大多数时候都以“都”称呼。
安史之乱时，安禄山曾经以洛阳为都，安史之乱平定之后，唐朝皇帝有避嫌之心，洛阳的地位逐渐衰落。
从唐肃宗开始，洛阳就不再被称之为上都了
无论怎么称呼，大唐的国都始终是京师长安，洛阳只是他四个陪都中的一个陪都。
既就是武媚娘篡夺大唐皇位的十来年，虽称大唐陪都洛阳为武周“神都”，但也不敢太造次，依然尊长安为京师，她死后不葬洛阳而葬在长安就是力证。
