廣州在漢代時稱為番禺，是中國著名的對外港口，為了方便海外貿易的進行，漢朝政府特設「譯長」辦理外交事務。當時出海貿易的商人常常攜帶中國的黃金、絲織品等物品，到南海各國交易明珠、琉璃、以及奇石異物。南海各國也多到此地貿易或進貢。東漢桓帝延熹九年(西元166年)，大秦王安敦(Marcus Aurelius Antoninus，即著名的羅馬皇帝奧理略)遣使經海道到日南(越南順化)，再輾轉來到當時的首都洛陽進貢物品。五代十國時期，統治兩廣的南漢為求擴張實力和其他各國相互抗衡，特別重視海外貿易的發展，宋太祖滅南漢之後(西元971年)，隨即在廣州設置市舶司，並以大臣潘美與尹崇珂共同擔任廣州知州兼市舶使。廣州會成為宋代第一個設置的市舶司，有歷史淵源、腹地廣大、居海路要衝等因素。宋神宗熙寧七年(西元1074年)曾有意將廣州市舶司撤廢，併入市舶務，但是最後沒有實行。為何宋朝要廢置廣州市舶司？可能和市舶司的虧損以及市舶官員的擅自奪取蕃商貨物有關。熙寧七年廣州市舶司的歲入的虧損達到二十萬緡，同時又傳出市舶官員呂邈擅自拘留蕃商，並奪取貨物的消息，政府遂有廢置廣州市舶司的舉動。兩宋時期，廣州對外貿易十分發達，但元代，在廣州設置市舶司的時間卻較泉州為晚。其原因有泉州海外貿易地位已超越廣州、廣州經過多年戰亂而衰落，廣州有瘴癘之氣，蒙古人無法適應，及元朝政府將發展重心移至泉州等說法。