在《台北人》中，城市空间的对立不仅作为一种叙述策略，而且作为一种深层结构模式凝结着白先勇的故园离愁。
首先，是城市形态空间的广大与狭小的对立。尽管台湾是中国的领土，尽管台湾人也是炎黄的子孙，但无可置疑，当几百万大陆人漂泊至台湾时，从一开始，他们就被土生土长的台湾人视为外来的闯入者。因而，《台北人》中的吴钦磊等漂泊者由祖国大陆迁往台湾时，一开始就充满着失落和无奈。狭小、封闭的生存空间，陌生、有限的孤岛环境，对这些习惯于广大、辽阔的大陆环境的漂泊者的刺激是致命的，他们的苦恼、不满、抑郁，常常直接源于他们对这种空间的无与伦比的敏感。与上海、南京等“到处的繁华”的街道相比，台北的“巷子里灰蒙蒙的一片，一个人影也没有，四周沉静”（《冬夜》）。与上海、南京等地“华美”“气派”的酒店、餐厅相比，台北的“饭里有砂子，菜里又有苍蝇”的餐厅是简陋、寒酸的（《花桥荣记》）。与上海、南京等地宽敞、大气的剧院和舞厅相比，台北的剧院和舞厅是狭窄、土气的，以至于在金兆丽看来，上海“百乐门里那间厕所”也要比台北“夜巴黎的舞池还宽敞些呢”（《金大班的最后一夜》）。城市外在空间结构的狭小、逼仄，直接影响了生活在其中的吴钦磊们对它的认同感。于是，向过去广大的城市外部空间的回望，就成为《台北人》中频繁使用的结构模式与习惯姿态。借助于这种回望，《台北人》中的主人公们往往可以暂时超越令人窒息的狭小、逼仄的台北现实空间，而重回令人愉快的梦幻中的祖国大陆空间。对广大而又开阔的生存空间的渴求，是人的本性。如果说内部空间可以满足人追求归属、安全的需要，那么，外部空间就可以满足人追求自由的需要。吴钦磊、朴公、钱夫人等之所以对祖国大陆城市空间念念不忘，就在于在这种空间中，他们的生命意志获得过最大的张扬，他们自身的本质力量获得过最充分的肯定。而与之相比，自从进入到台湾这个狭小的空间之后，他们大多数人都只能过上一种蜗居生活，曾经叱咤风云的刘行奇出了家（《国葬》），曾经名动一时的钱人成为深居简出的落伍者（《游园惊梦》）。久而久之，他们便都在这种狭小的封闭环境中产生了一种幽闭恐惧症，生命活力日趋减弱，生命意志也日趋消沉。他们在焦虑和痛苦中，不得不选择精神上的逃离，因为只有在对现实空间的逃离中，《台北人》中的漂泊者才能在想象中扩大自己的生存空间，实现自己对更为博大的祖国大陆空间的亲近。
其次，是城市经济的富裕与贫穷的对立。在《台北人》中，对祖国大陆空间的认同，既通过空间形态的对比，也常常通过空间的经济化性质的对比得以体现。20世纪三四十年代的上海、南京等大陆城市，新兴的工商企业获得了较快的发展，经济的发展为钱夫人、李长官、尹雪艳等的生活享乐提供了诸多方便。而20世纪五六十年代的台湾经济，尚未脱离农业经济的樊篱，贫穷造成了主人公们生活的相对窘困。