广东新会人，祖父和父亲都是封建文人，15岁时，受业于阮元在广州创办的学海堂，17岁考中举人。1890年，他到北京参加会试，开始看到《瀛环志略》和江南制造总局翻译的书籍，初步接触西方资本主义的文化。1891年，他就学于康有为，接受维新思想的影响。
1895年，他在北京协助康有为发起“公车上书”，组织强学会。1896年，他在上海主编《时务报》，发表《变法通议》，编辑《西政丛书》。第二年，他到湖南，担任长沙时务学堂总教习。在他和谭嗣同的努力下，湖南的变法运动迅速开展。1898年入京，以六品衔办京师大学堂、译书局。变法失败后，他逃往日本。