光绪六年（公元1880年）正月，曾纪泽被补授大理寺少卿，除任驻英、法大臣以外，还兼任驻俄大臣，赴俄谈判收复伊犁地区问题。曾纪泽赴俄之前，崇厚已在赴俄谈判中擅自签订了《里瓦几亚条约》，丧权辱国，朝野哗然。曾纪泽这次出使，举国瞩目。六月，他行抵俄京，前后谈判达10个月，正式会谈辩论，有记录可稽者51次，反复争辩达数十万言。经他的据理力争，于光绪七年（公元1881年）正月二十六日，终于达成《中俄改订条约》（即《中俄伊犁条约》），与崇厚原订条约比较，虽然伊犁西境霍尔果斯河以西地区，仍被沙俄强行割去，但乌宗岛山及伊犁南境特克斯河一带，均已收回，并取消了俄人可到天津、汉口、西安等地进行经济活动的条款，废除俄人在松花江行船、贸易，侵犯中国内河主权等规定。