1950年，他在苏联因战争伤残，退休了。之后，他兼任过莫斯科语言学院教授，还参加了《毛泽东选集》、《茅盾选集》、《中华人民共和国法令文件》、《中华人民共和国经济建设成就文集》和《华俄大辞典》等书籍的翻译、校阅工作，为促进中苏两国人民之间的文化和思想交流及互相了解，做出了贡献。

他作为一个中国的共产主义战士，始终怀念着祖国、同志和亲人。战后，一有机会，他就申请回国工作。解放初期，少奇同志去苏联时，他请少奇帮助使他回国。他还给毛主席、周总理写信，请求回国。当时，他在一本日记的首页上写了“祖国在望”四个大字，其中还有一首诗：

“仰望祖国如高山，荆棘丛生攀登难。但愿终有造极日，俾我亲朋聚欢颜。”

1953年，中国驻苏大使张闻天同志通知他，党中央同意他回国，苏联政府也批准了。可是，当他就要动身的时候，回国证件却被吊销了。直到1955年，他才实现了回归祖国的宿愿。

嵇直同志象其他一些老同志一样，在党内也遭受过挫折和不幸。早在1928年，嵇直同志已经转为苏共党员。后来，在苏联肃反扩大化期间，他被开除出苏共，不承认他是中共派往苏联工作的人员。幸亏周恩来同志亲笔写去证明信，他才得以免遭厄运，但也只是恢复了工作。

1955年夏，嵇直同志怀着满腔热情回到阔别多年的祖国，受到了党中央的亲切关怀。当时，刘少奇、周恩来、李富春、蔡畅、李立三等同志都为他写了证明材料。党对他的革命的历史作出了结论。他先后担任了公安部和农业机械工业部办公厅副主任、北京图书馆副馆长和内务部民政司副司长，以及政协第五届全国委员会委员。回国后，他刻苦学习，努力工作，取得了显著成绩。他曾翻译一位匈牙利作家写的、宣传国际主义的《伙计》一书，在群众出版社出版。

然而，正当他为祖国兢兢业业工作的时候，又遭到了康生的迫害。康生曾两次写书面材料，提出嵇直同志不宜在公安部门工作。“文化大革命”开始后，嵇直同志立即成了康生迫害的对象。他被捕入狱后，坚持斗争，拒绝承认“莫须有”的罪名。同时，他坚信，林彪、江青一伙是不会长久的。1972年11月15日，当家人去探监时，他口述一首在病中暗自作的诗：

“个人恩怨转眼空，但愿五洲早大同。绿水青山依旧在，夕阳晨曦万年红。”

早在青少年时代，嵇直同志就省吃节用，经常把家中给他的钱用于革命事业。有时，他的鞋穿破了，就用硬纸板垫一下，而把家中给他做的新鞋、新衣服转眼就送给其他同志了。“四人帮”垮台后，国家给他补发了工资，他立即交一万元作为党费，只留下一部分安家使用。

嵇直同志饱经沧桑，深深懂得，对于已经倒下去的同志来说，自己终究是死亡线上的幸存者。他年事越高，就越感觉责任重大。当他已经八十高龄的时候，还在为早年参加上海建党活动、为康生一伙诬陷的俞秀松等几位先烈，秉笔直书，竭力恢复历史的本来面目。[1]