1943年夏，日本军方高层已经意识到日本对华侵略战争必败，于是开始考虑战争失败后的应变策略，决定选择一批优秀特工作为潜伏人员长期定居中国，以便日后“东山再起”时发挥作用。
鉴于河下谷清上述的这些活动，并且他正好娶了中国老婆，于是决定对其进行进一步训练，使其成为一名适合潜伏的高级特工。1943年8月中旬，河下谷清突然在其活动数年的济南失踪，返回日本，进入位于东京中野区的日本陆军宪兵学校特工训练班。
同期受训的特务学员一共有137名，接受了谍报、谋略、侦察、柔道、拳术、剑术、国际法、司法学、刑侦学、气象学、摄影技术、电器修理、机械修理等训练。
1944年初夏，河下谷清从日本陆军宪兵学校特工训练班毕业，他深知此次再赴中国，就不可能返回日本了，于是就回了趟岛根县老家，向父母作永久告别。
之后，河下谷清从东京飞赴上海，让他那以舞女为业的中国妻子出面替其向日伪上海特别市第二警察局购买了一张化名“尤志远”的身份证，正式取得了中国国籍，然后搬迁住址，以中国居民的身份通过正常渠道向日伪上海警方报了户口。
河下谷清将上海事宜安排妥当后，遵照命令前往北平，向日本华北派遣军宪兵司令部警务部情报课报到。华北派遣军将河下谷清等特工作为宝贝一般隐藏起来，即使在形势紧急人手特别短缺的关头，也决不让他们出来活动。
这样，河下谷清等特工一直隐藏到1945年8月中旬日本投降后，方才接受指令分别前往预定的地区潜伏。当时，日军高层对于形势的估计竟然是那么乐观，认为三年后他们就能重新以占领者的身份再次踏上中国的土地，所以，给河下谷清下达的指令是“潜伏三年，等候反攻”。
河下谷清于1945年9月3日离开北平，前往上海，开始了他的潜伏特工生涯。河下谷清准备潜伏三年，所以一切都是按照这个时间段来进行的，他手头有着数额不菲的活动经费，可还是靠自己挣钱来维持全家人的生活。
他的挣钱方式是炒股票、倒腾金银，为了增加在市场上的竞争能力，他甚至掏钱进了英文补习学校补习英语。三年很快就过去了，可形势的发展令河下谷清目瞪口呆：不但日本重新侵略中国没有指望，连国民党的统治也眼看要被中国共产党推翻了！
河下谷清于是意识到自己的使命得无限期延长了，凭着他以前对中共的了解，他知道如若在中共统治下靠这三年所进行的歪门邪道是混不长的，于是决定做一个“老老实实的劳动者”，遂利用其在特工训练班学得的技能，开了一家专门修理电器的铺子，如此一直维持到现在。
按照河下谷清原先的想法，他以为自己做得天衣无缝，长期潜伏料想不成问题。哪知这时警方已经盯上他了。他最初被正好来上海出差的徐永卿在虹口区三角地菜场门口发现，纯属偶然：他并不住在三角地菜场，那里是他岳母的家，那天他是陪同妻子去给岳父祝寿的，因为闹得晚了，就住了下来，次日便去菜场买菜。