Khi người Nhật đã trả lại đất bắc bộ, chính phủ cử ông Phan Kế Toại, đã làm chức tổng đốc và có tiếng là người thanh liêm hơn cả, ra xung chức bắc bộ khâm sai. Nhật trả đất bắc bộ, nhưng vẫn giữ những thành thị Hà Nội, Hải Phòng, Đà Nẵng và xứ nam bộ. Nhật lại giữ hết những cơ quan trọng yếu như sở công an, sở tuyên truyền và các công sở thuộc phủ toàn quyền cũ của Pháp, như nha học chính, nha tư pháp, sở bưu điện, sở công chánh, sở tài chính v...v...
Trong khi chúng tôi phải lo làm mọi việc và còn phải điều đình với người Nhật để thu lại những lãnh thổ nước nhà, thì ở Huế có người phát truyền đơn nói thế nọ thế kia, nhất là nói ông Ngô Đình Diệm không về là vì chưa lấy lại đất nam bộ. Lại có một người Nhật nói ra nói vào rằng: trong nội các chỉ có những người chuyên môn chứ không có người chính trị. Cái ý của bọn ấy là muốn đưa những người thân với họ vào nội các. Song chúng tôi nghĩ: người làm việc nước lúc ấy cần phải là những người ngay chính và có học thức, chứ không cần những người xảo trá, xưng danh trục lợi, gió chiều nào theo chiều nấy. Vì vậy thành ra có nhiều chuyện mè nheo rất khó chịu.
Tôi phần bị nhọc mệt, phần thấy nhiều sự trắc trở đã mấy lần muốn từ chức về nghỉ. Song nghĩ nước mình mới lần đầu lập một chính phủ có quyền tự trị, công việc chưa xong gì cả mà bỏ về, thì đối với nghĩa vụ không trọn vẹn. Vả trước khi lui bước, tôi cần biết rõ sự thực. Thà ra Hà Nội trực tiếp với viên tổng tư lệnh Nhật, kiêm chức toàn quyền cũ nước Pháp, xem tình ý thế nào rồi sẽ liệu. Trước tôi đã nhờ ông Trần Văn Chương, bô trưởng bộ ngoại giao, ra Hà Nội điều đình mọi việc, nhưng không xong. Tôi định phen này ra, nếu công việc thực hiện được thì lấy ngay ba thành thị: Hà Nội, Hải Phòng, Đà Nẵng và đất nam bộ, thế là làm tròn nhiệm vụ thu được toàn lãnh thổ nước VN. Nhược bằng không xong thì tôi về xin từ chức cũng không sao. Tôi nghĩ thế nên trước khi đi đã nhờ người thuê cho cái nhà ở làng Lại Thế gần Huế, để có thôi việc tôi ra nghỉ đây ít lâu trước khi về Hà Nội.
Trong khi tôi dự định ra Hà Nội thì ở ngoài Hà Nội xảy ra việc người Nhật bắt bọn thanh niên VN theo đảng Việt Minh chống Nhật.
Tôi cần phải ra ngay để hiểu rõ tình thế.  Đảng Việt Minh là gì và do đâu mà ra? Trước thì ít người biết rõ căn nguyên, sau đi đây đó xét hỏi kỹ càng mới biết rõ nguồn gốc. Thoạt đầu vào khoảng năm 1938 ở bắc việt đã nghe nói có đảng Việt Minh hành động ở mạn thượng du, nhưng lúc ấy ai cũng tưởng là một đảng cách mệnh mới nào đó nên không để ý đến mấy.
Nguyên từ khoảng 1925-1926 trở đi, ở VN đã có người nói đến chủ nghĩa cộng sản. Lúc ấy có một thiếu niên tên Nguyễn Tất Thành, sinh năm 1894, con nhà thi lễ, quê làng Kim Liên huyện Nam Đàn thuộc tỉnh Nghệ An. Trước học trường trung học ở Huế rồi bỏ sang Pháp theo Xã Hội Đảng, lấy tên là Nguyễn Ái Quốc. Sau lại sang Nga vào đảng Cộng Sản, đến khoảng 1929-1930 ông trở về gây phong trào cộng sản cách mệnh ở vùng Nghệ Tĩnh. Lúc ấy chính phủ bảo hô. Pháp dùng võ lực đàn áp một cách tàn nhẫn. Việc ấy thất bại, đảng cộng sản tuy phải im hơi lặng tiếng, nhưng vẫn ngấm ngầm tuyên truyền trong đám dân gian và thợ thuyền, theo đúng phương pháp đã định ở Mạc Tư Khoa bên Nga.
Trong khoảng thời gian ấy, Nguyễn Ái Quốc lánh sang Hương Cảng, bị người Anh bắt. Người Pháp muốn đòi người Anh giao trả cho chính phu? Đông Dương, song theo tục lê. Anh, người Anh không giao trả những người can phạm vào việc chính trị, vì vậy ông phải giam ít lâu rồi được tha và bị đuổi ra khỏi Hương Cảng.
Ông Nguyễn Ái Quốc sang Quảng Châu và phao tin rằng ông đã chết trong ngục khi bị bắt ở Hương Cảng, và lại đổi tên là Lý Thụy rồi chen lẫn với những người cách mệnh VN ở bên Tàu. Vào khoảng 1936-1937 ông lập ra đảng cộng sản gọi là VN Độc Lập Đồng Minh, gọi tắt là Việt Minh, và cho người về hoạt động ở miền thượng du bắc việt. Vì vậy thuở ấy người ta mới biết là có đảng Việt Minh.
Đến cuối năm 1940 nhân khi quân Nhật Bản ở Quảng Tây đánh vào Lạng Sơn, những người như bọn ông Trần Trung Lập trong đảng VN Quang Phục Hội của ông Phan Bội Châu lập ra khi trước, theo quân Nhật về đánh quân Pháp hồi tháng chín năm 1940. Sau vì người Nhật ký hiệp ước với người Pháp rồi trả lại thành Lạng Sơn cho người Pháp, ông Trần Trung Lập bị quân Pháp bắt được đem
xử tử. Toán quân phục quốc vỡ tan, có một số độ 700 người, trong số ấy có độ 40 nữ đảng viên theo ông Hoàng Lương chạy sang Tàu.  Vậy các đảng của người VN ở bên Tàu vào khoảng năm 1942 trở đi, có VN Phục Quốc Đồng Minh Hội, VN Quốc Dân Đảng và những người cách mệnh không có đảng phái v...v...
Thuở ấy, chính phu? Trung Hoa thấy những đảng viên VN Độc Lập Đồng Minh Hội hành động theo chủ nghĩa cộng sản, bèn xuống lệnh giải tán đảng ấy và bắt Lý Thụy giam trong hang đá ở Liễu Châu, ủy cho tướng Trương Phát Khuê chủ trương việc tập hợp các đảng phái cách mệnh VN lập thành một đảng để hành động cho có hệ thống. Trương Phát Khuê giao cho ông Hoàng Lương trù liệu việc ấy.
Ngày mùng 1 tháng mười năm 1942, ông Hoàng Lương chiêu tập ở Liễu Châu những người trong các đảng phái hay không có đảng phái để lập ra một đảng duy nhất gọi là VN Cách Mệnh Đồng Minh Hội, gồm đại biểu các đảng sau đây:
1) VN Phục Quốc Đồng Minh Hội, có Hoàng Lương và Hồ Học Lãm làm đại biểu.
2) VN Quốc Dân Đảng, có Vũ Hồng Khanh và Nghiêm Kế Tổ làm đại biểu.
3) Vô đảng phái, có Trương Bội Công, Nguyễn Hải Thần, Trần Báo, Trương Trung Phụng làm đại biểu.
Các đại biểu trước hết lập thành một ủy ban trừ bị do Nguyễn Hải Thần chủ tọa để xếp đặt mọi việc.
Lúc ấy Lý Thụy còn phải giam, ủy ban trừ bị đứng ra bảo đảm với chính phu? Trung Hoa, xin lĩnh ra để cùng làm việc. Theo lời một người VN có mặt trong hội nghị ấy đã nói: Lý Thụy có kết nghĩa với một người cộng sản Tàu tên là Hầu Chí Minh, làm chức thiếu tướng trong quân đội thuộc quyền chỉ huy của Trương Phát Khuê. Khi ở nhà ngục ra, ông muốn tỏ tình thân ái với bạn mới lấy tên là Hồ Chí Minh. Khi ông được tha ra, liền tuyên thệ xin hết lòng trung thành với VN Cách Mệnh Đồng Minh Hội mà làm việc.
VN Cách Mệnh Đồng Minh Hội đã thành lập, đổi ủy ban trừ bị ra làm ủy ban chấp hành. Khi ấy ông Hoàng Lương vì có sự gì xích mích với chính phu? Trung Hoa nên bị bắt đem về Trùng Khánh. Bởi vậy ủy ban chấp hành chỉ có những người này:

Trương Bội Công, chủ tọa.
Trần Đình Xuyên.
Nguyễn Hải Thần.
Vũ Hồng Khanh, ủy viên.
Bồ Xuân Luật.
Trương Trung Phụng.
Nông Kính Dụ

Hồ Chí Minh được cử làm hậu bổ ủy viên và Trần Báo làm tổng cán sự.
VN Cách Mệnh Đồng Minh Hội vừa thành lập chưa được bao lâu thì đã có sự bất hòa trong nhóm ủy viên, nên chủ tọa là Trương Bội Công từ chức và bỏ về Vân Nam rồi mất ở đấy. Hội cử ông Nguyễn Hải Thần lên làm chủ tọa.
Trong những người cách mệnh VN hoạt động bên Tàu thuở ấy, ta có thể biết những người này:
Trương Bội Công, người Thanh Hóa, có nghị lực và cương quyết, trước học trường võ bị và làm đến chức thiếu tướng trong quân đội Tàu.
Nguyễn Hải Thần, chính tên là Vũ Hải Thu, người tỉnh Hà Đông. Ông là người lão thực, trước đã thi đỗ tú tài, thường gọi ông Tú Đại Từ. Khi ông Phan Bội Châu xướng lên việc xuất dương vào quãng năm 1905-1906, ông ra ngoài vào học trường võ bi. Hoàng Phố gần Quảng Châu. Ông quen biết Tôn Dật Tiên, Tưởng Giới Thạch, Ngô Thiết Thành, Trần Lập Phu v...v... Vì có sự quen biết ấy, nên khi ông Tưởng Giới Thạch làm giám đốc trường Hoàng Phố, có đưa ông vào làm một chức giáo sư ở trường, dạy về chính trị, mỗi tháng được sáu bảy chục tiền Tàu, lúc ấy cũng đủ ăn tiêu. Một năm ở Nam Định có cuộc xướng danh khoa thi hương, toàn quyền Sarraut về chứng cuộc ấy, ông về ném quả tạc đạn định giết viên toàn quyền. Nhưng tạc đạn không nổ, ông chạy thoát, đổi tên là Nguyễn Cẩm Giang. Một lần nữa  sau cuộc chiến tranh 1914-1918 ông đem một toán quân thổ phỉ về đánh châu Đà Long, ta thường gọi là châu Đà Lùng thuộc Cao Bằng. Việc thất bại ông sang ở luôn bên vùng nam nước Tàu và đổi tên là Nguyễn Hải Thần. Sự nghiệp cách mệnh của ông chứng rõ trong bài thơ sau này, ông gửi cho tôi khi tôi ở Quảng Châu vào khoảng cuối năm 1946:  Bốn chục năm nay vị nước nòi Nước nòi chưa mạnh, quyết chưa thôi Đà Long phất trận gươm ba tấc Nam Định tương bom lửa một mồi Cha đứa cắn gà toan cõng rắn Mẹ thằng giày mã dám đem voi Nào ai mãnh sĩ mưu thần đó Góp sức đun tay để cứu đời  Vũ Hồng Khanh, tức là Giáo Giản, trước làm giáo học ở một trường tiểu học bắc việt, sau theo Nguyễn Thái Học vào Quốc Dân Đảng khởi nghĩa ở Yên Bái, rồi chạy sang Tàu ở bên Vân Nam.
Nguyễn Tường Tam, có bằng khoa học cử nhân, trước đứng chủ trương báo Phong Hóa rồi Ngày Nay ở Hà Nội và lập ra đảng Đại Việt Dân Chính. Đến khi quân Nhật vào đóng ở Đông Dương, vì sự hành động của bọn ông, người Pháp toan bắt, ông nhờ quân đội Nhật đưa sang ở Quảng Châu rồi sang Quảng Tây, nhập vào VN Cách Mệnh Đồng Minh Hội.
Những người ấy tuy nói là đảng nọ phái kia, nhưng kỳ thực không có sự tổ chức gì ra trò. Bọn ông Hồ Chí  Minh biết như thế nên mới lợi dụng danh hiệu VN Cách Mệnh Đồng Minh Hội để che đậy công việc làm.  Đảng Việt Minh cộng sản có tổ chức rất chu mật và theo đúng phương pháp khoa học. Trong khi ông Hồ Chí Minh ở bên Tàu để chờ đợi thời cơ, ở trong nước đâu đâu cũng có cán bộ, ngấm ngầm hành động và tuyên truyền rất khôn khéo. Họ lợi dụng lòng ái quốc của dân chúng mà tuyên truyền Việt Minh không phải là đảng cộng sản, chỉ là một mặt trận gồm tất cả các đảng phái lấy lại độc lập cho nước nhà, vậy nên từ bắc chí nam đâu cũng có người theo.
Cách hành động của họ thì bất cứ công sở hay tư sở, hễ đâu có một tổ chức làm việc là có người của họ chen lấn vào, hoặc để tuyên truyền, hoặc để hoạt động theo chủ nghĩa họ. Đảng viên cộng sản lại biết giữ kỷ luật rất nghiêm và rất chịu khó làm việc. Xem như Hội Truyền Bá Quốc Ngữ khi mới thành lập ở Hà Nội là có ngay những người cộng sản vào hội rồi, và những người nhận việc đi dạy học rất chăm, không quản công lao gì cả. Một tổ chức có kỷ luật và chịu khó làm việc như thế, làm gì mà không mạnh.
Sự tổ chức của đảng cộng sản đã mạnh và nhất là từ khi quân Nhật Bản vào đóng ở Đông Dương, rồi xem hình như người Pháp lại ngấm ngầm dung túng họ, có ý để họ quấy nhiễu quân Nhật may ra có xảy biến đổi gì chăng. Cho nên người ta thấy lúc ấy chính phủ bảo hộ vẫn bắt bớ những người làm thuyền thợ theo cộng sản, song người cộng sản nào có chút thế lực thì bắt rồi lại thả ra, hoặc dùng để làm việc với mình. Cái tình thế đảng cộng sản ở trong nước trước khi có cuộc đảo chính của quân Nhật là thế.
Trong khi ấy ông Hồ Chí Minh ở bên Tàu vẫn cộng tác với VN Cách Mệnh Đồng Minh Hội, không có tranh dành địa vị như những người khác, cứ làm việc của một đảng viên có kỷ luật. Cái khôn khéo của ông lúc ấy không để lộ cho ai biết ông là lãnh tụ đảng cộng sản Đông Dương.
VN Cách Mệnh Đồng Minh Hội ở Liễu Châu được ít lâu rồi vì sự tấn công của quân Nhật, hội phải dời về Bách Sắc và đặt thêm hai chi bộ; một chi bộ ở Côn Minh do Vũ Hồng Khanh quản lý, và một chi bộ ở tỉnh Quảng Tây do Trương Trung Phụng quản lý.  Về khoảng cuối năm 1944, VN Cách Mệnh Đồng Minh Hội lại dời về tỉnh Quảng Tây và cho ông Hồ Chí Minh về Bách Sắc để trù liệu kế hoạch nhập Việt. Sau đó hội cho ông Hồ Chí Minh cùng 22 đảng viên phần nhiều là người trong đảng Phục Quốc về nước để khởi sự hành động. Trong số 22 người ấy có một nữ đảng viên tên là Đỗ Thị Lạc là người sau có đứa con gái với Hồ Chí Minh. Về sau thấy người ta nói khi về đến địa hạt Bắc Giang, có ba đảng viên trong 22 người ấy bị giết vì không chịu theo cộng sản.
Lúc đầu bọn ông Hồ Chí Minh chia ra làm hai đoàn. Một đoàn có ông Đặng Văn Ý, cựu trung úy trong quân đội Pháp trước về Lạng Sơn đánh lấy đồn Bảo Lạc, thuộc Hà Giang. Một đoàn đi với Hồ Chí Minh có Vũ Nam Long, sau thường gọi là tướng Nam Long, đánh lấy đồn Đồng Mu ở Sóc Giang thuộc Cao Bằng. Việc ấy xảy ra vào khoảng tháng hai năm 1945.
Từ đó bọn ông Hồ Chí Minh bỏ danh hiệu VN Cách Mệnh Đồng Minh Hội mà dùng danh hiệu cũ là VN Độc Lập Đồng Minh, tức Việt Minh, và dùng cờ đỏ sao vàng của cộng sản. Rồi đến quảng đầu tháng ba năm 1945 thì về đến vùng Văn Lãng, thuộc Thái Nguyên giáp Tuyên Quang và lập trụ sở bí mật ở đó. Từ bấy giờ trở đi, đảng Việt Minh hành động rất mạnh, nhưng cái tên Hồ Chí Minh vẫn giữ rất kín cho đến gần cuối tháng tám, sau khi cướp được chính quyền ở bắc bộ, người ta mới nghe nói.
Các chi bộ cộng sản ở trung và Nam Bộđã sẵn sàng đâu đấy cả rồi, song cứ phải giữ bí mật, đợi khi có mệnh lệnh mới được ra mặt hành động. bắc bộ, một mặt họ sai những người táo tợn đi đánh phá các nơi, hễ đâu có ai ra mặt chống họ, họ bắt đi hay giết chết, làm cho dân chúng khiếp sợ. Một mặt họ cho người đi diễn thuyết và tuyên truyền rằng đảng Việt Minh đã có các nước Đồng Minh là Tàu, Nga, Mỹ ủng hộ và giúp cho binh khí để đánh bọn độc tài Pháp và Nhật. Họ lại nói rằng quân Việt Minh đã đánh lấy được mấy tỉnh ở mạn thượng du bắc bộ rồi.
Vào khoảng tháng 5 năm 1945, người Nhật thấy Việt Minh có thế mạnh, tưởng là một đảng theo chủ nghĩa quốc gia, bèn cho người đi tìm cách điều đình. Đến ngày mùng 9 tháng năm, hai người Nhật và một người VN làm thông ngôn lên đến Ký Phú gần huyện Đại Từ thuộc Thái Nguyên, đều bị quân Việt Minh giết cả. Việt Minh lại sai người về ám sát mấy người sĩ quan Nhật ở giữa Hà Nội và cho người đi đánh phủ nọ huyện kia. Các quan phủ huyện, người thì bị bắt, người thì chạy trốn, dân tình nôn nao cả lên. Những thanh niên VN lúc ấy phần nhiều cũng theo Việt Minh và đi tuyên truyền rầm rĩ. Người Nhật thấy vậy bèn ra lệnh bắt các thanh niên và những người họ ngờ theo Việt Minh đem giam và tra tấn rất cực khổ.  Khi tôi được tin người Nhật bắt các thanh niên ở Hà Nội, lập tức tôi thu xếp ra bắc. Hôm sau tôi nói chuyện với ông Yokohama, tối cao cố vấn Nhật, rằng hai ngày nữa tôi ra Hà Nội. Ông ấy bảo tôi: "Cụ đang nhọc mệt ra Hà Nội làm gì, mọi việc dần dần rồi đâu ra đấy cả". Tôi nói thật ý định của tôi, ông Yokohama không nói gì. Đến sáng hôm sau ông nói rằng: "Nếu cụ đi Hà Nội, thì tôi cùng đi với cụ". Tôi bảo được thế càng hay.
Tôi ra Hà Nội, cùng đi có các ông Hoàng Xuân Hãn bộ trưởng bộ giáo dục, ông Vũ Văn Hiền bộ trưởng bộ tài chính, ông Phan Anh bộ trưởng bô. Y Tế, đề phòng khi điều đình ổn thỏa, sẽ lấy lại các công sở.
Đi lúc bấy giờ rất khó khăn, ngày đêm tàu bay Mỹ sang đánh phá, phải đêm đi ngày nghỉ. Ra đến Hà Nội được mấy ngày ông Vũ Ngọc Anh đi về Thái Bình thăm nhà và xem những bệnh viện vùng ấy, rồi đến khi trở về gần Bần Yên Nhân, bị tàu bay Mỹ bắn chết.  Thế là trong nội các mất một ông bộ trưởng rất tận tâm về việc nước, và chúng tôi mất một người bạn hòa nhã và trung thành.
Tôi đến Hà Nội hôm trước, hôm sau đến gặp ông Tsuchi-Hashi Yuitsu, tổng tư lệnh nhật, quyền chức toàn quyền của Pháp ở Đông Dương, rồi bắt đầu nói chuyện. Trong cuộc nói chuyện chỉ có viên tổng tư lệnh, viên cố vấn và tôi. Viên tối cao cố vấn phiên dịch tiếng Việt ra tiếng Pháp. Nói câu nào, trước khi phiên dịch ra tiếng Pháp hay tiếng Nhật, viên ấy biên lấy những câu hỏi và những câu đáp lại.
Trước hết tôi nói: "Quân đội Nhật đã đánh quân đội Pháp và công nhiên hứa hẹn trả quyền tự chủ cho nước VN. Bởi vậy tôi không quản tuổi già và sự khó khăn của hoàn cảnh mà đứng ra lập chính phủ. Tôi làm việc một lòng giúp nước tôi, cũng như các ông lo việc giúp nước Nhật, thế mà thấy nhiều người nói nọ nói kia rất khó chịu. Nếu các ông cho tôi là người làm việc cho nước Nhật, việc ấy không phải là phận sự của tôi, tôi sẵn lòng xin lui".
Tổng tư lệnh Nhật nói:
"Bao giờ người Nhật cũng giữ lời hứa hẹn nên những việc nội trị trong nước VN là không can thiệp đến. Còn những việc chưa giải quyết được là vì cần phải có thì giờ để thu xếp cho ổn thỏa. Cụ đừng nghe người Nhật hay người VN nói nhảm không có căn cứ gì. Vả tôi phụng mệnh Thiên Hoàng sang đây, việc gì cũng trách cứ ở tôi, cụ đừng ngại."  "Ngài đã nói thế, phận sự của chính phủ chúng tôi là phải thu lại mấy thành thị Hà Nội, Hải Phòng, Đà Nẵng và toàn hạt đất Nam Bộcho nước VN. Nếu việc ấy không xong, thì chúng tôi đối với quốc dân không có nghĩa lý gì cả."