然而,结束这场战争并不是一件轻而易举的事。无论在日本国内还是在出国作战的部队,都有一批强而有力的主战分子,他们主张血战到底。而且,日本的当权人物和国民都不愿意接受丧失帝国国体的和平。因此,谈判必须秘密地进行,而且一定不要提出“无条件投降”这样的条款。在各主要参战国中,只有苏联在太平洋战争中表面上处于中立状态,所以,日本认为通过莫斯科进行和平试探是适宜的。日本战争最高指导会议希望苏联政府出面进行斡旋,并以让出满洲的特权为条件,要求苏联再次作出中立的许诺。但是,当日本驻莫斯科大使就媾和问题同苏联外交部接触时,发现苏联官员支吾其词,态度暖昧。在德国战败后,几个战胜国于7月召开了波茨坦会议。在这次会议上,苏联部长会议主席斯大林既未向杜鲁门总统也未向丘吉尔首相在波茨坦会谈结束前,克莱门特·艾德礼于7月28日接替丘吉尔担任英国首相。转告有关日本要求进行调停的问题。显然,苏联人在自己参战并分享胜利果实之前,无意帮助日本结束这场战争。
但是,杜鲁门总统已经知道了有关日本进行和谈的试探活动,因为美国情报机关破译了东京的日本外相与日本驻莫斯科大使之间的来往密码电报。7月26日,美、英、中三国政府发表《波茨坦公告》,在《公告》中明确指出,要求日本“无条件投降”只适用于武装部队。这项《公告》还规定,除日本本土四岛及盟国所规定的其它小岛外,日本必须放弃它对海外领土的一切权益,并在根据民意通过自出选举建立起“爱好和平的负责政府”之前,日本将处于被占领的状态。至于天皇的命运和日本的国体则只字未提,因为当时各盟国政府并未就此问题达成协议。《波茨坦公告》发表两天后,斯大林才将日本政府对媾和条款的要求转告美英两国首脑。
《波茨坦公告》的发表,对于日本当局未免有些突然。因为日本政府尚未采取步骤使其国民做好投降的思想准备,还没接到苏联对媾和条款的答复,日本当局的内部对此问题仍未取得一致意见。然而,最主要的障碍是盟军在《公告》中没有明确提出怎样对待天皇的问题。
当苏联等待时机,而日本的决策人物迟迟不能作出决择时,美英两国正在积极制定计划,准备于1945年11月在九州实施登陆,尔后于1946年3月在本州进陆,进攻关东平原。1945年7月16日,世界上第一颗原子弹在新墨西哥州阿拉莫戈多地区试爆成功。这时,原为第5舰队旗舰的“印第安纳波利斯”号重巡浑舰(在冲绳海域遭到重创)已被修好。原子弹试爆成功后不过数小时,这艘重巡洋舰已经载着原子弹从旧金山出发,驶向马里亚纳群岛。在此以前,从冲绳和马里亚纳等地起飞的重型轰炸机,对日本本土已经轰炸500余次,已将其入城市的广大地区夷为废墟。7月10日,第38特混舰队空袭了东京附近的机场。从这天起,第3舰队的航空母舰特混舰队除中断过一次之外,直到战争结束,一直在日本近岸海域势旁若无人的游弋,进行轰炸和炮击,并且未遭到什么损失。但日军却把航空兵力保存起来,准备在盟军进攻本土时使用。7月17日,哈尔西舰队的105艘军舰与编为第37特混舰队的28艘英国军舰会师。这支空前强大的美英联合舰队,先后空袭了东京湾的横须贺港和濑户内海的吴港,击沉或重创了日本舰队的残余舰只。7月30日,第3舰队空袭了本州中部的机场和工厂设施,以此结束了集中轰炸的第一阶段。同日,在提尼安岛卸下原子弹的“印第安纳波利斯”号重巡洋舰,在关岛稍事停留后,开赴莱特湾,在途中被日潜艇伊-58号。击沉在菲律宾海域,近900名官兵与该舰同葬于海底。
日本久久等待苏联出面斡旋媾和,而美国则将日本的沉默视为对《波茨坦公告》的藐视。8月6日,一架B-29重轰炸机从提尼安岛起飞,到达日本上空投下一颗原子弹,转瞬间,广岛市的大部地区化为一片焦上。苏联人感到,如要参战,就必须马上动手。8月8日,苏联外长亲自交给日驻莫斯科大使一份日本当局期待已久的照会。但是这份照会竟是对日宣战书。数小时后,苏联红军就以迅雷不及掩耳之势进入满洲地区。9日,美轰炸机投下第二颗原子弹,又把长崎化为一片焦土,惨不忍睹。同日,第3舰队驶出台风区,出现在日本近海,对本州北部和北海道的机场进行了空袭。10日,苏军攻入朝鲜。
原子弹和苏军参战这两个令人震惊的事件,使日本的决策人物再也不能迟疑不决了,向时也解决了日本当局最感棘手的一个难题。在此以前,日本当局苦于不如怎样才能让国民知道局势的真相。日本国民长期以来被宣传机器的报道所蒙蔽,任何投降的企图都极有可能引起武装部队的叛乱,使国家爆发内战。但是,原子弹的巨大威力及其神妙莫测,苏联红军闪电般的向前推进,以及美国第3舰队的再次来袭,几乎使日本举国上下(一些过激分子除外)一致认识到,继续抵抗是无益的。8月10日午夜刚过,裕仁天皇在御前会议上怀着深沉的心情站立起来,宣布立即接受《波茨坦公告》。日本内阁决定,在保留日本国体的条件下,接受公告。上述决定通过瑞士和瑞典转送给华盛顿、伦敦、莫斯科和重庆。在接到日本政府的上述决定之后,英国国务卿詹姆斯·贝尔纳斯代表各盟国政府,起草了一份复函,除对日本政府提出的条件表示同意外,又发表两点声明。第一,在占领期间天皇必须服从驻日盟国总司令的命令;第二,天皇的地位最终将根据日本国民自由表明的意志来决定。
就在盟国考虑日本提出的条件、日本研究盟国提出的声明时,第3舰队再次空袭了本州北部地区以及千岛群岛,尔后南下,8月13日再次空袭了东京。14日,日本内阁根据天皇的意见,决定接受盟国提出的条款。8月15日,当一个舰载机突击队飞临东京上空,另一个突击队刚刚离开航空母舰时,第3舰队接到“停战”的命令。
9月2日,在东京湾的“密苏里”号战列舰(第3舰队的舰只停泊在其周围)上,日本外相代表天皇、政府和大本营在投降书上签字。陆军五星上将道格拉斯·麦克阿瑟以盟军总司令的身份在受降书上签字。尔后,海军五星上将切斯特·尼米兹代表美利坚合众国签字。而后,英国、中国、苏联、澳大利亚、加拿大、法国、荷兰和新两兰的代表也都一一签字。此后不久,麦克阿瑟将军就把盟军总司令部迁入东京,以领导对日本的占领工作。