想当初日本因为31年侵占东三省而和英美苏交恶，再加上英国发起了《渥太华协定》，这个英联邦国家内部实行最大商业最惠国待遇的政策使得日本的经济贸易难以在英国势力范围内扩展（该协定很大程度上是英联邦国家应对大萧条的冲击而签署的，但却在客观上将整个英联邦市场向日本关闭了）。为了摆脱外交劣势和经济劣势，日本不得不加强了和德意的外交交往。而为了和德国一同遏制苏联，在36年和德国签订了德日反共协定。这时的德日关系算是不错的。而在德日反共协定还有一份密约，密约有三条，第一条是两国中任何一国被苏联进攻后另一国不得做任何有利于苏联的行为且必须就遏制苏联的进攻商讨并采取一切可能的措施，第二条是两国不得在未经过对方允许的情况下和苏联缔约。第三条是规定密约与协定同时生效且有效期5年。

    但是当时日本政府对和德国进一步结盟是存在很深的疑虑的。特别是日本驻柏林大使东乡茂德是坚决发对和德国发展进一步关系继而卷入欧洲的强国之间的冲突的。按照当时日本国内的有识之士的认识，日本有限的贫弱的经济力量，用来维持中国战场和开发满洲这两大任务已经是捉襟见肘，再将手伸到欧洲去只能加深日本的窘境。

    而对于德国来说，在与日本签署了反共协定之后马上就后悔了，因为日本利用这份协定来替侵华战争辩护，声称侵华是为了避免中国落入苏联的掌控之下。而这种言论深深地损害了1921年以来德国人辛苦建立的中德之间的良好外交关系，众所周知的是当时中德之间展开了相当深入且良好的经济与军事合作，德国在这个合作中得益良多，因此德国当时的外交部长冯·牛赖特和包括军方在内的大量政府官员也非常地反对和日本人签署更进一步的外交合作关系。所以当日本在1937年提出将反共协定扩展到德、意、日三国的时候遭到了德国国内的反对。但由于希特勒本人的态度和当时担任德国驻英国大使的里宾特洛普的推动，最终仍在1937年11月6日在罗马签署了意大利加入反共联盟的议定书。

    而在36年的时候，当时的日本驻柏林外交武官大岛浩受东京参谋本部的指令跳过了柏林大使东乡茂德及德国外长牛赖特直接和德国驻伦敦大使里宾特洛普讨论了两国缔结军事同盟的可能，我们看到这份军事同盟的讨论一开始就是完全绕开了两国政府的独走行为。在38年7月大岛浩通过东京参谋本部驻柏林参谋官笠原幸雄中将德国的军事同盟建议递交给了当时的日本外相宇垣一成，并由其提交给内阁审定。东乡知道此事之后提出了强烈的抗议，但却被调任到了苏联当大使去了。

    而日本内阁对这份一开始就是独走的非法同盟协议分歧也是巨大的。当时的近卫内阁成员中，海相米内光政所代表的海军一派是坚决反对和德国缔约的。而代表财阀的藏相池田成彬对缔约也不感冒。外相宇垣一成是军方的人，是支持这个协议的。陆相板垣征在后来的东京审判中称当时是极力赞成德日迅速缔约的。而首相近卫文麿是一直对扩大战事忧心忡忡，因此对于德日同盟也是兴趣缺缺。内阁意见无法统一，于是这个缔约行动就一直拖了下来，直到39年1月近卫内阁倒台。

    近卫内阁倒台后，新上台的首相平沼骐一郎是一亲军方的主战派，对于北进和对德同盟倒是非常上心。派出了以伊藤述史为首的代表团和德国讨论缔结军事同盟的问题。双方一直讨价还价到6月，矛盾主要在于日本希望就对苏作战缔结同盟协约，但却不想承担对英美等西方国家开战的军事义务。希特勒对于日本人这种既想捞好处又不想担风险的态度感到非常厌烦，于是决定踢开日本人和苏联人签协议。于是在8月23日，德国无视德日意三国反共协定的约束和苏联签署了《德苏互不侵犯条约》，德国人的这一着棋摧毁了日本对欧洲政策的全部基础，使得东京政府感到迷惑不解并大为丢脸，首相平沼骐一郎引咎不得不辞职。在这段时期德日关系进入了冷淡期。

    日德之间在政治上的相互冷淡，严重地限制了两国在经济上的合作。1939年7月28日，在柏林草签了一项新的德日贸易协定。这个协定要等到10月1日正式签署生效，但是日本政府在9月8日宣告，鉴于欧洲的战事，这个协定正式签署和执行的时间必须推迟。德国外交部经济政策司司长维尔不久就大发牢骚说，日本正在“顺从地遵行”英国的海运贸易管制措施，并且不提出严重抗议就接受了英国的禁运货物表。他说，日本也没有协助德国从中国或从荷属东印度获得原料。这段时期日本在一定程度上倒是避免了过多地卷入欧洲战事。

    这时新上台的是米内光政的米内内阁，米内光政上台之后的外交路线转而向美英靠拢，努力想与英美达成和解。但是德国在欧洲的胜利注定了米内内阁的命运。这个政府既未能与英美达成协议，以促进它所渴望的“对中国事件的处理”，这时又受到指责，说它下错了赌注。日本希望同德国达成协议，商定英国一旦被打败后——看来不过是时间问题——如何分赃。于是40年7月米内内阁在军方压力下又倒台了，上来的是第二次近卫内阁。

    而这次近卫内阁的上台，不过是军方的一个傀儡内阁而已。日本政府和枢密院终于在顾虑重重和意见分歧的情况下接受三国公约。1940年9月27日德意日三国轴心公约终于顺利签订。