全部德式裝備的中國士兵u2014u2014頭盔， 防毒面具和毛瑟手槍在1930年代后期的德國政界中，老牌政治人物如國防部長勃洛姆堡和外交部長牛賴特多采取親華態度，而新進納粹黨高官如里賓特洛甫，則采取親日態度。在德國政府內部親華與親日兩大陣營的交鋒中，親日派的地位逐漸上升。1936年11月25日，德國與日本簽訂了《反共產國際協定》，該協定還附有一份補充議定書和一份秘密協定，規定兩國結成共同反對蘇聯的軍事同盟。日本從此取代中國，成為德國在遠東最重要的合作伙伴。

德日簽署防共協定后，蔣介石對德日合作的前景感到擔憂，并擔心日本據此干涉中國的u201c剿共u201d戰爭，于是在1936年12月1日令駐德大使程天放拜訪德國國防部和外交部，向其轉達國民政府對德日協定的疑慮。德方官員對程天放表示，德國政府非常了解中國的處境，以及蔣介石的堅定反共立場，因此在與日本締約當初就已屢次聲明，德國對中國毫無惡意，在將來也絕對不會讓日本把《反共產國際協定》當作壓迫中國的工具

937年6月9日，參加英國國王喬治六世加冕典禮后歸國的中國財政部長孔祥熙順道訪問了柏林，同沙赫特、戈林、勃洛姆堡、馬肯森（外交部副部長）舉行了會晤，商討中德易貨貿易問題和德日同盟問題。6月13日，希特勒會見孔祥熙，表示德國和中國的貿易將使兩國互惠雙贏，德國在遠東既沒有政治目的，也沒有領土意圖，唯一的想法就是做生意。希特勒還希望中國和日本友好合作，不要發生問題。6月18日，日本駐德大使武者小路公共拜訪馬肯森，詢問孔祥熙此行有沒有提到軍火輸送問題，馬肯森表示否定。7月7日，中日戰爭爆發。

這場戰爭極大地損害了1927～1937年間一直處于密切合作中的中德兩國關系。希特勒的亞洲政策是毀掉中德合作關系的主要原因。由于日本軍事實力的優勢，希特勒選擇日本作為其對抗蘇聯的戰友。管中國政府官員和德國投資者在不斷的游說納粹政府，但希特勒一意孤行。他雖然同意合步樓公司將中國已訂購的貨物運往中國，但禁止任何人從中國進口貨物。另外，中蘇兩國于1937年8月21日簽訂的中蘇互不侵犯條約和希特勒的戰略完全相背。

中日戰爭爆發初期，德國外交部希望采取完全中立的立場，既不得罪日本，也不疏遠中國。雖然武者小路公共要求德國采取對華軍火禁運措施，但在1937年7月仍有7艘德國商船離開漢堡前往上海，向中國運去大批軍用物資，另有3艘商船準備起航。為穩住日本政府，德國外交部在7月25日謊稱已對中國實施軍火禁運，德國駐日武官奧特同時指責日本在華北的行動嚴重影響了德中經濟關系

中國方面，在1937年7月21日至1937年7月28日的一周內，蔣介石先后會見了英國駐華大使許閣森、美國大使詹森、德國大使陶德曼、意大利大使柯萊、蘇聯大使波格莫洛夫和法國大使那齊雅等人，要求各國出面調停中日戰爭。但日方態度強硬，宣布不歡迎任何第三國的調停。1937年7月26日，陶德曼對蔣介石表示，雖然德國愿意調停，但日本已聲明不愿第三國干涉，因此調停不會收到成效。蔣介石指出，中日戰爭的繼續發展必將導致中國在中蘇關系上發生轉變，以此來要挾德國出面調停。

這一談話傳回柏林后，德國政府不得不慎重考慮蘇聯插手的問題。1937年7月28日，希特勒指示狄克遜，要求他設法通過外交途徑阻止日本把中日沖突升級為戰爭。由于害怕蘇聯恢復對華影響，德國的對日態度逐漸變得生硬。德國外交部要求狄克遜向日本政府表明，日本企圖利用反共產國際協定來為其進犯中國找一個體面的借口是不合適的。德國認為u201c日本（對中國的）進犯違背反共產國際協定精神，妨礙中國穩定，促使共產主義在中國蔓延，并最終使中國投入蘇聯的懷抱u201d。同時表示拒絕終止對華軍火輸出，拒絕召回在華軍事顧問。

淞滬會戰中的國民黨軍隊，其頭盔與槍枝皆為德軍制式。1937年8月13日，日本軍隊進攻上海，淞滬會戰爆發。日本本企圖速戰速決，在擊敗中國軍隊后強迫對方訂立城下之盟。但是日軍在淞滬戰役中直接面對中國最精銳的部隊，即德械師和德訓師，因此在戰事中失利，遲遲不能攻占南京。

淞滬會戰的爆發使德國認識到中日戰爭不可能只是華北的局部沖突，而將是一場長期的戰爭，因此在對日立場上有所改變，在新聞報導中對日本采取偏袒態度。8月21日《中蘇互不侵犯條約》的簽訂尤其使德國震驚，沖擊了德國外交部中對中日戰爭采取中立態度的傳統派勢力。

1937年10月中旬，戈林和里賓特洛甫要求德國國防部終止向中國供應軍火，并要求外交部采取鮮明的親日立場。這一要求引起了國防部和外交部的強烈不滿。德國一旦調整其東亞政策，就將在中國失去許多重要的經濟利益，而日本方面卻不能保證德國在華貿易的優勢。在這樣的考慮下，戈林又改變了立場，指示德國供應商可以繼續向中國提供軍火，但需由丹麥貨船運送，并通過新加坡的一家英國公司中轉。

1937年9月以后，中日戰爭的形勢已經明朗化，這場戰爭不可能是一場短期的沖突，而必將成為一場長期的、耗費巨大的戰爭。經過多次反復，德國在中日戰爭的立場問題上逐漸采取了現實主義的態度。一方面，納粹黨中的親日派不希望日本的實力消耗在中國戰場上；另一方面，德國軍政界和工業界的保守派勢力也不希望日本完全占領中國、壟斷中國市場和戰略原料。因此德國在1937年10月初表示，希望中日雙方通過談判盡快停戰。此時日本也出臺了《處理支那事變綱要》，表示愿意促使中國重新考慮中日關系問題，結束事變，恢復邦交。在這種情況下，德國駐華大使陶德曼展開了調停工作。

1937年11月2日，德國駐日大使狄克遜致電陶德曼，轉達了日本外務省提出的七項和平條件：一、內蒙古自治；二、在華北建立一個沿滿洲國國境線的非軍事區；三、擴大上海的非武裝地帶，由日本控制公共租界的巡捕隊；四、停止抗日政策；五、共同反對共產主義；六、降低對日關稅；七、尊重外國權益。1937年11月4日，陶德曼將日方條件轉達給蔣介石。蔣表示，只要日本不恢復到七七事變以前的原狀，他就不會接受日本的任何條件。

1937年12月13日，南京淪陷，次日日本在北平成立了u201c中華民國臨時政府u201d，即u201c華北臨時政府u201d。由于取得了攻克南京的戰果，日本國內主戰派勢力抬頭，1937年12月20日，日本政府與大本營召開聯絡會議，修改了原來的條件，提出了四項更苛刻的和平條件，包括u201c日滿華合作u201d（即承認滿洲國）和u201c向日本作必要的賠償u201d。

雖然德國希望充當調解人促成中日和平，但南京的失守讓日本軍部的主戰勢力變得強大，日本政府已徹底喪失對軍方的控制力量，中日之間已不存在任何媾和的可能。德國先前的努力也化作了泡影。1937年12月28日，國民政府召開非正式會議，討論日本的第二次和平條件，最后一致認為中國無法接受如此屈辱的條款。當日，蔣介石通知陶德曼，中國拒絕接受日本的條件。

1938年1月14日，日本內閣會議達成了u201c不以國民政府為談判對手u201d的一致意見，并在1月17日下午發表了《對華政策聲明》，即第一次近衛聲明，徹底終結了中日媾和的一切可能。陶德曼調停以失敗告終。

調停失敗后，德國決定改變對華政策。1938年初，德國政府進行了一系列改組，國防部長勃洛姆堡和外交部長牛賴特均被撤換，親日的里賓特洛甫上臺。此后德國采取了一系列措施，來解決德日關系中的幾大障礙u2014u2014承認滿洲國問題、在華軍事顧問問題和軍火出口問題。1938年2月21日，德國承認滿洲國為獨立的國家。同年3月3日，德國決定在中日戰爭結束前不再接收中國軍事學員，并遣散現有的中國在德軍事學員。4月22日，陶德曼通知在華的德國軍事顧問返回德國。

在日本的堅持下，德國政府于1938年5月3日下令禁止一切戰爭物資發往中國。中國向德國訂購的2艘IIB型潛艇、8艘大型魚雷快艇和u201c戚繼光u201d號魚雷艇供應艦也遭扣押。滯留在德國的中國軍事訂貨總額達2.82億帝國馬克。德國國防部認為，這對德國的軍火工業是一個致命的打擊。

1938年6月24日，里賓特洛甫命令陶德曼大使立即回國。他在6月25日向蔣介石辭行，于26日從漢口乘飛機前往香港，從那里返回德國。此后德國在中國只保持了代辦級的外交官員（中國則仍保留駐德大使），直至1941年中德宣戰。

此外，里賓特洛甫還通知在華的德國軍事顧問，如有不遵元首指令、拒絕回國者，則被視為公然叛國，將遭受取消國籍及沒收財產之處分。在這種最后通牒下，國民政府只得同意無條件放回德國軍事顧問。馮·法肯豪森將軍在啟程回國之際，曾向蔣介石允諾絕不會向日本人透露任何他在中國期間的工作內容。7月5日，德國軍事顧問乘坐中國政府安排的專車離開漢口，經香港回國。