我國與日本於1972年9月29日斷交，日本於同年12月1日成立「財團法人交流協會(以下稱交協)」；我方於同年12月2日成立「亞東關係協會(以下稱亞協)」，嗣於20日經內政部核准，登記為人民團體。，亞協與交協作為兩國間事務溝通與互動平臺，繼續維持雙邊經貿、文化交流、技術合作等非政府間實務關係。
臺日其後於1972年12月26日簽署「互設駐外辦事處協議書」，據此亞協陸續在東京、大阪、福岡、橫濱、那霸、札幌六地，交協在臺北、高雄兩地設立辦事處。亞協雖屬內政部登記之人民團體，實質上則由外交部及經濟部派員組成，執行外交部對日相關業務。外交部為配合政府組織改造，推動亞協法制化，乃於2011年11月14日修正組織法條文，於第7條明定「外交部得委託特定團體處理涉外事務」，除維持亞協為人民團體地位外，並依據該法條委託亞協辦理日本相關事務，確立外交部與亞協間「委託」與「受委託」之相互關係。
繼2017年1月1日「財團法人交流協會」更名為「公益財團法人日本台灣交流協會」後，亞東關係協會亦於2017年5月17日更名為「臺灣日本關係協會」，今後將在既有的交流架構下，繼續推動臺日各項交流。