Ở ngoài Việt Nam, Nhật Bản là nơi mà Trịnh Công Sơn được người bản xứ biết đến nhiều nhất. Bài Diễm Xưa được dịch ra tiếng Nhật dưới nhan đề Utsukushii Mukashi và được Khánh Ly trình bày ở hội chợ Osaka năm 1970. Bài Utsukushii Mukashi cũng được phổ biến rộng rãi vào quần chúng Nhật qua tiếng hát của Yoshimi Tendo, một ca sĩ nổi danh ở Nhật.

Từ đó đến nay Utsukushii Mukashi và một vài bài khác của Trịnh Công Sơn như Ca Dao Mẹ đã được phát trên các đài phát thanh ở Nhật khá đều đặn.

Năm 1980 ca khúc Diễm Xưa và bản dịch Utsukushii Mukashi được đài truyền hình lớn nhất ở Nhật NHK chọn làm nhạc phẩm chính cho một bộ phim nội dung trình bày những khác biệt văn hóa giữa một người Nhật có vợ Việt Nam.

Tháng 7/2004 Diễm Xưa trở thành nhạc phẩm Á Châu đầu tiên được viện đại học Kansai Gakuin đưa vào chương trình giáo dục của viện đại học trong bộ môn Văn Hoá và Âm Nhạc.

Dưới đây là bài Diễm Xưa bằng tiếng Nhật cùng với cách phát âm.