1921年秋天，张学良奉父之命访问日本观看日军秋操。张大帅的目的是让张学良考察考察日本军队的实力，学习学习对方的经验，增广见闻，为未来掌管军队、经营东三省打个小小的基础。此行陪同考察的，除了几名东北军的高级将领外，还有张学良的姐姐张冠英和弟弟张学铭。
然而刚抵达日本不久，在张学良身上就发生了一件趣事。当时张学良去参观日方军事演习，在陪同日军指挥官检阅士兵时，日方的军乐队突然奏起了日本的国歌——《君之代》，把包括张学良在内的检阅人员搞得一头雾水：这里没有天皇或皇太子啊，怎么就奏起《君之代》来了？
1921，张学良在日本下来后才明白，原来军乐队奏《君之代》的原因，是军乐队的士兵们把张学良错认成当时的日本皇太子裕仁（日后的昭和天皇）了，而且都说他们俩长得很像，以至于弄错。
张学良和裕仁到底像不像呢？1990年，张学良在接受日本NHK专访时曾讲述了发生在那次访问中的另一个故事：“那时晋见了皇后，会见之后在外边签名时，我听说皇后曾望着我这边问道‘那第三个人是谁？’后来我才知道皇后问我是谁的理由，因为我与当时的皇太子裕仁太像了！”
连日本皇后都对张学良产生了兴趣，可见当时的他与裕仁的确有几分相像。日本学者、写作过《张学良与日本》的臼井胜美也说：“事实上，看看年轻时候张学良的照片，与当时的皇太子真是像得不得了。影片中有张学良阅兵的镜头，实在跟昭和天皇太像了。”
而日本军乐队为张学良奏《君之代》的事儿，还演绎出了一些故事。1928年，张作霖在皇姑屯被炸身亡，日本担心张学良“改旗易帜”倒向国民政府，特派前驻华公使林权助假借吊唁之名前来游说和施压。在双方的会见中，日方人员采用多种手段拉拢、威胁张学良，张学良都不为所动，最后林权助打起“感情牌”，拍着张学良的肩膀说：“我和令尊是好朋友，在私谊上说，我把贵司令当做自己子侄，有危险我不能不奉告。”
张学良听了这倚老卖老的话，立即变了脸色：“我和贵国天皇同岁，阁下知不知道？对阁下刚才的话，我所能奉答的就是这些！”有网上文章称林权助听到此话后怒道：“你怎可和我国天皇相比！”张学良回答：“我也不想比，是你们非要把我当他一样接待（指错奏国歌事），我有什么办法！”林权助听了这话，只能灰溜溜起身走了……
不过，在主流的记载中，并没有提到后一段，大概是后人借当年之事的演绎出来赞少帅的机智的吧。
在1921年的参观访问中，日本方面除了安排张学良参观演习之外，还刻意安排他参观了日方的军火库和军港，这让张学良十分反感，认为这是日本人赤裸裸的炫耀和对自己的武力威胁，从此对日本人的恶感又多了一分。此后的1928年，国恨家仇，终于让张学良毅然“改旗易帜”，促成国家统一。