首先，外国人取得日本国籍时的条件中不包括“效忠日本国”的内容。除居住年限等硬件要求外，国籍法第5条内涉及政治的要件是不得企图，声称，或实际采用暴力手段推翻合乎宪法的政府（附1）
其次，关于取得日本国籍的手续中必须提出的归化动机书，一般需要明确表示自己希望成为日本人的意思，而无必须表示效忠日本的决心等政治内容（例见附2）
所以，“加入日本国籍就要效忠日本国”的说法是不真实的，是原作者的虚构。
为什么效忠日本国不是加入国籍的必须条件？个人认为由于下列几个原因
1。日本宪法第19条规定“思想和良心的自由不受侵犯”这是其他有关自由权利的保证和基本前提。（附3）宣誓效忠日本国属于对思想的限制，要求本身就有违宪的意味。
顺便说一下日本宪法对公民义务的规定通常有三项：1）教育的义务；2）勤劳的义务；3）纳税的义务。按一般解释，宪法对义务的规定与其说是法律上的，不如说是伦理意味上的。也就是说，从道德意味上讲对国家的忠诚非日本人的必须。如果只对后天取得日本国籍的人要求的话属于歧视。
2。效忠国家是个很含糊的概念 - 具体来说是必须支持现政府吗？那么在接下来的选举中哪怕是投自民党一票大概都可以算作不忠，因为现政府是个民主党政府。支持某个特定的政治团体吗？任何政治团体都无法代表整个日本（这一点和中国不同。。。）抑或是，无条件地附和所谓的“民意”或者“舆论”？但我们知道民意和舆论，与国家本身没有直接的相连关系。最终我们可以发现，所谓效忠没有具体的对象和内容，除了作为打人的棍子以外无任何作用。
3。二战以后日本力图将本国建立成一个平等，自由，民主，和平的国家。但是不能保证永不再走上歧途。万一出现极权统治复活乃至再次走上战争道路时，对国家效忠或者说盲目的爱国主义将成为非正义的行为。尊重个人的思想自由不以愚忠为国民的伦理标准，正是日本成为一个民主自由的国家的体现。
最近读桑德尔的正义论（我看书很慢，而且往往几本书同时看。。。），里面有段涉及到公民标志的论述摘抄在这里：
“把道德/宗教的信念从公民的标准中去除这一要求意味着，在公共场合论及正义和权利的时候必须忠实地遵守自由主义的公共理性的界限。这不仅仅是指政府不可以支持特定的某种善的构想，也指公民在关于正义和权利的公共论争中不得带入自己个人的道德/宗教的信念。这是因为，如果允许把个人信念带入论争的话，实质上就是将基于特定的道德/宗教的法律强加在同胞身上”（原文出自于日语版320-321页）
简单地概括上面论述：判断一个人是哪儿的公民，其标志并非某种特定的道德/宗教信念 - 效忠日本国与否不是判断日本公民的标准。
同样在谈到归化问题是有关钓鱼岛的归属常常被作为判断某人是日本人/中国人的“测试剂”。而根据上述有关公民标志的论述，我们可以知道其实毫无道理。现实中也有一些土生土长的日本人认为钓鱼岛属于中国。仅仅根据这种言论或者思想，我们就能断定他们不是日本人了吗？显然不能。
与其说盲目地表忠心，在取得日本国籍的时候可能更加需要的是真正理解并且同意这个国家的宪法精神：即平等，自由，民主，还有和平 - 对了，有些人为了表现自己的忠诚往往会宣称日本和中国打仗的话将如何如何地为日本奋不顾身，却忘记了著名的宪法第九条。此类叫嚣本身就不符合二战以后日本建国的基本理念即：放弃战争。
任何极权思想，不管它是所谓左的还是右的，其内容，表现和恶果往往惊人地相似。正如某位网友对东京玫瑰/东京先生之流的原文的一句评价：”强制必须，反倒是对其归化国日本的民主主义的侮辱“
附1
国籍法
普通帰化（第5条）
少なくとも、以下の要件を満たすこと（最低要件）が必要であるが、以下の要件を満たしたからといって必ず帰化が許可されるというものではないこと（例えば、日本語による読み書きができることなどが必要であるとされている）に注意を要する。
1.引き続き5年以上日本に住所を有すること（居住要件）
2.20歳以上で本国法によって行為能力を有すること（能力要件）
3.素行が善良であること（素行要件）
4.自己又は生計を一にする配偶者その他の親族の資産又は技術によって生計を営むことができること（生計要件）
5.国籍を有せず、又は日本の国籍によってその国籍を失うべきこと
外国人がその意思にかかわらずその国籍を失うことができない場合において、日本国民との親族関係又は境遇につき特別の事情があるときは、帰化を許可することができるとされている（第2項）
6.日本国憲法施行の日（1947年5月3日）以後において、日本国憲法又はその下に成立した政府を暴力で破壊することを企て、若しくは主張し、又はこれを企て、若しくは主張する政党その他の団体を結成し、若しくはこれに加入したことがないこと
附2
http://okwave.jp/qa/q1341964.html
。。。帰化の動機書ですが、何も歯の浮くような美辞麗句は必要ありません。むしろ思ったことをありのままにかいてください。質問者さんの場合はそれで十分のはずです。むしろインタビューでの法務局職員とのやりとりの方が重要です。まあ間違いなく日本語は堪能でしょうから、直接職員に向かって動機を伝えるのが良いと思います。（語学力のチェックと同時に動機の信憑性、さらには申請内容の真正性をチェックされます）
しいて動機書を書く上での具体的アドバイスをするとすれば、「政治的なことはあまり書かないほうがいい」というくらいでしょうか。母国の政治体制に不満を持ち、いかに日本の民主主義が優れているかなどを書く人がたまにいます。もちろんそれはそれで動機としては間違いではないのでしょうが、そういうことよりもむしろ
「日本に暮らして17年になり、すっかり日本での暮らしにもなれました。母国での暮らしを懐かしく思うこともたまにありますが、どちらかというと遠い国のことのように感じています。
日本で生まれ育った子供たちは日本語しか話せません。もちろん家族内の会話は全て日本語です。そこで子供たちの将来の事などを真剣に考えた結果、今回家族での帰化を認めていただきたく申請した次第です。
今では生活の基盤は全て日本にあります。どうか我々家族の望みをかなえて下さいますようお願いいたします」という内容の方が好印象を与えるのではないかと思います。
附3
日本国憲法
第十九条 思想及び良心の自由は、これを侵してはならない。
