直到今天，日本人还没有弄清楚自己的根究竟在哪里。关于这个问题的说法和争论都很多，大家“婆说婆有理，公说公有理”，吵得难解难分。说法之一认为，现今还居住在日本北海道上的少数民族阿伊努人就是日本列岛上最早期的居民。只是，阿伊努人的相貌特征与现在的日本人并不相同，他们更接近白种人的特征。因此有人认为他们并不是土生土长的日本民族，他们是从遥远而寒冷的北部欧洲而来，在历史的演化过程中由于与日本其他民族混居与通婚，才逐渐拥有了黄种人的特点。但仍然有学者认为他们的来历以及人种都还是有争议的问题。至于他们是不是日本最早的居民，学者之间也没有达成共识。
另一种说法认为日本人是吴太伯的后代，这也就意味着日本民族始自中国。虽然很多日本学者极力反对这一观点，但这种说法却在中国及日本古代就开始流行。吴太伯是周太公的长子，也是后来著名的周文王的伯父。他把王位让给了弟弟(即周文王的父亲)之后东渡到了日本，创立了大和民族，也相继带去了中国的文化和技术。日本历史上有野史这样记载，但在后来遭到了被焚的后果。还有一种说法，是认为东北亚的一支骑马民族(即马背民族)征服日本后，建立了大和国家。当然，批判这种说法的人就更多了。看来，追寻日本人的根的路途还得继续走下去。
