到达日本后，鉴真曾受到孝谦天皇和圣武太上皇的隆重礼遇，754年2月1日，重臣藤原仲麻吕还亲自在河内府迎接鉴真，2月4日，鉴真抵达奈良之后，便同另一位本土高僧统领日本佛教事务，封号“传灯大法师”。
根据圣武和孝谦的意愿，作为律宗高僧，鉴真就应当负起规范日本僧众的责任。当时日本社会中存在一个相当普遍的问题，就是托庇佛门，以逃避劳役赋税的现象。因此，孝谦下旨：“自今以后，传授戒律，一任和尚”。但是，这引起了日本本国“自誓受戒”派的反对，尤其是兴化寺的贤璟等人，更是激烈反对。于是，鉴真决定与其在兴福寺公开辩论，在辩论中，鉴真做出让步，承认“自誓受戒”仍可存在，但是作为正式认可的具足戒必须要有三师七证，结果贤璟等人都被折服，决定舍弃旧戒。于是鉴真便在东大寺中起坛，为圣武、光明皇太后以及孝谦之下皇族和僧侣约500人授戒。756年，鉴真被封为“大僧都”，统领日本所有僧尼，还在日本建立了正规的戒律制度。
年，曾经最支持鉴真孝谦天皇在宫廷斗争中失势，被迫将位置传给淳仁天皇。之后，鉴真也遭受到排挤。758年，淳仁天皇下旨，以“政事烦躁，不敢劳老”为名，解除了鉴真“大僧都”一职，并将在宫廷斗争中败死的原皇太子道祖王的官邸赐给鉴真。次年，鉴真弟子在该官邸草成一寺，淳仁赐名“唐招提寺”，鉴真从东大寺迁居至此。淳仁还下旨，令日本僧人在受戒之前必须前往唐招提寺学习，使得唐招提寺成为当时日本佛教徒的最高学府。763年5月6日，鉴真在唐招提寺圆寂，人灭之前，其弟子为鉴真膜影，立夹漆像，传世至今。
年，孝谦天皇镇压了惠美押胜之乱，重新登基。鉴真的弟子思托、法进等人相继成为“大僧都”，唐招提寺也得以扩建，成为日本建筑史上的国宝。在开创日本天台宗之前，鉴真所开创的四戒坛曾是日本佛教僧侣正式受戒的唯一场所。因此，鉴真被尊为日本律宗初祖。
