1928年春赴日后，杨虎城对日本社会的民主问题有了深刻的认识。他发现日本政治完全由一小部分金融寡头、垄断资本家、政客和军人控制着，广大人民并无参与政治的权利。但由于当时军国主义者还没有完全控制国家机器，所以日本社会还维持着一定的民主状态：各种书籍包括马克思、列宁的著作都可出版发行；各种主义都可以宣传；各种政治组织还可以公开活动。对此，杨虎城非常感兴趣，他认为一切政治主张、思想理论、学术问题都应该允许存在，公开拿出来讲，让人民自己去选择，单凭武力和镇压手段是解决不了思想认识和信仰问题的。他认识到没有民主，只想建立专制，是中国动乱不安的重要原因之一。北洋军阀如此，蒋介石执政依然如此，其白色恐怖、思想禁锢比北洋军阀有过之而无不及。这些认识为他后来陕西主政期间提倡民主和思想学术自由，与共产党和其他进步势力建立合作关系，特别是在策划发动西安事变时，提出以民主政治为核心的八项主张都起了决定作用。同时也对他个人的思想作风产生了很大影响。
在此期间，中共东京支部对杨虎城也非常关注。曾为中共东京支部成员的冯润章后来说：
我是1928年6月去日本的，住在东京大冈山地区，4月下旬到日本的杨虎城和夫人谢葆真、秘书米暂沉也住在这里。我由上海赴日时，党中央通过张金印（后改名张慕陶）叫我到东京后，多同杨虎城接近，影响杨虎城。我因负有这样一个任务，所以到杨家去的次数就较多，主要是谈些国际形势和国内革命发展情况，杨表示同情革命。杨知道我是共产党员，大约在七八月间，给了我300元，叫我转给共产党。我通过张金印转告中央，后叫我把这笔钱交给了中国济难会负责人浦化人。
通过对杨虎城的接触了解，东京支部认为应该发展杨虎城加入共产党，便向中共中央进行请示。10月9日，中共中央函复中共东京支部：“收到你们的来信，兹特答复如次……三杨虎臣中央已允其加入，交由你们执行加入手续。加入的手续如下：须三个同志的介绍，候补期为半年。再望你们与他谈一次话，指明两点：（一）目前党的任务主要的是争取广大的群众以准备暴动，而不是马上就要实行总暴动。总暴动是我党的前途，目前尚不是行动的口号而是宣传的口号，尤不是每个同志一加入就要派回暴动。（二）每个党员加入后如在工作上有需要时，党仍须调其往他处工作，不给某个同志以固定时期的休养。”由于交通原因，此指示信到东京时，杨虎城已回国到达南京，故杨未“执行加入中国共产党的手续”。之后，中共东京支部又派冯润章到南京去找杨虎城，向杨传达了中共中央的意见。听了冯的话后，杨虎城很长时间沉默不语。最后他说：“你回去告诉他们，我向右转了。”冯润章只好回上海复命。
1928年12月底杨虎城从日本回到上海。此后，杨虎城再也没有提过加入中国共产党的要求。因为通过在日本的学习考察，他自己认为似乎找到了一条今后可以前行的道路——民主之路。他把共产党人视为实现自己理想的志同道异的朋友。
