蒋介石在1950年1月的大事表上只写了四个字：“地方自治”。他希望在台湾实行直接选举的省议员、县市长等，当时的台湾本地人占台湾人口的85%，大陆来的人大概是13%，如果直接选举，那大部分的权利就会被那85%的人拿走，国民党在台湾的控制就没有了，整个台湾就掌握在本地人的手里。尽管面临党内反对，蒋介石排除万难实行了地方自治。首先成立台湾省地方自治研究会，研究规划，同时为配合地方自治，改造委员会在1950年9月，通过一项决议，把烟酒及林业的管理及税收改由地方政府接手，此举使得地方政府有了税收的来源。

1950年7月2日，台湾省第一届县市议会议员选举展开，国民党很谨慎，没有一次性选，而是分区、分六期办理，花莲县最早举行，试点成功，再扩大到屏东县、高雄县、高雄市、台南县、台南市、台中市、彰化县、嘉义县等。

接着选举县市长，地方首长当然比县议员更重要。国民党把选举分为八期办理，每一期两三个县市，因为这样比较好控制。这也顺利完成，然后是台湾省议会的选举，也很顺利地完成。整个地方自治在两年内顺利完成。与此同时，各基层的乡长、区长、镇长、村长、里长等也由人民直接选举产生。

1950年12月台湾省第一届民选县市长选举期间，台中市市长选举竞争激烈，无党籍候选人杨基先、国民党候选人林金标，另一位非国民党籍候选人廖朝洲，这三人竞争市长宝座。廖朝洲无足轻重，主要是杨基先和林金标的竞争。杨基先是地方上有影响力的士家子弟，在竞争中不免批评国民党，蒋介石密切关注他的言行。杨的声势看好，眼看就要赢得选举，蒋介石忍不住了，12月27日，他打电话给省主席吴国桢，让吴国桢告诉杨基先自动退选。结果吴国桢回报，对方同意退选，而且“态度良好”。这下子蒋介石反而不好意思了，觉得不安，认为自己干涉选举的做法“处置不当”，考虑了三天，在1950年12月30日，他决定仍旧依法进行，不加干涉，即使国民党候选人失败，“亦无愧色。”。吴国桢打电话告诉杨基先之后，杨也欣然接受。最后的选举结果，国民党失败了，第一届台中市市长是一个非国民党的人。