1928年1月，他们租到位于上海公共租界西区哈同路（今铜仁路）240弄文德里的一幢石库门房子，在那里召集了第一次的得胜聚会。主题是神永远的旨意和基督的得胜，参加人员约五十人，其中一半是来自浙江南部的温州平阳县（内地会、自立会背景）和江苏北部的阜宁、淮安（美南长老会背景）的传道人。
之后，浙江省温州平阳县的和江苏省北部阜宁、淮安的吴微、季永同、邱日鉴等回到家乡，都脱离了原来的宗派，建立起当地的地方教会。其中平阳约有一百处地方教会，苏北约二十处地方教会。
1931年10月，倪柝声在上海又召聚了第二次的得胜聚会，主题是神的约和神的智慧，内容后来刊印成书，就是《什么是新约》的前半部分。1932年11月召开特别聚会，与来自英国、美国和澳洲的弟兄会信徒交通。
1934年1月，第三次得胜聚会，主题有2个：基督的中心与普及，和神的得胜者。1934年10月，第四次得胜聚会在杭州举行，主题也有2个：亚伯拉罕的生平，和属灵的争战。1935年到1936年，倪柝声打发同工到国内的主要大城市与港口开展，如张子洁到青岛，使得这些地方，以及南京，陆续都兴起了地方教会的见证。他在各地的同工达到200位。北方以及沿海各大城市也都兴起了地方教会的见证。
1942年底，上海地方教会有不少信徒无法理解倪柝声帮助二弟倪怀祖经营生化药厂的行为，产生许多议论，以致生化药厂变成了“生话药厂”，教会的属灵气氛也受到很大影响，甚至李渊如也退出侍奉，到苏州隐居。在这样的情形下，上海地方教会的长老们（张愚之、俞成华、唐守临、江守道等人）将倪柝声革除出上海教会﹐在此后的6年时间里，倪柝声尊重上海教会的决定，停止了一切事奉，也没有参加任何地方教会的擘饼。即使在重庆期间，张郁岚长老邀请他出来讲道，倪柝声也只能拒绝。
1948年春，倪柝声回到上海，在同工聚会上，表示他经营生化药厂的目的，是为了赚钱来养活同工们。倪柝声也把生化药厂奉献出来交给工作。于是当年上海教会定他罪的人，特别是张愚之，表示极其后悔自己过去的做法。
上海教会的十二位同工（包括唐守临，杜忠臣，缪韵春，俞成华，许达微，李渊如，***，朱臣，江守道，张愚之，张耆年等），联名在敞开的门刊物上发表声明：“对於倪柝声个人，我们在主面前都能同心见证，他是神的一个忠心仆人。他虽然在经营生产事业，但他的目的从来没有为著他个人的什么。在真理上、在事奉上、在经营生产上，我们和他都是同心合意的”
那时，上海教会大复兴，人数从几百人扩增到数千人，其中知识分子、青年学生占三分之一。于是信徒踊跃奉献，建造了南阳路聚会所，可容纳3000人，是全上海容纳信徒人数最多的一个基督徒聚会场所。整个上海教会又分为26个“家”，使信徒可以就近聚会，彼此关心扶持。直到1958年，南阳路聚会所被**关闭，并入上海路怀恩堂的联合礼拜。</div>