青年时代的杨坚白思想活跃，异常勤奋，涉猎了大量左翼文学，对社会科学兴趣广泛。本来他最喜爱理工科，可是特殊的环境和经历，使他不得不放弃理工改学文科。由于东北是日本帝国主义殖民地，有学日语的条件，为了求知，他刻苦攻读日语，还自修了俄语。

　　1932年冬，杨坚白通过进步学生张晓岩结识了李烈生（即李兆麟），由李介绍加入了共青团，1933年入党，参与本溪党、团组织的组建工作。成为本溪最早的党员之一。不久，他被调到奉天（今沈阳）党的特委，在那里专门从事党的宣传活动。1933年6月的一天，本溪湖开运动会，当时的中共本溪特支组织委员陈相毅在会场上散发传单，被日本巡警当场逮捕。陈经不起敌人的拷打逼问，供出本溪党组织，出卖了孙已泰、徐殿孕和杨坚白3人。敌人马上逮捕了孙、徐2人。因杨坚白自己调往奉天特委工作，敌人从他与家人的通信中发现线索，通过奉天日本领事馆警署抓捕了他。他被判12年徒刑，上诉后，1935年被改判5年徒刑。入狱时，他被关押在奉天地方法院看守所。不久，时任中共奉天特委书记的杨一辰，也因叛徒告密而被捕，关进看守所，同杨坚白住在一起。后来，杨一辰、杨坚白、孙已泰等人又被转入奉天检察厅看守所。杨一辰同志参加革命早，阅历深，经验丰富，同监难友们非常敬重他，尊称他为老大哥。因此，监狱里逐步形成了以他为首的党的核心组织。他们互相勉励，互相鼓舞革命斗志。一次，杨坚白因被敌人用刑，身体极度虚弱，伤口严重感染化浓。放风时，杨一辰递给他一个纸条，上面写着一首诗：“统治阶级，设置监牢。囚吾志士，肆彼横暴。但吾志士，忠贞在抱。心为石兮不可转，汤可赴兮火可蹈。善摄生兮保此身，持其志兮气勿躁。奋斗!奋斗!红日五洲普照。”杨坚白读后，倍受感动和鼓舞，当即将这首诗在难友中传阅，他还和杨一辰等人一起高声唱《国际歌》，并把这些歌词写在监号的墙上。

　　他们身陷囹圄，仍不忘团结、教育、宣传群众。伪奉天监狱的看守，大多是城市贫民、乡村农民出身，生活困苦，为谋生他们不得已才干上看守职业的，杨坚白想，这些看守和国民党、日本人的狱卒不同，不是死心蹋地的死硬派，完全可以通过宣传教育感化他们，让他们为共产党做事。于是，杨坚白、杨一辰、孙已泰经常和他们唠家常，给他们讲共产党的主张，向他们宣传反帝反封建、反剥削反压迫的道理，还替他们写家信，写请假条，为那些贫困无助的刑事犯人写诉状，监狱医务所医官王常泰等人，就是通过他们的教育影响，由党的同情者逐渐成为党的支持者、拥护者的。后来，成为狱中党员和狱外党组织联系的秘密联络人，经常为他们传递信件、消息和学习材料，为狱中党员外出买书，买《盛京时报》看。监狱本来有个专门对这些“政治犯”进行教诲的-，叫宋大公，有趣的是反而接受了他们的“教诲，”后来为杨一辰的出狱帮了大忙。在杨一辰直接领导下，杨坚白、孙已泰还在狱中参加了查叛徒、查党团组织受破坏经过的斗争。