马思聪6岁就离开故乡海丰，曾在汕头读小学，后在广州读小学也仅两年多，但广州是他演奏、教学、恋爱、战斗、逃亡、回归的地方，可谓是他的第二故乡。抗战时期，在迁址到粤北的国立中山大学任教的艰苦岁月，也令他难忘。他在广东留下的历史足迹，讲述着他人生中的一些苦乐故事，是他六十多年音乐生涯的一个缩影。
1929年，马思聪第一次留法回国后，与老校友陈洪在广州相聚。1930年初，艺术家欧阳予倩先生在广州刚创建了广东戏剧研究所，得省长陈铭枢的支持。欧阳先生不仅擅长演京剧和话剧，在音乐和舞蹈方面也是行家，他还想再办一个乐队，为戏剧研究所服务。为了争取省长的支持，他想出了一个点子，建议陈省长宴请马思聪与陈洪两位留学生，并邀请演奏一曲。陈洪先生回忆说：“我和思聪演奏了巴赫的双小提琴协奏曲的一个乐章，陈省长表示赞赏，乐队的事便拍板定案了。”欧阳先生就委托这两位青年乐手去组织乐队的工作，于是两人兴致勃勃在广州和上海招兵买马。据陈洪教授回忆说：“在上海还招了一位原慈禧太后宫廷乐队的单簧管乐手穆志清，在广州则招了何安东、黄金槐、谢剑生、严焕堂、张基良等一共20人，马思聪当指挥，我当首席小提琴。”1930年6月间乐队成立，经三四个月的悉心排练，首场音乐会第一个节目是莫扎特的作品《唐璜》的序曲。因马思聪突然说不指挥了，就由陈洪指挥。这是一支由中国乐手组成的乐队，当时在全国也是先例，是20世纪30年代广州的第一支管弦乐队，相比当年上海租界工部局的乐队虽是小型的，但工部局乐队是由外国乐手组成的。
马思聪当年不仅热心于他的专业小提琴演奏，还有创作音乐作品的激情。1929年回国后，他就“无师自通”创作了《古词七首》。他说中国古诗词的意境，能帮助他创造一种气氛，引导他的艺术想象。他出生于书香之家，自幼受到中国传统文化的滋润，一生喜读诗词，乐于为唐诗宋词谱曲。
1931年初，马思聪得到广东政府资助的机会，再度赴法国学习作曲课程。广东第一支管弦乐队就由陈洪先生负责，后来还附设了音乐班。不久，乐队也停办了。
1932年初，未满20岁的马思聪第二次从法国学成回国，不久在广州完成了他的第一部作品《弦乐四重奏》。这部献给他的作曲恩师毕能蓬先生的作品，受到恩师回信的好评：“技巧是第一流的，你作的是严肃的音乐，你走的路是正确的路。”（马思聪：《创作的经验》）这年，他又在广州与陈洪兄相遇，两人商量如何在广州传播所学的小提琴艺术和西洋的音乐基础知识呢！思聪想要驾驭演奏、教学和创作“三套马车”，在广州走出一条音乐之路。于是两人商量后，决定在音乐班的基础上筹备创办私立广州音乐院，据闻还有陈伯华、梁水弦、胡春水诸位先生参与发起。当时学校条件是很困难的，两位留洋海归，是穷音乐家，音乐院规模不大，由马思聪任院长，陈洪任副院长，开始在广州白云路白云楼租赁宿舍开办，后搬到惠福东路。马院长教授小提琴、钢琴和视唱练耳，陈副院长教小提琴、钢琴和乐理等课程。学院招收了一位比马院长年长几岁的小提琴学生叫王恒，后来王恒又介绍其妹王慕理跟马院长学习钢琴。王慕理也比马院长大两岁，家居广州，父亲早逝，母亲是医生。不久，陈洪与他的钢琴学生卢碧伦在广州音乐院结婚，他后来回忆说：“当时马思聪组织了一个乐队，到教堂指挥演出了门德尔松的《婚礼进行曲》为我们祝贺，这是他对我友谊极好的表现。”不久，20岁的马院长也和他的钢琴学生王慕理谈婚论嫁了。他们1932年在上海结婚，这对音乐伴侣，在此后五十多年坎坷的音乐生涯中，相濡以沫，同甘共苦，王慕理成为马思聪独奏音乐会的“终身”钢琴伴奏，马思聪就是王慕理的“终身”老师。
晚年的马夫人在回忆这段恋爱时，在美国家中对来访的侄女马之庸谈笑说：“有一次我们俩相约去散步，在街上走着谈着，不觉到了吃饭时刻，他有点尴尬地对我说：‘我们不要进大酒店，就在小饭店吃点东西吧！但你不能点高级菜，我没有那么多钱。’结果我吃了一碗云吞面，而他只吃了一碗素面条。”马夫人深情地说：“从那一次我深感到他的纯朴、憨厚、坦诚的品德，非常可爱可敬。”
广州私立音乐院坚持办了四年，陈洪教授回忆说过程十分艰苦曲折。创办一年后，思聪就去了南京中央大学教育学院任教，在南京、上海举办演奏会，还完成了作品《钢琴三重奏》，又将他的九弟马思宏带在身边，教他学习小提琴。陈洪任代理院长，直至四年后停办，他才到上海国立音乐专科学校任教。私立广州音乐院历史虽短，但在广东音乐史上却开创了开办专业音乐院校的先河。