1869年，黄金开始从加利福尼亚流向纽约，几乎每天都有大量的移民从欧洲乘船到美国，为银行业提供了足够的潜在客户。在那个时候，从事银行业并不需要特别的资格证或者特殊的培训。想进入这个行业的人基本上都是模仿成功的德裔犹太人银行家的模式，比如在很短时间内就积累了大量财富的约瑟夫·塞利格曼（Joseph Seligman）等人。马库斯在自家门前挂起一块招牌，上面刻有他的名字“M.Goldman”，他开始从事商业银行业务，并且为被称为“泥沼之地”的女儿街一带的皮革商和珠宝商提供借据经纪业务。他当时的做法是每天早上从小商人手中低价购入本票，下午再把这些票据卖给银行，这样，他既为小商人们提供了优惠利率的短期贷款，又为自己赚取了丰厚的佣金。这些票据最初是一种商业汇票（trade bills），后来发??成为我们所熟知的短期融资券（commercial paper）。
马库斯最初完全依靠自己的力量开展业务，他的办公地点就在松树街一条运煤管道旁的一间地下室里，他唯一的帮手是一位上了年纪的兼职账房先生。与其他同业竞争者一样，他一直都是步行去做生意，这种方式一来可以使他建立更广泛的人际关系，二来可以使他了解到自己的竞争对手都在做什么。按照当时的习惯，为了保证现金的安全，他一般都把钱藏在黑色高檐帽的帽边里。多年之后，在回顾自己的童年时，亨利·戈德曼曾经说起，以前放学回家的时候，经常看到父亲雇上一辆马车去城里的某个银行兑换当天的票据。完成交易之后，他会步行8公里回到他们当时位于下城区东部的拥挤的家中与大家共进晚餐。
作为这个领域的新人，马库斯进入银行业的第一年就赚到了500万美元。但是对于他本人来讲，他仍然希望在事业上更上一层楼。他的梦想是成为纽约证券交易所的成员，通过出售股票和债券赚取更多的回报。虽然当时他的生意蒸蒸日上，但是他可能从来不曾妄想过这个事业不仅能满足自己的梦想，而且还会发展成为华尔街上最耀眼的明星，现在这家公司每年年底为每位员工发放的奖金都超过50万美元。当时，他的理想可能仅仅是为后代创造一个宽松而稳定的经济条件，使他们受到良好的教育，过上舒适的生活，但又不至于陷入奢侈的消费之中。
1873年，费城顶尖的商业银行杰·库克公司（Jay Cook & Co.）倒闭，引发了金融市场的恐慌，但对于马库斯来说，这无疑是一次意外的发展机遇。纵观历史，金银珠宝一直是资本市场动荡时期投资者们一致推崇的避险型投资产品，而在此次由铁路股票投机失败引发的危机中，这种趋势再次重演。人们为了避险大量购买金银珠宝，极大地推动了珠宝批发业的发展，当地的珠宝市场也从女儿街搬到了第五大道西边的第47街上，至今异常繁荣。马库斯除了睡觉的时候都在想着怎样赚钱，因此他追随自己的客户在这个新兴的珠宝市场中心地带租下了新的住处。这里被人们看做上流社会的聚集地，离阿斯特（Astor）家族的住处不远。贝莎拥有了自己的马车和车夫，还购置了符合上流社会太太这一身份的服饰。
他们一家人在第47街西4号的生活可以说既保持了德国的传统，又吸收了当代美国那种不断前进的动力。在绝大多数时候，戈德曼一家人亲密无间，从来没有忘记自己的故土德国，他们彼此之间都很忠诚，也非常尊重家族的传统。他们家的孩子们从小就说双语，每年夏天都要到德国巴伐利亚的贝拉姑姑家度假，因为他们的祖父沃尔夫去世之后，祖母已经搬到这里居住。这一家人向世人展示的是一幅家庭和睦的画卷，其中仅有的小插曲就是亨利和路易莎之间的紧张关系，他们两人的冲突有时会发展到哭叫打闹的程度。每次他们发生冲突的时候，马库斯和贝莎总是维护路易莎，亨利对父母这种态度非常恼火，他每次发脾气时都充满了明显的嫉妒，他认为父母总是偏袒自己那个像洋娃娃一样的妹妹。亨利总是毫不留情地捉弄妹妹，妹妹的所有意见或建议都会遭到他的嘲笑。不过，路易莎也不是省油的灯，她可不会随便向别人低头，而且她总能把发火的时间拿捏得恰到好处。在这种情形之下，只能由年长的姐姐丽贝卡和罗莎来平息他们之间的冲突。
亨利和他的兄弟朱利叶斯都在第59街的萨克斯寄宿男校上学，这所学校由戈德曼家族的老朋友约瑟夫·萨克斯一手创办并管理，是城里最好的预科学校。萨克斯是一位卓越的教育家，但是他没有耐心这一点也是出了名的。亨利回忆说，如果被他发现你在学习上偷懒，他“会像成吨重的巨石一样向你猛压下来”。除了四则运算、代数、几何之外，孩子们还在这里学习了拉丁语、希腊语、德语、物理、书法等，他们广泛地阅读了经典文学作品，并且经常参加舞台剧和歌舞剧的演出。
亨利聪明过人而且有些早熟，他听课非常认真，在学校课堂上听到的所有内容--还有更多课外听到的知识--他都能记住，因此获得了大多数德裔犹太父亲期望自己的儿子获得的那种优异的成绩。他非常擅长辩论，只要有讨论的话题，他一定是第一个发言的人。不过他的近视程度非常严重，从9岁开始就不得不一直戴着镜片很厚的眼镜，阅读对他而言是一项异常繁重的任务。对于一个喜欢棒球的男孩来说，近视肯定是一个沉重的负担，因为他既不可能接到空中飞来的球，也不可能打出一个本垒打。通常孩子们都会欺负体育成绩不好的同学，但是由于他能帮那些大块头的同学们完成作业，这些孩子从来没找过他的麻烦。
周末的午后，戈德曼一家人通常会到中央公园去，在那里，他们可以看到本地的时髦人士坐着新潮的马车从旁边经过，他们会在第59街的池塘冰面上溜冰，或者一起听乐队的露天演奏，有时候还会到动物园去看猴子和大象。有时候他们会遇上萨克斯一家子，由于索菲亚病重，约瑟夫带着她到北边的巴特米尔克瀑布疗养，留下了15岁的朱利叶斯照管年幼的弟弟妹妹塞缪尔、哈里、艾米丽还有巴尼。贝莎一直像姑姑一样对待萨克斯家的孩子们，她经常邀请他们周末到家里共进晚餐，她总是说家里有足够的烤肉和巧克力蛋糕，足够所有人吃的。晚餐之后，孩子们会聚到客厅里那个人人羡慕的新钢琴前面，丽贝卡开始弹奏德国民歌，罗莎会穿着自己设计的新奇的衣服，带领所有孩子们和声演唱。年轻的朱利叶斯·萨克斯很早就喜欢上了这个比他大两岁的姑娘，到他成年时，他就向罗莎求婚了，他的父母非常支持，当然未来的岳父岳母也欣然同意联姻。
亨利为了大学入学考试埋头苦读， 14岁那年他参加了在第24街的基督教青年会举行的考试，成绩非常优秀。他收到了哈佛大学的录取通知，这是从萨克斯男校毕业的学生们首选的大学，他的哥哥已经在这里学习法律预科了。亨利知道自己成为哈佛大学的学生会使父亲非常高兴，因为他的两个儿子都进入了美国历史最悠久、名声最好的大学，并且都是作为极少数的精英犹太学生被录取的。
亨利喜欢学校所在的剑桥镇，他的宿舍位于普特南大街，这里为学术而献身的精神、同学们的友谊、与聪明的年轻人之间的交流，以及正在向他敞开大门的高等教育都使他兴奋不已。很难说哪一个学科最让他感兴趣，他对所有学科都如饥似渴--历史、哲学、文学、物理、音乐、艺术史。他的老师曾经说过，就如此年轻的学生而言，他在论文中表现出来的洞察力可谓十分惊人，而且他还具有很强的口头表达能力。但是到大学一年级期中的时候，他的视力已经下降到无法继续学业的程度，他不得不辍学，永久地离开了学术界。这是命运给他的一次重大的挫折，尤其是他十分清楚这将使他父亲对他的期望彻底破灭。马库斯性格直率，不善于掩饰自己失望的情绪，他经常在公开场合讨论到底能为自己这个成不了事的儿子找个什么工作，此时亨利已经17岁了。为了保证自己的儿子能过上还算安稳的日子，马库斯联系了自己在D·罗森伯格纺织品厂的朋友，让他们给亨利安排了一份店员的工作。
不管当时经历了怎样的不愉快，马库斯最终把这些烦心事放到了一边，因为两年之后贝莎和索菲亚·萨克斯成功地撮合了路易莎和塞缪尔·萨克斯的婚事，这个女儿一直是马库斯的掌上明珠，再加上萨克斯家本来就是亲家，这是亲上加亲的好事。路易莎刚满20岁，此时结婚是最好的。虽然塞缪尔没有取得高中文凭，但是马库斯非常欣赏这个年轻人的信心和毅力，他们的父亲约瑟夫在德国度假时突然去世，自此之后塞缪尔就开始经营一家小型的干货商店，承担起了作为一家人的经济来源的重任。这个年轻人干活卖力，秉持了马库斯本人非常赞赏的道德准则，而且经常向马库斯寻求建议，还有什么能比获得这样一位学徒更令人高兴呢？而且，最令人高兴的是他的宝贝女儿路易莎也喜欢塞缪尔。
1882年，亨利已经显示出了过人的商业才干，店员的工作已经不再适合他了，此时德赖福斯-威乐（Dreyfuss，Willer）公司为他提供了一份推销员的工作，而这家公司中正好有他姐姐丽贝卡的丈夫路德维希（Ludwig）家族的股份。他迟迟没有接受这份工作，因为他希望他父亲会邀请他加入家族公司M. Goldman，他们的家族公司此时的年营业额已经超过3000万美元，公司的自有资本金也超过了10万美元。随着马库斯60岁生日的临近--在19世纪，这是一个分水岭式的年龄，大家都在想他或许应该考虑退休，或者至少考虑不再独自经营公司了。
但是接班人的话题一直无人提起。朱利叶斯和罗莎为马库斯筹办了生日宴会，所有萨克斯家的人和戈德曼家的人都受邀参加。大家的祝酒结束，蛋糕上的蜡烛也吹灭之后，马库斯示意大家安静下来听他讲话。他首先表示自己已经进入了暮年，接着回忆了自离开德国之后这30年中自己的生活发生的诸多改变，还说到为拥有这样一个快乐的大家庭感到非常高兴。然??，他宣布邀请自己的女婿塞缪尔加入家族公司，成为自己的生意伙伴。餐桌旁的两家人，一家欣喜，一家震惊。
我一直认为，由于亨利的视力问题，马库斯认为他不足以承担管理家族公司的职责。虽然马库斯的决定是基于常理，而非感情，但是对亨利而言，这又是一次沉重的打击。