甘地动身去南非时，再没有当年准备去英国留学那样的坎坷和离别的痛苦。母亲已经去世。在这里自己的事业也没有获得应有的光环。他本来就想寻找一个新的天地、新的契机来从零做起，南非有约，应该去碰碰运气。只是由于甘地与妻子的感情越来越深，这时又有了两个孩子，他对这个家庭的眷恋之情使他多少有些依依不舍。然而，南非的吸引力却使这种离别之苦变得可以忍受。甘地一点也没有意识到南非将有一个什么样的困境等待着他，他天真地认为摆脱了国内的出师不利，到了远方就可以大展鸿图了。
“不到一年，我们又会在一起了”，甘地这样安慰着妻子。妻子不能在公开场合为他送行，只是在家里与甘地吻别。
甘地赶到孟买，经过一番周折，买到了轮船大副房间里空着的一个铺位，通常这个铺位是不出售的。
经过漫长的海上航行，甘地终于在1893年5月底到达南非纳塔耳港。
船一靠拢码头，等着来接朋友的人都纷纷走上船来。从这些熙熙攘攘的人群中，甘地无意中发现这里的人对印度人并不怎么尊重。商行的阿布杜拉赛先生也到码头来迎接甘地。应该说，阿布杜拉赛先生称得上是富有的商人，也是有名望的人。人们同样是用一种藐视的目光和粗暴的态度对待他。这使甘地很难过。阿布杜拉赛先生却似乎已经毫不在乎了。
商行对甘地也还算照顾。把他送到商行的住所，安排了单间，与阿布杜拉赛成为隔壁邻居。
三天之后，阿布杜拉赛把他带去看杜尔班法院。他向甘地介绍了几个人，并让他坐在法律代理人的身边。庭长望了他几眼，示意他把头巾摘下来。甘地认为庭长的要求侵犯了他的自由，因此断然加以拒绝，并厌恶地瞟了一眼庭长，愤然离庭。
似乎命运不愿意久等，在南非的斗争就这样拉开了序幕。南非的生活浓炼了甘地的道德理想，衍化出他理想化的非暴力主张的思想和实践，也改变了甘地的命运。
当时南非也属于英国的殖民地。在这里种族歧视和偏见十分盛行。而早在30年前，英国政府就与印度政府达成协议，从印度招募了大量的印度契约劳工，来从事种植和采矿业。久而久之，有些印度人开始做些小本生意，慢慢转为商人，与此同时印度国内的商人也开始赶来定居经商。白人对他们的憎恨比对当地黑人更甚，他们害怕印度人勤劳节俭构成的威胁。由于印侨和劳工们的素质不一，加上信仰和种族关系又特别复杂，劳工们只知做苦工，商人们只知赚钱，似乎都在忍气吞声地求生存，对于白人的种族歧视和压迫，缺乏有力、有节、有组织的斗争，所以英国人更是趾高气扬，不把印度人放在眼里。今天这里来了一个甘地，情况就开始发生变化。他与别人不一样，他受过高等教育，留过学，懂法律，他知道什么叫自由平等，什么是天赋人权。面对目前这样严峻的情况，他不仅要做到自己不任人宰割，而且，他感到更有责任与印侨一道改变这种不合理的社会现状和强加给印度侨胞各种的偏见。
甘地以雄辩的文笔写了一封信，描述了在法庭里发生的这件事，并从自由平等角度阐述了在法庭戴民族头饰的风俗和权利。信中措词对当局对南非法庭多少有些“不敬”。报社发表这封信后，如同一块不大不小的石头投到了表面沉静的池水，产生了一层层涟漪，南非社会不免惊骇。
南非当局对此更感头痛，将他列为“不受欢迎的来客”。印侨们内部意见也不一致，有人支持，有人认为甘地多少有些冒失。但是不管怎么样，头巾风波使甘地名声大振，仿佛被“意外地做了一次广告”。
经过这次斗争，甘地在南非旅居期间，一直戴着印度头巾。不少印侨也开始小心翼翼地效法。
从此，甘地逐步扩大交游范围，结识了许多各界朋友。这个时期，商行准备打官司。阿布杜拉赛决定请甘地代表他到德兰士瓦首府比勒托利亚完成这项任务。阿布杜拉赛为甘地买了头等火车票，让他独自前往。在送别的时候，这位印侨商人提醒甘地说：“小心点，这里不同于印度，随时都可能遇到麻烦。上帝与你同在。”
火车于晚上9点左右到达纳塔耳省马利兹堡。这里上来一个大腹便便的乘客，他一看甘地是个有色人种，马上板起脸来，他的身后跟着两个官员，不露声色，一言不发。对甘地说：“你跟我来，你必须到货车厢里去。”
“可是我有头等车票呀。”甘地解释说。
“那不算数，”另一个粗暴地说，“我告诉你，你必须到货车厢里去。”
甘地毫无惧色地说：“我也告诉你，我必须坐到目的地！”
那几个蛮横无理的人见讲不过甘地，便找来了警察。身材高大的警察一来不分青红皂白像抓小鸡一样提起甘地就往下丢，把他的行李也全部扔下车来。火车响起揶揄的汽笛声，在茫茫的夜色中开走了。留下一阵悲风陪伴着孤零零地被无情地抛在站台上的甘地。
候车室内，他静坐一夜。隆冬季节，天气寒冷。外衣放在行李里，甘地本想打开行李取件外衣御寒，又怕遇到了新的麻烦和新的侮辱，只得双手抱胸，龟缩身躯抖抖索索地祈祷。
第二天早晨，甘地打了一个电报给铁路局长，抗议这种野蛮行径，并且通知了阿布杜拉赛。阿布杜拉赛立即去见了局长，但局长认为铁路当局这种做法是正当的，不过他签名通知各路站长保证甘地平安抵达目的地。阿布杜拉赛同时通知了当地的一些商人到车站来帮助甘地。他们找到甘地之后，大家都诉了一通苦。甘地遇到的这件事，在他们看来，小巫见大巫，还算不得什么大不了的事。他们在南非多年，遇到的不公平待遇已经数不胜数了。
果然，接下来更多的苦头还在等着远道而来的年轻律师。
坐了一段火车之后，到达查理斯城。从查理斯到约翰内斯堡需改乘马车。
麻烦再次突如其来。驿站经纪人把甘地从马车厢里拉出来，说他的票取消了。
不管甘地如何辩驳，对方都不听，因为这个经纪人把甘地看成了印度的“苦力”，认为印度苦力与白人坐在一个马车厢里是痴人做梦、不可思议的事。
于是甘地被强行安排在马车厢外的一个座位上。甘地明知道是一种明目张胆的侮辱，但是他下决心忍住了。他知道，如果提出抗议，说不定马车都坐不上，这样就会无休止地耽误行程。到时候吃亏的还是自己。
马车慢条斯理地走到了下午。小站稍息。车上的领班这时从马车厢里出来抽烟，又要强占甘地的座位。他从车头那里拿了一块肮脏的麻布铺在脚踏板上，要甘地坐在踏板上。欺人太甚！甘地实在无法忍受下去了，态度强硬地说：“你要我坐在你的脚下，办不到！”
手脚粗大的领班二话不说，走过来揪住甘地的衣领，使劲扇了甘地几记耳光。打得甘地眼冒金星，头昏耳鸣。打过之后，他还要把甘地拉下车去。
甘地使劲抓住马车的铜栏杆，才不至于被拉下来。车上所有乘客目睹了这一暴虐行径。其中有几个乘客看不过去了，便劝解道：“算了，别打他了。就让他坐那里吧，如果不让他坐那里，就让他进车厢里来吧！”但是这个领班仍然又拉又打又骂，甚至吓唬道：“到下一站，你看我的厉害！”马车一路颠簸，甘地一路心惊肉跳。不知下一站还会怎样，只有请上帝保佑了。
到了下一站，天已黑实。甘地看到了几个印度人向马车走来，他悬在空中的心才开始踏实一点。这几个人恰恰是奉命前来接送甘地的。甘地把这件事情通知了驿站公司的代理人。不管它有没有用，都应当表明自己的态度，不能坐守待毙。不争取自己的权利，不为这种权利作斗争，印人的命运是不可能奇迹般发生变化的。甘地感到了出征南非的责任。
到达比勒托利亚后，甘地为办案作准备。这个案子是由商业交易而引起，问题复杂，涉及到很多法律常识。实际上原告和被告双方都聘请了最有才华的律师和法律顾问。甘地的具体任务是为律师准备原告案内和挑选一些有助于案子的事实。甘地对这个案子兴趣非常之浓，把全部精力都投入进去，工作做得很卖劲很出色。实际上，原告和被告双方都是亲戚。双方虽然都想通过法庭弄个水落石出，但是双方也的确都希望快点了结这桩事情。案子本身有利于原告达达·阿布杜拉，事实极为有力，法律依据也很充分。甘地又去找了被告铁布赛，劝他找人仲裁。甘地费了九牛二虎之力，为他们二人和解。
在仲裁人面前，原告、被告各自申述案子，结果达达·阿布杜拉胜诉。但是甘地又考虑到要铁布赛一次性赔款37000英镑似乎不可能。于是他又动员达达·阿布杜拉同意分期付款。双方同意。结果二人重归于好。大家对这个案子的结果非常满意。甘地也为这次成功感到喜出望外。从这个案子中，甘地真切地体会到了按法律办事的力量所在。在他以后20年的律师生涯中，他都吸收了这次的经验，以法律为依据，尽可能在私下里解决双方的纠纷和矛盾，而且尽可能使双方和好如初。
在办理这个案子的过程中，甘地接触了本案的律师阿·伍·贝克。贝克先生在当地享有盛名，且对宗教事业十分热心，是个虔诚的而且很有学问的基督教徒。甘地在英国留学时就对宗教有极大的兴趣，因此，两人一见如故，共同的语言、共同的事业、共同关心的话题，使他们成为要好朋友。贝克还为甘地介绍了许多宗教界的朋友，经常与他们一起参加宗教活动，交换读书心得。浓厚的宗教气氛和朋友之间的真诚相待，使甘地感到了群体感情的珍贵。他还阅读了许多宗教经典，尤其是《圣经》对他的思想产生深刻影响，耶稣的品格令他迷恋。他对贝克谈了自己的心得体会：“基督的高贵形象，是如此坚韧、和睦、可爱而又充满宽恕。他教导信徒当受到侮辱和打骂时，不能回击。当别人打左脸时，最好伸出右脸供打。我认为这是一个完人所树立的最好榜样。”甘地还通过对自己信仰的印度教与基督教、伊斯兰教比较研究，得出了他一生中最重要的宗教观点：任何宗教都是平等的，没有好坏与善恶的差别。
铁布赛在比勒托利亚与达达·阿布杜拉齐名，都是南非印侨中举足轻重的人物，他在公众中而且很具号召力。甘地在与他的接触中发现了这个优势，因此，甘地提议，在铁布赛家里召开一个由当地所有印度人参加的集会。甘地在会上作了题为《商业上的诚实》的演讲。面对公众演讲，这是第一次。
这次演讲获得意外的成功。演讲主要就侨民在任何地方都致力于培养个人的道德，即生意上的诚实，清洁的个人习性，相互支持的勇气，团结一致，谈了自己的看法，告诉大家这种自觉和无懈可击的修养对居住在异国土地上的印侨是至关重要的，因为他们的个人行为往往代表着自己的祖国和人民。他不是慷慨激昂，而是娓娓道来。从此之后，每一段时间，印侨们就要召开一次会议，成为惯例。这次会议为以后的斗争打下了坚实的基础。一夜之间，腼腆胆怯的甘地在印侨之中确立了新的地位。
案子顺利了结，甘地不想再留在南非，便开始作回国的准备。作为达达·阿布杜拉公司股东的阿布杜拉赛坚持要为甘地饯行。就在这个时候，新的任务又向甘地招手了。
原来纳塔耳立法议会正在讨论法案，企图剥夺印度人的选举纳塔耳立法议会议员的权利。
阿布杜拉赛告诉甘地：“如果这个法案通过了而成为法律，那就会使我们的处境极为困难。这是钉入我们的棺材的第一支钉子，它打中了我们自尊心的根蒂。”
于是参加饯别会的印侨都纷纷挽留甘地留下来。盛情难却，甘地同意再住一个月。不久，便由甘地召集，在阿布杜拉赛家里召开了一个会议，主要是决定对选举法提出反对意见。参加会议的志愿者很踊跃，印侨学生、商人几乎都到了。甘地在会上作了情况说明，并提出要电告议会议长和总理约翰·鲁宾逊。大会决定请甘地代笔草拟一个请愿书，并经印侨四处奔走征求到一万多人的签名，当地几家报纸刊登了这个请愿书，并刊发了评论。但是这个法案还是获得了通过。
印侨们更是气愤不已。他们通过这次斗争，懂得了更加团结、坚持斗争的道理。请愿书被印了一千多份，在当地广为散发。《印度时报》发了社论，表示支持请愿书提出的要求，伦敦的《泰晤士报》也表示坚决支持这一行动。
在舆论的奋力支持下，印侨们建立了新的信心。
甘地原想再留一个月的打算看来是不行了。他后来回忆这段历史时说：
“印度朋友从四面八方把我包围起来，要求我长期住下来。”为了解决甘地 的收入和开销，当地20多个商人自愿聘请他为法律顾问，为期一年。达达·阿布杜拉把准备为甘地送行的经费拿来为甘地买了家具，办起了甘地律师事务所。这样，甘地就不得不决定暂时定居南非纳塔耳了。
甘地向纳塔耳高等法院申请律师资格。来南非之前，他曾向孟买高等法院申请获得了注册资格。但是这里的律师协会全是欧洲人，他们处于自身利益的考虑和种族观念的影响，一致反对同意甘地的申请。律师协会还请了当地一名最著名的律师支持他们。但是这名律师却又与阿布杜拉公司关系甚密。他悄悄约见甘地，告诉甘地只要阿布杜拉能出具品行证明，也许有指望。
果然如此，最高法院的干涉没有成功，还是通过了他的申请。
但是在注册宣誓仪式上又起风波。首席法官非要甘地摘下印度头巾才能宣誓。甘地犹豫一下还是照办了。对此一些印侨很是不理解，包括达达·阿布杜拉等有名望的人都想不通。可是，甘地向他们解释说：“我之所以这样做，不为别的，只为保存自己的力量应付更大的斗争。我不应该因为坚持戴头巾把一个战士的技能消耗殆尽。为了更大的事业，这是值得的。”
后来甘地多次谈到这件事，他颇为欣赏这次“妥协的美妙”。他认为这是坚持真理的一种方式，这种精神是他非暴力抵抗运动的一个重要部分。
甘地之所以同意继续住在纳塔耳，从事律师业务其实只是他的次要目的，主要目的他还是想要把在南非的印侨组织起来，发动起来。因此，他经常考虑这么一个问题：斗争需要一个经常性的组织，这个组织要有号召力、战斗力。经过反复思考，他建议将这个组织的名称叫做“纳塔耳印度人大会”。
1894年5月22日，纳塔耳印度人大会正式成立。
大会在阿布杜拉家成立。这天这里挤满了人，大家热情很高，情绪激昂。
会章规定，每月交五先令的人，才能入会。达达·阿布杜拉月交二英镑，甘地自愿月交一英镑，还有不少人都愿意月交10个先令。加上一些捐款，会费已不成问题。但是原来规定会费每月收一次，难度很大。甘地又是大会秘书，这个任务自然落到他的头上。后来甘地经与大家商量，把会费改由一年交一次，免除了许多麻烦，而且交起来也踊跃。大会的一个显著特点，是吸取了当地印侨学生或受过教育的印度人参加，由此印度人教育协会也宣告成立。
协会成为一个辩论场所，会员定期前来宣读各种问题的论文。
在这期间，甘地先后写过两本小册子。一本是《向南非的每个英国人呼吁》；另一本是《印度人的选举权——一个呼吁》。这两本小册子当时在南非广为流传，影响很大，为组织赢得了很多支持者和同情者，争取到了许多朋友，并且得到了印度各党派的支持，也为大会提出了行动路线。
纳塔耳印度人大会虽然只吸收了华侨学生和知识阶层的人员入会，但是大会明确提出了要为非技术工人和契约工人服务。
一天一个衣衫褴褛的泰米尔人，手持头巾，张着两个门牙被打落的嘴，直流鲜血，站在年轻的律师甘地面前。甘地看到这种惨像后，极为同情，劝他缠起头巾，像平等地位的人一样挺直腰杆。这个受到侮辱的访问者名叫巴拉桑达拉姆。他在德班一个欧洲人家中当契约工人。他的主人无端痛打了这名无依无靠的苦工。甘地请来了医生开了受伤证明书，然后领着这个受伤的人去见县长。在县长的支持下，使这名工人离开了他的雇主，转到另一个雇主手中。甘地解救了一名契约工人的消息不胫而走，许多苦工都把甘地视为朋友，他们从这件事情上受到了极大的鼓舞，认为甘地是他们的靠山，为他们带来了希望。
就在巴拉桑达拉姆事件之后，接着又发生了另一件事。当时纳塔耳政府推出一项对印度契约工人征收年税25英镑的决议。甘地了解这一情况后，立即做出反映。他把这件事提到大会讨论，大会当即决定要组织必要的反抗。
当地政府为了取得英国政府的同意，还派员前往印度交涉。正当甘地领导纳塔耳印度人大会组织反抗之时，印度总督额尔金勋爵却表示不同意征收 25英镑但却同意征收3英镑人头税。这个态度使甘地以及印度侨民很失望。甘地认为，纳塔耳政府这样做，是对印度侨民的一种新的欺压办法。总督接受3英镑的人头税，完全没有顾及到印度人的利益。试想，如果一家四口，夫妻二人加上两个孩子，每年得交12英镑，而做父亲的在那里每月只有14个先令的收入，就是3英镑的人头税也同样是非常残酷的。因此，尽管印度总督与纳塔耳政府达成协议，甘地仍然没有放弃斗争。他决定直到人头税取消为止。这场斗争后来成了流血事件，当局向契约工人们开了枪，一些人因此丧了命，一万多人还受到监禁。就是这样，斗争实际上还是没有停止。20年后，3英镑的人头税终被迫取消。应该说，这是广大印侨共同斗争所取得的最后胜利。
斗转星移，甘地已在南非侨居三年。他与这里的印侨建立了深厚的感情，他的业务打下了坚实基础，这里印侨离不开他、需要他。在遥远陌生而又不友善的土地上，甘地经历了苦难，在恐惧中得到了磨练。他心灵中闭合的花蕾已经完全绽开了。他干脆做了决定，把家搬到南非，准备久住此地了。
1896年，甘地告假回国。
