南非印度侨团的意外召唤，说明在那里有着重要的使命等着这位事实上经成为侨团首领的甘地。
英国殖民大臣张伯伦近期要访问南非。印侨们觉得这是一个极好机会，应该抓住这个机会向张伯伦提出要求，为在南非的侨民争取应得的合法的权益。
甘地一到南非的德班，就立即着手准备备忘录，以便尽快递送到张伯伦手里。然而初次与张伯伦的会晤，甘地却大失所望。张伯伦来到南非，只在乎争取英人和波尔人对英国政府的民心，而把印度侨民一点也不放在眼里。
“你知道，”张伯伦对甘地说：“英国政府对自治领土是没有什么控制的。你们的疾苦看来是确实的。我将尽我的力量帮助你们，但是如果你们想生活在欧洲人中间，你们就得尽可能和他们友好相处。”
甘地感到，张伯伦是个老辣的政客，他的态度虽然带有文雅而坦率的一面，但是他的话里分明表现出英国政府对殖民地国家实行强权政治不可动摇的一面。已经成熟并拥有了斗争经验的甘地偏偏不信你那个邪。张伯伦即往德兰士瓦访问。甘地也就通过朋友弄到许可证迅速赶到那里为当地的印侨准备备忘录。这里的亚洲人事务部以为甘地没有获得许可证，按照政府颁布的维持和平法令，密谋准备拘捕甘地。但是官员们一了解，才知道甘地是持许可证而来的。于是他们又采取其他方法设法阻止甘地与张伯伦见面，便提出要当地侨团提供代表团代表名单。甘地与另一位印侨领袖铁布赛去见亚洲人事务部的负责人。那位长官态度极其恶劣地对甘地说：“你不知道你无权到这里来吗？你所得到的许可证是人家发错了。你不能算作一个落户的印度人，你一定得回去。你不能在这里等候张伯伦先生，亚洲人事务部特地成立起来，就是为了保护这里的印度人。你走吧！”说完，便把甘地赶了出来。
随后亚洲人事务部向印侨团寄来一封信，明确要求把甘地名字从印度代表团名单中除掉。甘地经过再三考虑，为了不致影响印度人的请愿活动，便劝侨团领袖同意找乔治·戈夫莱律师来代替甘地率领代表团前去请愿。
侨团有人为此埋怨甘地，认为当初印度人不应帮助英国人打赢波尔战争。但甘地却有另外的想法。他认为现在最关键的问题是要在约翰内斯堡成立事务所，为印度人甚至整个亚洲人壮胆服务，打掉亚洲人事务部那帮官员的嚣张气焰。事务所经过注册成立后，甘地马上着手收集亚洲人事务部两个官员在当地敲诈勒索的罪证并向法院控告他们的罪行。由于陪审团的开脱，法院虽然没能判处他们有罪，但是当地政府深深感到甘地及其侨团不好惹，将两人革职。
从1903年起，甘地开始与通神学人士有了友好往来，经常与朋友诵读《瑜伽经》、 《瑜伽论》、《瑜伽修多罗》、《古兰经》、《圣经》。《薄伽梵 歌》对他更有吸引力。他几乎每天都背诵其中一两首。而且把几首《薄伽梵歌》写在纸上贴在墙上，随时诵背。他把《薄伽梵歌》作为行为准则。这段时间，甘地也同欧洲人有了密切的交往。他的思想和行为“按照神灵的指示”，发生了巨大变化。在所有接触的欧洲人中间，他最推荐的是史丽丝小姐。她是甘地的速记员。刚来时才17岁。甘地后来回忆与她的交往时评价说她：“其品格像水晶一样莹洁，其胆识可以使战士失色。”在进行非暴力斗争那段时间，几乎所有的领导人都被抓进监狱，多亏她继续领导了这个运动。
1904年，马丹吉特先生与甘地一起共同创办《印度舆论》周刊，开办了一所印刷厂。刊物由曼苏克拉尔·纳扎先生任主编，甘地负责经营。事实上，刊物的总负责人是甘地。甘地为刊物付出了很大心血。从创办起，每期几乎都有甘地的文章，宣传他的主张，宣传非暴力抵抗运动的原理和实践，在印侨中间产生广泛影响，成为印侨亲密的伙伴。
这段时间，甘地无意中读到了英国哲学家约翰·鲁斯金的著作 《给那后 来的》。书中三个观点对他启发很大。这三个观点是：1.个人的好处包含在众人的好处之中；2.律师的工作同理发师的工作具有同样价值，因为依靠工作谋生是人们共有的权利；3.劳动的生活，即种地人和做手工的人的生活，是有价值的生活。甘地打算把这些原则付诸行动。他准备开辟一个农场。在那里每个人都要劳动，领取同样的生活费，无论属于什么人种肤色和国籍，每月一律支取三英镑生活费。《印度舆论》周刊也将搬到农场去办，印刷所也同样如此。这个想法得到很多人支持，很快就筹集到1000英镑资金，一个星期便买下了20英亩土地。这里有一股清幽的泉水，有遍山的果林，离杜尔班只有二4英里，离火车站只有2英里，生活交通都极为方便。这个农场取名叫凤凰村。
到凤凰村建立，甘地已到南非又是一年，原来答应妻子一年内回去。现在各方面事业正处在鼎盛时期，要回国成为不可能了。于是他决定把妻、儿接到南非。妻、儿在船上发生了一点意外。八岁的三儿子因与船长玩耍折断胳膊。一到家，甘地不请医生，坚持用土疗和水疗为儿治伤，居然痊愈。凤凰村很快发展成小村庄，逐渐兴旺起来，不少人在这里定居，开始繁殖。对待孩子们的教育，甘地有自己的想法和做法。虽然他很想为孩子亲自上文化课，但由于事务繁忙，实在做不到，孩子们对此也颇有埋怨情绪。他所做到的就是叫孩子们参加推磨、扫地一类的劳动，培养他们热爱劳动的品德；每天带他们往返四五里地到事务所，锻炼他们的体魄；每天与他们一起读《薄伽梵歌》，以完善他们的信仰；每天用古遮拉特语与他们谈话，以培养他们不忘民族文化和民族传统，长大好为祖国服务。
又过一年，即1906年4月，南非发生朱鲁人“叛乱”。南非联邦纳塔耳省的朱鲁人在英国殖民主义者入侵时，曾组成独立的政府。后英国人提出最后通牒，叫他们放弃主权，朱鲁人英勇地进行抵抗，于是便在1879年爆发了野蛮的朱鲁战争，结果是朱鲁地区被兼并。这次所谓“叛乱”，实际上只是长期散居在遥远山岭和夹谷之间的朱鲁人的抗税行动。
甘地与朱鲁人没有发生矛盾，朱鲁人也没有伤害过印度人。甘地开始对“叛乱”存有怀疑，但是想到不列颠帝国利益的存在，便主动向纳塔耳省总 督提出申请，准备成立一个印度救护队。这个建议很快被批准。甘地很快招募到24人开赴骚动地区。他们的救护队被安排照护朱鲁人。因为白种人不愿意为受伤的朱鲁人作救护工作。这些受伤的朱鲁人并不是在战场上挂的彩，而是被英军抓获后鞭笞的。他们得到印度救护队的护理，如天赐福。印度救护队把自己对朱鲁人的同情全部转化成为细心的照看。甘地认为，这次救护队总算没有白成立，通过救护那些可怜的朱鲁人，他的良心得到了安慰，同时也从朱鲁人的斗争中得到许多新的启示。
非暴力抵抗运动，是在这个运动名称诞生之前就存在了。甘地开始曾试图用“消极抵抗”来概括这一运动，后来感到这样的表述似乎过于狭窄，不能充分表达其中丰富而真正性质的内涵，而且在古遮拉特文中，它还被当作弱者的武器，其特点是仇恨，最后还可能成为暴力。甘地苦思多日不得其恰当的名称，只得在《印度舆论》刊物上发了一个征名启示。结果甘地的侄儿摩干拉尔·甘地提供的“萨达格拉哈”得了奖。“萨达”意为真理，“格拉哈”意为实力。后来甘地根据这个意思将其改为“萨提亚格拉哈”。“萨提亚格拉哈”在古遮拉特文中意思是坚持真理，具体地说，也就是“由真理与爱及非暴力所产生的力量”。甘地认为“坚持真理是强者的灵魂力量，弱者是不能使用的，既然如此，不论有无武器，都将遵循这种原则”。为坚持真理而采取特别方式进行斗争，这便是甘地所说的非暴力抵抗运动的要素。这一运动实际是甘地在南非生活的历史，也是他体验真理的历史。后来他经过深思熟虑，撰写了《南非非暴力抵抗运动史》一书，充分阐明了他的观点，产生了广泛而深远的社会影响。
1906年8月22日，德兰士瓦官方制定了一项亚细亚法案草案。法案规定凡年满八岁的印度人必须在警察局户籍簿上注册登记，领取带有个人手印的特别身份证。如不登记，将处以10O英镑罚款或三个月拘役甚至驱逐出境。
甘地一看到这个草案，即感到问题的严重。这分明是要彻底毁掉印侨的利益，把印侨逼到绝路，以至将印侨伺机赶出南非。甘地当即召集了印侨首领会议，商量对策，会议决定向当地政府请愿。9月11日甘地等又在约翰内斯堡犹太帝国剧院召集印侨大会，与会人数达三千多。甘地在大会上慷慨陈词，号召大家为保护自己的权益反抗到底，绝不能容忍这种“套狗的项圈”，更不能屈从于这一歧视性行为。大会通过一系列重要文件，表明印侨宁可牺牲，也不屈服的决心。但是印侨的反对仍然无济于事，这个法案当然还是通过了。
针对这一情况，甘地建议应立即组织代表团到伦敦去向英国政府请愿，通过英国政府向当地政府施加压力，以取消这一法案。
11月20日，甘地一行到达伦敦。在伦敦活动了六个星期。他们的努力得到英国舆论界的大力支持，也得到了当时住在伦敦的国大党元老、82岁高龄的达达拜·瑙罗吉等的支持和同情。在他返回南非途中，英国殖民大臣即已宣布，法规暂缓执行，附属法规也暂缓实施。可是到了1907年3月，德兰士瓦国会又通过了另一项法案，其内容与亚细亚法案大同小异。而且法案要求印侨应于当年7月31日前往警察局登记。
斗争越来越复杂，越来越艰巨。为了适应新的形势和新的斗争，甘地主持成立了“非暴力抵抗协会”，领导这场斗争。协会在甘地的率领下，多次举行集会，挨户游说，号召大家不要前往登记。当时南非华侨也与印侨一起参加了这场斗争。根据甘地的非暴力抵抗原则，甘地希望不参加登记的侨民不要与警察发生正面冲突，如遇逮捕则欣然就范。
离登记期限只有最后一天。政府在比勒托利亚举行印侨群众大会。与会人员达一万三千多人。政府官员在会上讲话动员大家尽快登记，甘地作为翻译一边翻译官员讲话，一边又发表自己的观点，意思是如果此法一旦实行，我们的利益将无保障。结果，同意登记的印侨仍然寥寥无几。不久甘地等24名印侨领导人被传讯。甘地要求法庭对自己予以重判，法庭果然判他二个月徒刑。1908年1月10日执行这一天，许多印侨举行抗议游行，被警察驱赶，多人受伤。接着又有非暴力抵抗运动领导及成员入狱，入狱人数达155人。
甘地以乐观的态度对待这段铁窗生活，在监狱里，他拼命地阅读托尔斯泰、鲁斯金等人的著作，从资产阶级人文主义和社会改良思想中吸收营养。这段时间，南非、印度、英国对南非关押非暴力抵抗运动者的抗议越来越盛。当局屈于压力，英国驻南非总督史末资将军不得不前往监狱与甘地谈判。经过谈判，双方作了让步，甘地同意号召登记，而史末资同意修改法案。
甘地召开集会，动员印侨登记，引起不少印侨怀疑与不满。一个帕西族印侨上前质问他：“当初动员我们不登记的是你，现在动员我们去登记的又是你，我们怎么才能相信你呢？”
甘地耐心解释说：“如果为了服从这个法案，就是签一个字也是罪孽，更别说按手印。现在情况不同了。正如行礼，假如你强迫我向你行礼，我照办了，那等于当众羞辱自己，但如果我出于自愿，让我以同等的资格向你行礼，那就是表现我的风度与人情。”他的这个观点显然使一些印侨无法接受。
但是甘地决心已定，他坚持要第一个领到登记证。就在他快到登记之处时，冷不防被他的同胞痛打一顿。然而甘地没有动摇。在甘地的带领下，已有八千多人前去登记。
就在登记之后，当地政府背信弃义。史末资将军发表一个声明，矢口否认自己有任何承诺。甘地曾经说过，信仰非暴力抵抗的人，随时都要准备被欺骗。这是他的深切体会。甘地不甘失败，多次与政府交涉，未果，于是在1908年8月16日，甘地再次组织盛大群众大会，动员领到登记证的人员交出证件，并当众投入火中。顿时，二千多张登记证在烈火中化为灰烬。这时史末资将军再次约见甘地谈判，破裂后，政府对非暴力抵抗者又一次进行镇压，甘地等一百五十多名非暴力抵抗运动者被捕。一个多月后甘地出狱。当他前往德兰士瓦时，当地警察局要查验他的注册证，甘地不从，又一次被投入监狱，被关押三个月。直到1909年5月24日才出狱。该年6月，史末资一行前往英国伦敦寻求支援，甘地等人立即组织代表团前往伦敦请愿。这次到伦敦虽然没有任何收获，但是甘地在理智与道德上得到了很大促进，在他的脑海中原有的潜在力量更加活跃。在回南非的船上甘地奋笔写下一部三万字的书稿《印度自治》。这本书充分论述了甘地坚持真理以及非暴力抵抗运动的思想和实践。它后来成为印度人民反对殖民主义统治的思想武器，受到印度人民和民族的高度重视。
经过这场暴风雨般的斗争之后，甘地继续从事他的律师事务工作。他的名字已在南非和印度大地广为传开。1910年5月30日，甘地的一位德国籍好友卡伦巴赫将约翰内斯堡附近的 1100英亩的农场无偿地捐献给非暴力抵抗者。甘地在此建立了“托尔斯泰新村”。他想按照托翁的思想，建立一个没有暴力、人人平等的乌托邦王国。新村建立后，非暴力抵抗者陆续搬进新村居住。托尔斯泰新村是一个大家庭。甘地就是那一家之主。从1910年起，甘地自愿停止了他年薪6000英镑的律师业务，每月只领3英镑的生活费，全部积蓄也都用于公益事业。新村实际上也是非暴力抵抗者的庇护所。有一次甘地听说新村里开始出现堕落行为，他便以绝食加以警告。到1913年，非暴力抵抗运动者陆续从监狱里出来后，甘地动员大家慢慢地又搬到凤凰村生活。
1913年，甘地本想回印度，但还来不及启程，南非又发生了一件意想不到的事情。当时一对印度夫妇来到南非，但是当局不准其妻登岸，理由是印度婚姻不合南非移民法规定。甘地为这对夫妇奔走呼吁，政府不予理睬。3月30日，甘地在约翰内斯堡举行集会，提出抗议。政府依然不予解决，引起印侨强烈不满。这次行动广大印度妇女也都积极参加了。政府为了镇压这次运动，逮捕了不少妇女非暴力抵抗者。事情越闹越大，双方越闹越僵。许多工人开始罢工。新堡五千多人开始往德兰士瓦行进，准备移居托尔斯泰新村。
甘地向史末资发出通知，希望他们改变主意，但是史末资回答是：悉听尊便。
于是队伍继续前进。这时，政府便将甘地再次逮捕，并镇压了长征队伍。甘地被判19个月苦役。甘地入狱，纳塔耳二万工人罢工。政府派出军队，武力镇压罢工工人，罢工群众死伤无数，当地监狱人满为患。是年12月18日甘地获释。史末资再次与甘地晤面谈判。当时正值欧籍铁路工人罢工，政府已是焦头烂额。甘地表示诚意，承诺放弃准备再次发动的非暴力抵抗。到1914年1月21日，甘地与史末资达成协议，政府释放了所有被捕人员，甘地也停止非暴力抵抗。过了五天，南非联邦政府通过一项《改善印度人待遇法案》。
甘地冒着生命危险组织的非暴力抵抗运动，从1906年9月到1914年1月26日，历时7年，终于取得了伟大胜利。印侨们奔走相告，感慨万千。
半年之后，甘地就要告别生活、战斗了21年的南非回国。印侨们依依不舍。这时国内传来他长兄去世的消息。甘地悲痛欲绝。
