于是，一些胆大包天、不择手段的布尔什维克分子，就把目光投向了银行和运钞车，搞起了所谓的“战斗性征用”（说白了就是抢劫），为党筹集经费。 而咱们这位未来的“钢铁之人”，在这方面也展现出了他冷酷果决的一面。
1907年6月，第比利斯市中心发生了一起震惊沙俄帝国乃至整个欧洲的银行抢劫案。一伙武装分子光天化日之下，用炸弹和手枪袭击了护送巨款的国家银行运钞马车，成功劫走了数十万卢布的巨款（这笔钱对当时的布尔什维克来说，简直是雪中送炭）。虽然斯大林本人没有直接参与现场行动，但据多方史料（包括一些当事人的回忆和后来的调查）显示，他正是这起大胆劫案的主要策划者和组织者之一。 他利用自己在外高加索地区的人脉和对当地情况的熟悉，精心策划了整个行动，并为行动人员提供了掩护。 这起事件虽然在党内也引起了一些争议（孟什维克就强烈谴责这种“强盗行为”），但也让列宁等布尔什维克领导人看到了斯大林身上那种为了达到目的不惜一切代价的“实用主义”和冷酷果敢的“才能”。
在残酷的地下斗争中，为了躲避沙皇秘密警察（奥克瑞纳）的追捕，革命者们往往需要使用各种化名。约瑟夫·朱加什维利也不例外。他用过很多名字，比如“科巴”（这是格鲁吉亚民间传说中一位劫富济贫的英雄的名字，也反映了他早年的一些理想主义色彩），还有其他一些不太出名的化名。
直到大约1912年左右，他开始越来越多地使用一个更为响亮、也更能体现其性格的笔名——“斯大林”。 “斯大林”在俄语中，是“钢铁”的意思。 这个名字，仿佛预示了他未来那钢铁般的意志、铁腕的统治风格以及对敌人毫不留情的冷酷。1913年，当他在维也纳（当时他与列宁等人有过短暂接触）为布尔什维克的报纸撰写关于民族问题的重要文章时，正式署上了“K.斯大林”（俄语“k. h”）这个名字。 从此，“斯大林”这个充满力量和冷峻色彩的名字，开始逐渐取代他那拗口的格鲁吉亚本名，并最终闻名于世。
搞革命，那可是把脑袋别在裤腰带上的买卖。沙皇政府对这些“颠覆分子”自然是恨之入骨，一旦抓到，轻则流放，重则绞刑。斯大林自然也成了沙俄警察局黑名单上的“常客”。
从1902年第一次被捕算起，到1913年最后一次被捕，在这短短的十一年间，斯大林先后被沙皇当局逮捕了7次，判处流放6次！ 这频率，简直可以去申请吉尼斯世界纪录了。
但更让人称奇的是，这位“钢铁之人”似乎也练就了一身“越狱”的本领。在这6次流放中，他居然成功地逃脱了5次！ 无论是戒备森严的监狱，还是冰天雪地的流放地，似乎都困不住他那颗不安分的革命之心（当然，也有人猜测他能屡次成功逃脱，可能与沙俄秘密警察内部的某些腐败或者有意放纵有关，甚至有传闻说他一度当过沙俄秘密警察的线人，以换取较宽松的待遇或逃跑机会，但这些说法至今缺乏确凿的直接证据，更像是政敌的攻击或历史的迷雾）。
这段时间，他大部分的“业余生活”，都是在沙俄帝国那些最偏远、最荒凉、气候最恶劣的地方度过的，比如西伯利亚的针叶林、北极圈边的冻土带……那日子，想想都让人不寒而栗。冰雪、严寒、孤独、与世隔绝、食不果腹……这些都成了他生活的常态。他就像一头被困在笼中的孤狼，在冰冷的黑暗中，默默地舔舐着伤口，积蓄着力量，等待着下一次冲出牢笼的机会。
尤其是在1913年那次被捕之后，沙皇当局似乎也对他这种“屡教不改”、“屡抓屡逃”的“惯犯”失去了耐心，决定给他来个狠的。他被流放到了西伯利亚图鲁汉斯克地区一个极其偏僻、靠近北极圈的小村庄库列伊卡。那里一年有大半时间是冰天雪地，人烟稀少，交通断绝，逃跑的难度极大。这一次，斯大林似乎真的被困住了。 他在这个冰封的世界里，一待就是四年。每天与他为伴的，只有单调的雪原、刺骨的寒风、偶尔出现的猎人和稀少的书籍。据说，他在这段与世隔绝的流放生涯中，变得更加沉默寡言，也更加坚韧和冷酷。
就在这漫长而艰苦的革命斗争和流放生涯的间隙，斯大林的个人生活也经历了一些波折。 1906年（一说1904年），他与第一任妻子叶卡捷琳娜·斯瓦尼泽结婚。这位格鲁吉亚姑娘，据说温柔贤惠，是斯大林早年动荡生活中难得的一抹温情。然而，好景不长，仅仅在婚后一年多（1907年），叶卡捷琳娜就不幸染上斑疹伤寒（一说肺结核）去世了，给他留下了一个年幼的儿子——雅可夫·朱加什维利。
妻子的早逝，对斯大林打击很大。在妻子的葬礼上，这位平时不苟言笑的硬汉，也流露出了罕见的悲伤。他将丧妻之痛深深地埋藏在心底，把年幼的儿子雅可夫托付给了岳母抚养，自己则再次义无反顾地投身