富兰克林在哥伦比亚法学院的学习成绩平均为3分，第一学年就有两门课——契约法和诉讼程序仅得2分，只得补考。由于没有参加毕业考试，1907年离校时他没能拿到法学学士学位，但是在此之前通过了纽约律师协会的考试。
罗斯福随即进入了座落在华尔街54号著名的卡特—莱迪亚德—米尔本法律事务所，在这里充当一名初级书记员。第一年见习期没有薪水，第二年开始拿微薄的工资。他只能整天泡在办公室里打杂，间或受理一些小官司。他缺乏经验，律师才能也不出众。有时他靠投机取巧，靠绕开实质内容而专攻诉讼形式，也居然打赢了一些小官司。通过一些不大的诉讼案件，尤其是通过在律师事务所里所接触的形形色色的人物，罗斯福比较深刻地认识到了自己的国家。他后来被调到该事务所的海事法律部，他才对工作有了些兴趣。此外，每个周六下午，事务所年轻同事们的自由聚会也让他感到些兴趣。同事们都视他为一个与自己没有利害冲突的乐天派。
这段时光平静而寻常。在海德公园，罗斯福承担了一些与其地位相称的具有献身社会意味的义务工作。他参加了志愿消防队，成了一名义务消防队员。他担任了哈德逊河水上游艇俱乐部副主席和圣詹姆斯主教派教会的教会委员。此外，他还是波基普西第一国民银行的董事。通过积极参加这些组织和协会的活动，罗斯福初步掌握了同各阶层人士打交道的技巧，并很快成为该社区中年轻活跃的栋梁。他乐观随和，同邻居搞得很熟，口碑很好。这样，罗斯福已不知不觉中按着前人惯用的方式，为日后自己在这个社区竞选某个职位打下了基础，这实际上等于在他实现自己远大目标的征途上迈出了成功的第一步。
1910年早春，机遇降临到罗斯福的头上。一般来说，美国的政治家为了取得由选举产生的职位，都会采取相同的途径。他们首先会选择在一个可能在竞选获胜的社区中扎根。他们会参加诸如共济会、农民协进会、埃尔克斯协会、退伍军人协会等各种各样的组织，这样就可以与组织中各方面进行有益的接触。他们也非常积极的做礼拜、协助慈善事业和尽公民的义务等。他们小心翼翼地避开导致人们分裂的争议，这样就会迅速地使自己在任何得到广泛社会支持的运动中居于首领地位。最重要的是，他们努力使自己成为善于同各阶层人士打交道的“交际家”。但是，这些事罗斯福一件也没做过。他可能梦想过要参加竞选获得公职。但肯定地说，他没有做过什么准备工作。这次机遇不是他自己创造的，而是自己送上门来的。
当时，代表达切斯县的州参议员职位出了空缺，州民主党的头头们想把这个被共和党人垄断了32年之久的公职夺过来。纽约州达切斯县的区律师和波基普西的一位重要民主党人约翰·E麦克去拜访罗斯福，他问罗斯福有没有兴趣参加竞选。罗斯福作出了十分积极的反应。民主党负责人帕金斯对他说：“如果你要去竞选参议员，你就得脱去这双黄靴子，换一条像样的裤子！”富兰克林·罗斯福当时没有给予他们肯定的答复。他对民主党委员们头脑里想些什么了解得一清二楚；但是，他一如既往，向来是以长远眼光来观察国内的政治风云。
当时美国国内形势错综复杂，人心浮动。
但是，罗斯福的母亲和多数亲友都反对罗斯福去作一次他们认为“毫无成功希望”的竞选，他们觉得这样做有点像一位英国绅士要去“经商”了。只有她的妻子对他的决定表示支持。她指出，凡是丈夫愿意干的事，她都支持。当时，埃莉诺正在第四次怀孕期间，大部分心思花在孩子身上，但是强烈的社会责任感使她赞成丈夫所作的决定。他给西奥多·罗斯福打了个电话。
“特德叔叔，我准备竞选纽约州参议员。”
“干得好，我的孩子！我早就说过，像你这样的人应该进入政界才是！”
“不过，我是在民主党的候选人名单上。”富兰克林补充说。
一声闷雷般的怒吼声几乎震得电话线都在颤动。
“你这个卑鄙的兔崽子！”西奥多咆哮道，“你这个叛徒！你不想想，这不是在开我的玩笑吗？这不是故意和我作对吗？再说，你作为一个民主党人是不可能获胜的！”
但是，罗斯福已经下定决心参加竞选了。他把竞选建立在对农民提供同情的援助和反对按党魁意志办事上面。作为政治家的休斯州长曾经是一个诚实的资产阶级改革家，他揭露过北部各城市的共和党机构按党魁意志办事的情况。罗斯福充分利用这一点，他在接受提名的演讲中说：“正如诸位听知，我接受被提名是绝对独立的，我并不效忠于任何个人，我不受任何势力集团的影响。”他强调一切政府包括联邦的、州的、县的以及镇的，全部根基在于它们的地区代表性。他反对那些蛮横的党魁们贪污腐化、结党营私。
罗斯福想一鸣惊人。他一心想打破先例，有声有色地表演一番。这位初出茅芦的政治家，和前总统西奥多·罗斯福的关系是他竞选中一笔很重要的资本。他渲染他和“特德叔叔”的关系。在一次集会上，他一开始就说：“我不是‘特德叔叔’。有个小伙子前几天对我说，他知道我不是‘特德’。我问他‘何以见得’。他回答道，‘因为你不发火。’”他有意回避那些可能使选民们按照自己的党的路线而产生分裂的全国性问题。他后来在写给一位共和党人的信中说：“我本人始终也看不出一名州候选人和一名地区候选人在全国性的政策方面有多大的差别。”他也是地方选举中第一次使用汽车进行竞选的候选人。当时，这个地区仅有一辆汽车，是一辆大型红色的马克斯韦尔轿车，装有闪闪发光的黄铜车灯，但没有风挡玻璃和车篷。罗斯福租赁了这辆汽车并用旗帜加以装饰，当时，汽车还给人以一种神秘感，并使农民的马受惊。但这辆马克斯韦尔轿车以每小时25英里的速度跑遍许多地区，吸引了许多人的注意。
罗斯福在竞选演说中面对农民听众大骂城市的两党大亨，攻击塔夫脱政府的高关税政策，使农民贱卖农产品，贵买国外进口的制成品，严重损害了农民的利益。他的讲话受到农民们的热烈欢迎。罗斯福一天要跑好多地方，发表10多次讲话。埃莉诺对丈夫的竞选活动十分关心，她经常挤在会场里听罗斯福发表竞选演说。埃莉诺后来回忆道：“他说话慢慢吞吞，有时停顿很长一段时间。每逢遇到这种情况，我总担心他再也说不下去了。”但是他却以诚恳的力量抓住了听众，埃莉诺为他感到非常自豪。
1910年11月的选举日，天气非常不好。关于选举结果的统计工作进度缓慢，但大局很快就明朗化了。罗斯福在3万张选票中以多于对手1140票当选为纽约州参议员。全国一半以上的州长职位由民主党人担任，包括新泽西州，当选为该州州长的是普林斯顿大学校长伍德罗·威尔逊。
29岁的富兰克林·罗斯福踌躇满志地来到了他的办公地——纽约州首府奥尔巴尼。他在州议会大厦附近以每月400美元租下了一幢三层的楼房，然后把埃莉诺和儿女们接来一起住。由于州议员的年薪只有1500美元，一般议员仅在开会期间来此租个便宜房间住，而把妻子和儿女留在家中，所以，罗斯福的家就成了民主党的进步派议员经常聚会的场所。
运气与机会伴随着富兰克林·罗斯福到了奥尔巴尼。他甚至还没有对任何一个法案投票之前就已经成了纽约人所皆知的政治人物了。按照路易斯·豪的说法，这是“第二个罗斯福走上了30多年前西奥多·罗斯福就已赢得声誉的舞台，这是不能等闲视之的事情”。记者们匆匆忙忙地发表关于这个穿高领衣服、带金色夹鼻眼镜、热情洋溢的年轻贵族的专题报道。《纽约时报》驻奥尔巴尼一位老资格的记者W阿克塞尔·沃思在曾经这样描绘他的初次露面的：“富兰克林·德·罗斯福在本届议会开幕的那天，轻松地步入参院大厅。他有一张证书证明他有资格坐在保留席的一个座位上，他来认这个座位了。他不引人注目地来到白色标记的26号桌子边，坐进了桌子后面那张有座垫的大皮椅子里。这是参院里代表哥伦比亚—帕特南—达切斯选区的代表席……从此，这张桌子和坐在这张桌子后边的人就成了公众注目的地方。”
罗斯福作为州议会里最年轻的议员，一出场就表现为一个不甘平庸的进步派。他的仪表从容不迫的举止引起了民主党党阀们的注意。纽约州总部坦慕尼厅的头头蒂姆·沙利看着罗斯福的背影，对手下人说：“又是个罗斯福家族的人。这家伙还年轻，在他翅膀还没有硬的时候，把他搞下来是不是更保险点？”但是，罗斯福却不是一个容易对付的强者。他在州参议院力主改革，呼吁建立一个任人唯贤、不受政党机器控制的廉洁的好政府。他的许多主张与19世纪80年代兴起的平民主义相似，但又注意不吓跑中产阶级。
罗斯福要进一步打出自己的旗帜，于是一场标新立异的造反斗争开始了。原来州议会要推选一名联邦参议员去接替昌西·迪普，他的任期到1911年3月4日就要结束了。坦慕尼头子查尔斯·F墨菲传话下来，威廉·F希恩将作为民主党的候选人。人们称希恩为“蓝眼睛比利”，他是一个标准的雇佣政客，既不是最大的坏蛋，但也不是最大的好人，在政治上有一段令人沮丧的趋炎附势的历史。他原来是法罗的一名政客，曾和当时正在发迹的格罗弗·克里夫进行过残酷的斗争。后来，他在纽约市成为公共运输与公共事业方面的一个大企业家，发了大财，很有势力。现在他渴望在参议员获得一个席位，使他的一生更加体面。
按照原来的规矩，党魁们内定的人选必定当选，但是罗斯福决定不投希恩的票，哪怕自己的政治生涯未曾开始就告结束。他打算不顾核心小组对自己的成员拥有绝对约束力的这条党规，毅然采取这种立场。那些大都来自州北部的独立不倚的民主党人围绕希恩的问题形成了一个反对派；虽然罗斯福不是这次造反的发起人，但逐渐成为造反派的领袖。在民主党议员中，只要少了20张票就足以使希恩出局。就这样，在众、参两院联席会议举行表决时，以富兰克林·罗斯福为首的造反派投了其他候选人的票，希恩由于缺少20张票而落选。于是全部火气都发泄到20个“造反”分子的头上。坦慕尼厅的首领们陷入一片混乱。
党魁们对他们施加压力了。罗斯福的追随者们受到严重的威胁，并且遭到暗算。他们的私人企业受到阻挠，他们的抵押贷款被催还。罗斯福四处奔走，将他们团结在一起。处境窘迫的，他筹款接济；情绪消沉的，他就鼓气壮胆。但慕尼厅分子千方百计地进行分裂破坏，编顺口溜对罗斯福进行讽刺挖苦。
“造反派”虽然受到了打击，但他们终于阻止了希恩当选。它的影响远远超出了纽约州的边界。这样大吵大闹了一番，使下面的事实变得家喻户晓：由州议会选出参议员的这个古老制度，往往会挫伤全体选民的意志。
一个强大的运动早已掀起，它正朝着直接选举参议员的一项宪法修正案的方向发展，“反希恩战斗”在罗斯福的亲自推动下，给这个运动带来了新的动力。他成功地使州议会通过了一项敦促纽约州国会代表团投票造成这项宪法修正案的决议。
1912年5月，国会把这个第十六条修正案提交给各州；1913年5月31日，它开始生效，这次罗斯福造反的一个间接的然而十分重大的后果是：它给民主党的改革分子带来了新的信任与威望，因此促成了“新自由”的预言家伍德罗·威尔逊的崛起。
