Команда была создана на базе завода имени С. П. Горбунова. Названия команды в силу того, что она представляла оборонное предприятие, которое нуждалось в некотором режиме секретности, постоянно менялись — Команда Ленинского района (она же п/я 747), «Крылья Советов», «Искра», «Рубин».
С 1948 года участвовала в чемпионате РСФСР. Лидерами команды в конце 40-х — начале 50-х были Виктор Бойков, Арам Мусаилов, Григорий Руненков, Иван Ноктиков, Константин Сундатов.
В период с 1948 по 1957 годы заводчане 3 раза занимали 3-е и 6 раз 2-е место в Поволжской зоне первенства РСФСР. В 1956 году команда пробилась в финальную пульку, которая проводилась в Грозном, заняла в этом турнире 9-е место из 13-ти.
В Высшем дивизионе играет с 2003 года. Сразу же после выхода в высший дивизион клуб завоевал бронзовые медали, а в 2008 году, к своему 50-летнему юбилею, стал чемпионом за 3 тура до окончания чемпионата.
Сезон 2009 Основная статья: ФК Рубин в 2009 году
В межсезонье команда усилилась защитниками Калешиным и Навасом, полузащитниками Быстровым и Горбанцом, также в клуб вернулся Домингес.
«Рубин» в первых же турах вышел на первое место в чемпионате страны и никому его не уступал. За сезон команда одержала 10 крупных побед и тем самым установила новый рекорд Премьер-лиги.
Большую остроту атаке команды придал вернувшийся Домингес, которого в конце сезона признали лучшим игроком чемпионата России. Вместе с Бухаровым они заняли второе и третье места в гонке бомбардиров.
Защита, и до этого бывшая весьма сильной, усилилась за счёт Сесара Наваса, также прогрессировал Ансальди, которого в конце сезона вызвали в сборную Аргентины.
В мае команда сыграла в финале Кубка России, где уступила с минимальным счетом ЦСКА.
В летнее трансферное окно были приобретены полузащитники Касаев и Муравский.
В 20-м туре в матче с московским «Спартаком», шедшим на втором месте, «Рубин» одержал победу со счётом 3:0 и упрочил лидерство. После этого «Рубин» одержал свою самую крупную победу в сезоне, 5:1 над «Сатурном», продлив свою победную серию до шести матчей с общим счётом 20:2. Был установлен клубный статистический рекорд — за девять игр до окончания чемпионата было забито больше мячей, чем за любой из предыдущих сезонов команды в Премьер-лиге.
Осенью начались матчи группового этапа Лиги чемпионов. «Рубин» попал в одну группу с командами «Барселона», «Интер» и «Динамо» (Киев). В первом матче, с «Динамо», «Рубин» вёл по ходу встречи 1:0, но в итоге уступил 1:3. В гостевом матче с «Барселоной» на «Камп Ноу» «Рубин» победил со счётом 2:1. По итогам группового турнира «Рубин» занял 3-е место и вышел в стадию плей-офф Лиги Европы.
«Рубин» стал двукратным чемпионом России 21 ноября, за один тур до окончания чемпионата, опередив ближайшего соперника — московский «Спартак» на 8 очков.
По итогам сезона «Рубин» был признан командой года, Курбан Бердыев — тренером года, 8 футболистов вошли в список «33 лучших».
Сезон 2010
Кубок чемпионов Содружества
На соревновании «Рубин» был представлен дублирующим составом. Молодым футболистам удалось завоевать Кубок Содружества, обыграв по ходу турнира киргизский «Дордой-Динамо», белорусский «Днепр», финский ХИК, туркменский МТТУ и казахский Актобе. Лучшими бомбардирами команды стали Игорь Портнягин и Александр Яркин (3 гола).
Лига Европы
Заняв 3-е место в групповом этапе Лиги чемпионов, Рубин прошел в 1/16 финала Лиги Европы. В 1/16 финала соперником «Рубина» был «Хапоэль». Первый матч 18 февраля «Рубин» провёл дома, где одержал крупную победу 3:0, ответный матч состоялся 25 февраля в Тель-Авиве, Рубин добился нулевой ничьей.
В 1/8 финала команда встретилась с «Вольфсбургом», победившим в ответном матче «Вильярреал». В первом матче "Рубин" на своем поле сыграл вничью 1:1, гол забил Кристиан Нобоа.В Ответном матче 1/8 финала рубин проиграл «Вольфсбургу» со счётом 1:2 в дополнительное время и выбыл из Лиги Европы.
Суперкубок России
В матче на Суперкубок России, который прошел 7 марта на стадионе «Лужники», «Рубин» обыграл ЦСКА со счетом 1:0, и впервые стал обладателем этого трофея. Гол забил Александр Бухаров. В этом матче дебютировал в новом клубе Текке, вышедший на замену Бухарова.
Чемпионат России
В первом туре казанцы на своем поле вырвали победу у "Локомотива" на последних минутах со счетом 2:0. Первый гол забил на 87-й минуте вышедший на замену Горбанец, а второй гол на 90-й минуте забил Бухаров после паса Текке. В этом матче состоялось два дебюта: Хорди играл с первых минут, а Натхо вышел на замену Текке.
Во 2-ом туре Томь принимала казанский клуб на своём поле. Счёт завершился в пользу Рубина - 0:1. Единственный гол был забит на 76-й минуте, благодаря удару головой Бухарова. Голевой передачей отметился Ансальди. В этом матче, судья Николай Иванов, показал 14 жёлтых карточек, 3 из которых превратились в красные. К концу матча томичи оказались вдевятером, а казанцы - вдесятером.