Футбольный клуб «Рубин» был создан в 2009 году для участия в чемпионате города Ялта. В сезоне 2015 года — играл во Всекрымском турнире, где в группе «Б» занял четвёртое место и получил путёвку в Премьер-лигу КФС. Пять сезонов команда провела в чемпионате ПЛ КФС, где лучшим стал турнир 2022 года. Под руководством Алексея Грачёва ялтинцы завоевали серебряные медали чемпионата и вышли в финал Кубка КФС. Сезон 2023 г. «Рубин Ялта» начинал в Премьер-лиге КФС, но летом, после получения аттестата для участия в LEON – Первенстве России среди команд Второй лиги, «Дивизион Б» ялтинцы покинули крымские соревнования, занимая четвёртое место в турнирной таблице.
Дебютный сезон в LEON – Второй лиге Б оказался удачным для «Рубина Ялты». На первом этапе турнира команда заняла третье место в подгруппе 1.1, а в финальной шестёрке рубиновые сумели стать вторыми, опередив такие опытные коллективы, как «Кубань Холдинг», «Дружба» и «Легион».
Несмотря на достигнутый результат, в зимнее межсезонье тренерский штаб «Рубина Ялты» провёл серьёзную трансферную работу. Команду по различным причинам покинули одиннадцать футболистов, и столько же были приглашены им на замену. Главный тренер Алексей Грачёв в основном искал усиление в командах Премьер-лиги КФС. Так, в Ялте оказались игроки симферопольской «Таврии» защитник Зеки Алиев, полузащитник Вадим Зубавленко и нападающий Юрий Максимов. «Спарта-КТ» делегировала в «Рубин Ялту» двух молодых полузащитников — Евгения Суинова и Геннадия Шульгу. Из керченского «Океана» пришёл полузащитник Саркис Папазян, из «Кызылташа» – вратарь Сергей Жигайлов. Самым заметным приобретением ялтинцев перед стартом сезона можно считать голкипера Сергея Науменко – многолетнего стража ворот «Севастополя». С материка в коллектив были приглашены лишь молодые футболисты. Среди них полузащитник Марат Гафаров (Академия футбола им. В.Понедельника, Ростов-на-Дону), нападающие Михаил Берснев («Астрахань») и Никита Каверин («Чайка», Песчанокопское).
«Рубин Ялта» резво начал сезон-2024. Команда с южного берега Крыма выиграла первые четыре матча и возглавила турнирную таблицу. Но затем последовала череда неудач, в результате которых в очередных четырёх турах было добыто всего четыре очка. На летний перерыв ялтинцы ушли седьмыми. К началу второго круга команду покинули полузащитники Евгений Суинов и Руслан Сеникарамян. В межсезонье рубиновые футболки одели полузащитники Роман Матвиенко («Рязань») и Данила Польшаков («Енисей-2»), нападающие Андрей Лагода («Шахтёр», ДНР) и Вячеслав Пурак («Спартак», Тамбов).
В прошлом сезоне соперники провели свои первые очные встречи в рамках LEON – Второй лиги Б. Матч в Ялте завершился победой хозяев поля – 2:1, а в Севастополе сильнее была наша команда – 1:0. В текущем первенстве подопечные Станислава Гудзикевича одержали уверенную победу в гостях – 2:0. Оба мяча на свой счёт записал Виталий Мироненко.
«Рубин Ялта» проводит домашние матчи в Ялте на «СШ-УТЦ «Авангард» (трибуны на 4000 мест).