Футбольный клуб «Рубин» был создан в 2009 году для участия в чемпионате любительских команд города Ялты. В сезоне 2015 года — играл во Всекрымском турнире по футболу, где в группе «Б» занял четвертое место и получил путёвку в Премьер-лигу КФС. Три сезона команда провела в чемпионате ПЛ КФС, где выше 7-го места не поднималась. В июне 2018 года ялтинский клуб покинул Премьер-лигу, а в июле 2019 года – был преобразован в Автономную некоммерческую организацию «Футбольный клуб «Рубин Ялта» г. Ялта. Сезон 2020/21 гг. команда провела в чемпионате Республики Крым среди любительских команд, в котором заняла 1-е место, тем самым получив путёвку в Премьер-лигу КФС. Сезон 2021/22 гг. «Рубин Ялта» завершил на 6-м месте в чемпионате ПЛ КФС. В сезоне 2022 г. ялтинцы под руководством Алексея Грачёва завоевали серебряные медали чемпионата и вышли в финал Кубка КФС, показав лучший результат за всю историю выступления в элите крымского футбола. Сезон 2023 г. «Рубин Ялта» начинал в чемпионате ПЛ КФС, но летом после получения аттестата для участия в LEON – Первенстве России среди команд Второй лиги, «Дивизион Б» ялтинцы покинули крымские соревнования, занимая четвертое место в турнирной таблице.
В чемпионате ПЛ КФС «Севастополь» и «Рубин Ялта» провели между собой 20 игр. Севастопольцы одержали 14 побед, 4 матча завершили вничью и два раза выиграли ялтинцы при общей разнице забитых и пропущенных мячей 43:15 в пользу нашей команды.
В короткое летнее межсезонье тренерский штаб «Рубина Ялты» во главе с Алексеем Грачёвым провёл большую работу по комплектованию коллектива под Первенство России среди команд Второй лиги. В Ялте остались всего шесть футболистов: защитники Георгий Санакоев и Владимир Пшеничников; полузащитники Азамат Атаев, Руслан Маргиев, Илья Зинченко и Никита Шелест.
Команду пополнили пятнадцать футболистов: вратари Игорь ЖУКОВ («Спарта-КТ) и Никита КОЛЕСОВ («СКА Ростов-на-Дону»); защитники Александр ЕГОРОВ («Енисей», Красноярск), Вадим ПЕТРЕНКО (УОР, Краснолесье), Руслан СЕНИКАРАМЯН («Океан», Керчь), Максим ТАРАСЕНКО («Сокол», Саратов), Сергей ШЕСТАКОВ («Машук-КМВ», Пятигорск); полузащитники Роман ВАСЮКОВ («Спарта-КТ»), Альберт НАНИЕВ («Машук-КМВ», Пятигорск), Ростислав РОМАНЕНКО («Машук-КМВ», Пятигорск), Дмитрий ХОДАРЧЕНКО («Машук-КМВ», Пятигорск), Владислав СКАВЫШ («Енисей», Красноярск); нападающие Игорь ВОЛКОВ («Севастополь»), Владимир КЛЕПЧА («Астрахань»), Халим ЮНУСОВ («Алустон-ЮБК»).
Кроме того, в тренерском штабе команды появился известный крымский футбольный специалист Сергей Величко, который является помощником главного тренера Алексея Грачёва.
«Рубин Ялта» проводит свои домашние матчи в Ялте на «СШ-УТЦ «Авангард» (трибуны на 4000 мест).