Rugova stanął na czele samozwańczej "Republiki Kosowa" w 1992 roku, był uważany za historycznego ojca albańskiej opozycji wobec Belgradu. Zanim rozpoczął karierę polityczną, był dziennikarzem i nauczycielem. Pracował w Instytucie Albanologii w Prisztinie, był również redaktorem naczelnym czasopisma „Studia albańskie”.
W 1989 roku założył Demokratyczny Związek Kosowa, umiarkowaną partię niepodległościową. Od początku kryzysu w byłej Jugosławii domagał się wprowadzenia sił ONZ lub NATO do Kosowa.