Учился в Ленинградском электротехническом институте (ЛЭТИ), где увлёкся самодеятельностью. В 1953 году вместе со студентами поставил мюзикл «Весна в ЛЭТИ»: музыку к нему написал Александр Колкер, с которым у Рыжова сложился долгий и плодотворный творческий союз.
Также в студенческие годы Ким Рыжов вместе с Михаилом Гиндиным и Генрихом Рябкиным писал скетчи для театра миниатюр Аркадия Райкина. Троица работала под коллективным псевдонимом «Гинряры» (по первым слогам фамилий) и создала, например, спектакли «На сон грядущий» (1958) и «От двух до пятидесяти» (1960).
С 1960‑х годов Рыжов сосредоточился на текстах для песен, мюзиклов и кино. Чаще всего он работал с Александром Колкером, но также сотрудничал с Андреем Петровым, Геннадием Гладковым, Анатолием Кальварским, Станиславом Пожлаковым, Игорем Цветковым и другими.
Среди самых известных песен на стихи Кима Рыжова:
Песни на его тексты исполняли Мария Пахоменко, Лидия Клемент, Алиса Фрейндлих, Михаил Боярский, Иосиф Кобзон, Людмила Сенчина, Эдуард Хиль и другие.
Рыжов писал тексты песен для множества фильмов, а также выступал как сценарист. Среди киноработ с его участием: