Колледж был открыт 19 апреля 1920 г. в виде народной консерватории в двухэтажном здании по улице Горького, 11. Инициатором создания и первым директором музыкального училища стал Павел Иосифович Иванов-Радкевич — первоклассный хормейстер, музыкант и педагог. Первый набор состоял примерно из 244 учащихся: 144 человека занимались по классу фортепиано, а около 100 человек — по другим классам. Более 200 человек были зачислены в качестве кандидатов из-за нехватки помещений. Учреждение финансировалось из государственного бюджета до 1922 г., когда ввели плату за обучение. В это же время консерватория становится музыкальным техникумом. В 1936 г. техникум меняет статус на музыкальное училище и снова переводится на бюджетное обеспечение.
В 40-е гг. XX в. училище становится центром музыкальной жизни города. В то время деятельность училища рассматривалась в Красноярске не только как учебная, но и как деятельность организации, которая должна заниматься широкой пропагандой музыкального искусства. Преподаватели и учащиеся принимали участие в работе филармонического общества, которое давало симфонические концерты, проводило многие музыкальные мероприятия и организовывало лектории.
В военные годы на фронт уходили педагоги и студенты. В здании училища разместились семьи военнослужащих, эвакуированные в Красноярск. Групповые занятия проходили только в актовом зале и в деревянном флигеле, а индивидуальные — по квартирам педагогов, где были размещены рояли и пианино из училища. В это время увеличилось число шефских концертов, а педагогический коллектив пополнился преподавателями музыкальных учебных заведений из Москвы, Таллина, Киева, Харькова.
В послевоенный период начали восстанавливать материальную базу училища, провели в здание центральное отопление, создали условия для обучения музыке слепых детей. В 1945—1946 гг. в училище появились преподаватели с высшим образованием и большим опытом работы, в том числе — Н. Л. Тулунина, К. М. Сементовский, И. И. Черных, Г. Н. Полянский, Э. А. Оркова, Л. Н. Шевчук, Е. К. Иофель, А. Н. Калачев, И. И. Соломенников, Ф. П. Веселков и многие другие.
В 1961 г. в училище открылись новые специализации. К концу 1970-х гг. в училище уже обучалось около 500 студентов по специальностям: «фортепиано», «струнные», «духовые», «народные инструменты», «пение», «хоровое дирижирование», «теория музыки», «актер драмы и музыкальной комедии».
2 декабря 2008 г. Красноярскому колледжу искусств присвоено имя основателя Павла Иосифовича Иванова-Радкевича.