Однако ему было не суждено дойти до Святой земли: всего лишь через несколько дней при переходе реки Гёкса недалеко от Силифке он оступился и упал в ее вздувшиеся воды; Фридрих погиб прежде, чем кто-либо из его спутников смог прийти ему на помощь.

Отречение от престола не принесло Кылыч Арслану столь желанного им спокойствия, скорее наоборот – дело в том, что последние годы его жизни были отравлены жестокими междоусобицами его сыновей. Несмотря на то что он разделил султанат на равные части и по справедливости распределил его между ними, обеспечив таким образом их средствами к существованию, ни один из сыновей не был удовлетворен решением отца. Уязвленный в самое сердце старый султан в конце концов нашел прибежище у младшего сына, которого несколькими годами раньше византийцы выпустили из плена. В 1192 году находившемуся на смертном одре султану сообщили, что право младшего сына на владение Конь-ей оспаривает правитель Токата его брат Рукн ад-дин Сулейман. Одержав над братом победу, Рукн ад-дин Сулейман поставил себе цель восстановить единство султаната; своего другого брата Мюгис ад-дина мудрый Рукн ад-дин назначил правителем только что покоренного Эрзурума. В итоге ему остался противостоять только брат Масуд из Анкары, но в 1204 году Рукн ад-дин наконец смог взять и этот город; в ходе сражения Масуд погиб. Сам Рукн ад-дин умер всего лишь четырьмя днями позже.

После смерти Рукн ад-дина эмиры избрали преемником покойного султана его сына Изз ад-дина Кылыч Арслана III, хотя на тот момент мальчику было всего три года. Несмотря на то что из-за беспокойного поведения его дяди сельджукам не удалось извлечь никаких выгод из захвата латинянами Константинополя, трон, на который был возведен ребенок, не был лишен привлекательности: дело в том, что незадолго до смерти Рукн ад-дин возобновил войну против Грузии и занял часть территории Абхазии. В период правления Рукн ад-дина его лишившийся трона младший брат Гияс ад-дин Кейхусров I жил в ссылке в Константинополе. В столице Византии он приобрел множество друзей, влюбился и женился на гречанке благородного происхождения – дочери Мануила Маврозомоса.