Словарь Ефремовой говорит, что новорожденного детеныша следует назвать носорожками, но это исключительное предложение. В основном, насколько известно, маленькие носороги называются молодыми, не вдаваясь в детали словообразования.
Что касается слова теленка, которое иногда встречается по отношению к носорогам, это неправильно, нельзя использовать его — носороги не связаны с коровами, но еще ближе к лошадям — они также принадлежат копытным, несмотря на их грандиозные размер. Поэтому, если исходить из видов носорогов, было бы правильнее говорить о жеребенке.