Dado um triângulo de vértices (0, 12), (0, 0) e (5, 0) no plano cartesiano ortogonal, a distância entre os centros das circunferências inscrita e circunscrita a esse triângulo é

Como a circunferência circunscrita em um triângulo retângulo seu diâmetro será a hipotenusa desse triângulo, logo seu centro estará no meio da hipotenusa (Meio entre os pontos (0, 12) e (5, 0) ) com valor (5/2 , 6)).

Desenhando os pontos informados temos:

Inserindo o M como ponto central da circunferência circunscrita e M' como inscrita.

Por Pitágoras, determina-se o valor da hipotenusa do triângulo. Trata-se do conhecido triângulo de lados 5, 12 e 13, logo sua hipotenusa mede 13.

Por fim podemos usar uma relação entre as áreas dos triângulos para encontrar o raio.

Podemos escrever as áreas dos 3 triângulos internos ao maior como a metade do produto de seu lado com o raio e a área do triângulo como a metade do produto de seus catetos.

Dessa forma:
$$\begin{gathered} A_t = A_1 + A_2 + A_3 \\ \raisebox{1ex}{$OA.OB$}\!\left/ \!\raisebox{-1ex}{$2$}\right. = \raisebox{1ex}{$OA.r$}\!\left/ \!\raisebox{-1ex}{$2$}\right. + \raisebox{1ex}{$OB.R$}\!\left/ \!\raisebox{-1ex}{$2$}\right. +\raisebox{1ex}{$ BA.r$}\!\left/ \!\raisebox{-1ex}{$2$}\right. \\ \raisebox{1ex}{$12.5$}\!\left/ \!\raisebox{-1ex}{$2$}\right. = \raisebox{1ex}{$\left(12 + 5 + 13\right).r$}\!\left/ \!\raisebox{-1ex}{$2$}\right. \\ 30 = 15 . r \\ r = 2 \end{gathered}$$

Logo a localização de M'= (2 , 2)

Por fim a distancia entre M e M' é dada por:
$$\begin{gathered} d =\sqrt{ {\left(\raisebox{1ex}{$5$}\!\left/ \!\raisebox{-1ex}{$2$}\right.-2\right)}^2 + {\left(6-2\right)}^2} \\ d =\sqrt{\raisebox{1ex}{$1$}\!\left/ \!\raisebox{-1ex}{$4$}\right. + 16} \\ d =\raisebox{1ex}{$\sqrt{65}$}\!\left/ \!\raisebox{-1ex}{$2$}\right. \end{gathered}$$

Resposta correta é a letra D.