No triângulo isósceles ABC, AB = AC = 13 e BC = 10. Em AC marca-se R e S, com CR = 2x e CS = x. Paralelo a AB e passando por S traça-se o segmento ST, com T em BC. Por fim, marcam-se U, P e Q, simétricos de T, S e R, nessa, ordem, e relativo à altura de ABC com pé sobre BC. Ao analisar a medida inteira x para que a área do hexágono PQRSTU seja máxima, obtém-se:

Vamos analisar o problema passo a passo. Primeiramente, observe que o triângulo ABC é isósceles, pois AB = AC. Desenhamos uma figura para melhor entender o problema:

Agora, vamos encontrar a área do hexágono PQRSTU. Para isso, dividimos o hexágono em 4 triângulos: PQT, QRS, RST e TUP. A área do hexágono é a soma das áreas desses 4 triângulos.

Vamos encontrar a área do triângulo PQT. Como PQ é paralelo a AB, os triângulos APQ e ABC são semelhantes. Logo, temos que:

$$frac{PQ}{AB} = frac{QT}{BC} Rightarrow PQ = frac{QT cdot AB}{BC} = frac{QT cdot 13}{10}$$

Além disso, como PT é a altura do triângulo PQT, temos que:

$$QT = PR + RT = x + 2x = 3x$$

Substituindo o valor de QT na fórmula acima, temos:

$$PQ = frac{3x cdot 13}{10}$$

A área do triângulo PQT é dada por:

$$A_{PQT} = frac{PQ cdot PT}{2} = frac{3x cdot 13 cdot PT}{20}$$

Como a altura PT é comum aos triângulos PQT e ABC, temos que:

$$PT = sqrt{AB^2 - left(frac{BC}{2}right)^2} = sqrt{13^2 - 5^2} = 12$$

Substituindo o valor de PT na fórmula acima, temos:

$$A_{PQT} = frac{3x cdot 13 cdot 12}{20} = frac{117x}{5}$$

De forma análoga, podemos encontrar as áreas dos triângulos QRS, RST e TUP. Temos que:

$$A_{QRS} = A_{RST} = A_{TUP} = frac{117x}{5}$$

A área do hexágono PQRSTU é a soma das áreas desses 4 triângulos:

$$A_{PQRSTU} = A_{PQT} + A_{QRS} + A_{RST} + A_{TUP} = frac{468x}{5}$$

Para encontrar o valor de x que maximiza a área do hexágono, vamos derivar a área em relação a x e igualá-la a zero:

$$frac{dA}{dx} = frac{468}{5} = 0$$

Como a derivada é constante, não temos um máximo ou mínimo local. No entanto, observe que o valor de x não pode ser negativo, pois isso não teria sentido geométrico. Além disso, como x aumenta, a área do hexágono também aumenta. Portanto, o valor de x que maximiza a área do hexágono é o maior valor possível.

Podemos encontrar o valor de x máximo observando que o ponto R coincide com o ponto C quando x é máximo. Logo, temos que:

$$CR = 2x = AC - CS = 13 - x Rightarrow x = 4$$

Portanto, o valor de x que maximiza a área do hexágono PQRSTU é 4. A resposta correta é B) 4.