Cómo ejecutar un script de Python en otra PC

Hola, comencé a estudiar Python. Me preguntaba cómo iniciar el script en otra computadora (ambas PC con Windows) sin preparar la máquina (sin instalar Python). Todo lo que pude encontrar es una forma de crear un archivo usando py2exe.

Me gustaría saber si hay formas alternativas de distribuir el script (más “correctas”) y cuáles son las desventajas de este enfoque.

No hay (quizás no leí) formas que describan la transferencia, tal vez simplemente no entiendo el propósito de este lenguaje.

Python puede ayudar mucho si necesitas automatizar algo trabajando en una computadora “servidora”. O aplicaciones web que tampoco requieren que Python esté instalado en la computadora del usuario final. También entendí: pero también se puede escribir un programa de escritorio normal en él, optimizando partes críticas en C++. Pero, ¿por qué escribir programas de escritorio si no se pueden entregar al usuario final? ¿O normalmente en tales casos se añade también el instalador de Python?

Agradeceré