Cómo ejecutar un script de Python en otro PC

Hola, empecé a estudiar Python. Me pregunté cómo ejecutar un script en otra computadora (ambos PC con Windows), sin preparar la máquina (sin instalar Python). Todo lo que pude encontrar es la forma de generar un archivo .exe usando py2exe.

Me gustaría saber si hay formas alternativas de distribuir el script (más "correctas") y cuáles son las desventajas de este enfoque.

En el libro no hay (quizás aún no lo terminé de leer) formas que describan la transferencia, tal vez simplemente aún no entiendo el propósito de este lenguaje.

Python puede ayudar mucho si necesitas automatizar algo trabajando en "mi" computadora. O aplicaciones web, que tampoco requieren preinstalar Python en la computadora del usuario final. También entendí: Pero además se puede escribir un programa de escritorio normal, optimizando las partes críticas en C++. Pero, ¿para qué escribir programas de escritorio si no se pueden entregar al usuario final? ¿O normalmente en estos casos se agrega al instalador también el instalador de Python?

Estaré agradecido por la respuesta.