Cómo crear un archivo y escribir datos en él en Java? Guía detallada

¡Hola a todos! Acabo de empezar a aprender Java y me encontré con un problema que parece elemental, pero no puedo resolverlo. Necesito crear un nuevo archivo y escribir algún texto en él (por ejemplo, la cadena "Hello, World!"). He probado un montón de ejemplos de internet, pero constantemente recibo errores o el archivo simplemente no se crea. Esto es lo que intenté hacer:

import java.io.*;

public class Main {
    public static void main(String[] args) {
        File file = new File("test.txt");
        // Luego no sé qué escribir
    }
}

He leído sobre las clases FileWriter, BufferedWriter y FileOutputStream, pero no entiendo cuál es la diferencia entre ellas y cuál es mejor usar. Cuando intento escribir algo como `FileWriter writer = new FileWriter(file);`, el IDE se queja de una excepción IOException no capturada. ¿Siempre es necesario manejar esta excepción? Y también: ¿qué sucede si el archivo ya existe? ¿Se sobrescribe o se añade texto nuevo?