Du kannst das ganze mit anonymen Klassen machen, in der Art wie du es bei addWindowListener gemacht hast.
Code:
...
open.addActionListener( new ActionListener()
{
public void actionPerformed(ActionEvent e)
{
open(tf.getText());
}
} );
...
oder du machst dir überhaupt eine neue Klasse die das ActionListener-Interface implementiert so wie du es in der Klasse Dateieditor gemacht hat. Du wirst dann aber Referenzen auf andere Objekte, die du in der actionPerformed-Methode verwendest, irgendwie übergeben müssen (etwa durch den Constructor oder du implementierst dir ein setTextField, ...).
Ausnahme: wenn du Inner-Classes verwendest, brauchst du das nicht.
Was das setVisible betrifft: ich hab zwar die Sourcen vom JDK grad nicht bei der Hand, aber ich schätze mal daß Label.setText() ein validate() im Parent-Container bewirkt, das wiederum den Layout-Manager den Fenster-Inhalt neu aufbauen läßt.