Я могу сделать JFrame полностью прозрачным, а JButton - частично прозрачным, просто отлично, пока я не переместлю свою мышь на кнопку (не щелкаю) и не уберу мышь с кнопки (MouseExited вызывается через MouseListener). Что происходит, так это то, что фон JButton отрисовывается снова, поэтому после нескольких движений мыши, включенных и выключенных кнопкой, кнопка становится полностью непрозрачной.

public class ButtonExample extends JWindow
{
   public ButtonExample( )
   {
        JButton But = new JButton( "Testing" );
        But.setBackground( new Color( 0, 0, 0, 200 ) );
        But.setForeground( new Color( 70, 155, 255 ) );
        this.add( But );
        this.setBackground( new Color( 0, 0, 0, 0 ) );
        this.setMinimumSize( new Dimension( 200,100 ) );
        this.setVisible( true );
    }

    public static void main( String[ ] Args ) 
    {
        new ButtonExample( );
    }
}