Atualizar: O problema foi resolvido com a ajuda do MathWorks. Eu publiquei a resposta abaixo.

Eu preciso controlar um programa (Zemax) do Matlab. Infelizmente, o Zemax só suporta DDE para tal controle, o qual o Matlab não suporta mais. Ele funciona, mas deixa de funcionar na plataforma de 64 bits após algumas chamadas presumíveis (63).

Eu me pergunto se existem soluções de trabalho. Eu provavelmente poderia programar uma DLL com suporte a DDE correto e, em seguida, usar DDE no Matlab por meio dessa DLL. Este é um grande esforço para mim. Uma solução mais adequada seria usar métodos Java DDE. Segueoutro post aqui, eu descobri a biblioteca JDDE. No entanto, não consigo fazer isso funcionar: mesmo se eu estiver no diretório com os arquivos DLL e JAR, executando

import pretty-tools.JDDE-2.0.3.*

funciona bem, mas chamando

a = com.pretty_tools.dde.client.DDEClientConversation()

depois (como feitoAqui) resulta em

Undefined variable "com" or class "com.pretty_tools.dde.client.DDEClientConversation".

Eu tenho privilégios de escrita muito limitados no meu PC, então eu adicionei ojavaclasspath.txt arquivo com o local do jar / dll para o diretório indicado porprefdir. O arquivo se parece com isto:

C:\Users\xxxxxxxx\Documents\matlab toolbox\jdde\pretty-tools-JDDE-2.0.3.jar

Chamandojavaclasspath mostra uma listagem longa com as últimas linhas sendo:

...
C:\Program Files\MATLAB\R2012b\java\jarext\webservices\ws_client_core\mw-service-client-core.jar
C:\Users\kkarapet\Documents\matlab toolbox\jdde\pretty-tools-JDDE-2.0.3.jar                     

DYNAMIC JAVA PATH

<empty>

Então, o caminho parece estar configurado corretamente. O que estou fazendo de errado?