Usando minimax search para jogos de cartas com informações imperfeitas
Eu quero usar a busca minimax (com poda alfa-beta), ou melhor, a pesquisa negamax, para fazer um programa de computador jogar um jogo de cartas.
O jogo de cartas na verdade consiste em 4 jogadores. Então, para poder usar o minimax etc., simplifico o jogo para "eu" contra os "outros". Após cada "movimento", você pode ler objetivamente a avaliação do estado atual do próprio jogo. Quando todos os 4 jogadores colocam a carta, a maior ganha todos eles - e os valores das cartas contam.
Como você não sabe exatamente como a distribuição de cartas entre os outros 3 jogadores é exatamente, eu pensei que você deve simular todas as distribuições possíveis ("mundos") com as cartas que não são suas. Você tem 12 cartas, os outros 3 jogadores têm 36 cartas no total.
Então minha abordagem é esse algoritmo, ondeplayer
é um número entre 1 e 3 que simboliza os três jogadores de computador para os quais o programa pode precisar encontrar movimentos. E-player
representa os oponentes, ou seja, todos os outros três jogadores juntos.
private Card computerPickCard(GameState state, ArrayList<Card> cards) {
int bestScore = Integer.MIN_VALUE;
Card bestMove = null;
int nCards = cards.size();
for (int i = 0; i < nCards; i++) {
if (state.moveIsLegal(cards.get(i))) { // if you are allowed to place this card
int score;
GameState futureState = state.testMove(cards.get(i)); // a move is the placing of a card (which returns a new game state)
score = negamaxSearch(-state.getPlayersTurn(), futureState, 1, Integer.MIN_VALUE, Integer.MAX_VALUE);
if (score > bestScore) {
bestScore = score;
bestMove = cards.get(i);
}
}
}
// now bestMove is the card to place
}
private int negamaxSearch(int player, GameState state, int depthLeft, int alpha, int beta) {
ArrayList<Card> cards;
if (player >= 1 && player <= 3) {
cards = state.getCards(player);
}
else {
if (player == -1) {
cards = state.getCards(0);
cards.addAll(state.getCards(2));
cards.addAll(state.getCards(3));
}
else if (player == -2) {
cards = state.getCards(0);
cards.addAll(state.getCards(1));
cards.addAll(state.getCards(3));
}
else {
cards = state.getCards(0);
cards.addAll(state.getCards(1));
cards.addAll(state.getCards(2));
}
}
if (depthLeft <= 0 || state.isEnd()) { // end of recursion as the game is finished or max depth is reached
if (player >= 1 && player <= 3) {
return state.getCurrentPoints(player); // player's points as a positive value (for self)
}
else {
return -state.getCurrentPoints(-player); // player's points as a negative value (for others)
}
}
else {
int score;
int nCards = cards.size();
if (player > 0) { // make one move (it's player's turn)
for (int i = 0; i < nCards; i++) {
GameState futureState = state.testMove(cards.get(i));
if (futureState != null) { // wenn Zug gültig ist
score = negamaxSuche(-player, futureState, depthLeft-1, -beta, -alpha);
if (score >= beta) {
return score;
}
if (score > alpha) {
alpha = score; // alpha acts like max
}
}
}
return alpha;
}
else { // make three moves (it's the others' turn)
for (int i = 0; i < nCards; i++) {
GameState futureState = state.testMove(cards.get(i));
if (futureState != null) { // if move is valid
for (int k = 0; k < nCards; k++) {
if (k != i) {
GameState futureStateLevel2 = futureState.testMove(cards.get(k));
if (futureStateLevel2 != null) { // if move is valid
for (int m = 0; m < nCards; m++) {
if (m != i && m != k) {
GameState futureStateLevel3 = futureStateLevel2.testMove(cards.get(m));
if (futureStateLevel3 != null) { // if move is valid
score = negamaxSuche(-player, futureStateLevel3, depthLeft-1, -beta, -alpha);
if (score >= beta) {
return score;
}
if (score > alpha) {
alpha = score; // alpha acts like max
}
}
}
}
}
}
}
}
}
return alpha;
}
}
}
Isso parece funcionar bem, mas para uma profundidade de 1 (depthLeft=1
), o programa já precisa calcular 50.000 lances (cartões colocados) em média. Isso é demais, claro!
Então minhas perguntas são:
A implementação está correta? Você pode simular um jogo como este? Em relação à informação imperfeita, especialmente?Como você pode melhorar o algoritmo em velocidade e carga de trabalho?Posso, por exemplo, reduzir o conjunto de movimentos possíveis para um conjunto aleatório de 50% para melhorar a velocidade, mantendo bons resultados?eu encontreiAlgoritmo UCT ser uma boa solução (talvez). Você conhece esse algoritmo? Você pode me ajudar a implementá-lo?