Zrozumienie współbieżnych zapisów plików z wielu procesów
Stąd :Czy plik jest dołączany atomowo w systemie UNIX
Rozważmy przypadek, w którym wiele procesów otwiera ten sam plik i dołącza się do niego. O_APPEND gwarantuje, że wyszukiwanie do końca pliku, a następnie rozpoczęcie operacji zapisu jest atomowe. Tak więc wiele procesów może dołączać do tego samego pliku i żaden proces nie nadpisze innych procesów zapisu, o ile każdy rozmiar zapisu wynosi <= PIPE_BUF.
Napisałem program testowy, w którym wiele procesów otwiera się i zapisuje w tym samym pliku (write(2)
). Upewniam się, że każdy rozmiar zapisu to> PIPE_BUF (4k). Spodziewałem się zobaczyć przypadki, w których proces nadpisuje dane innych osób. Ale tak się nie stało. Testowałem z różnymi rozmiarami zapisu. Czy to tylko szczęście, czy jest powód, dla którego tak się nie dzieje? Moim ostatecznym celem jest zrozumienie, czy wiele procesów powiązanych z tym samym plikiem musi koordynować ich zapisy.
Oto kompletny program. Każdy proces tworzy bufor int, wypełnia wszystkie wartości swoimrank
, otwiera plik i zapisuje do niego.
Specyfikacje: OpenMPI 1.4.3 w OpenSUSE 11.3 64-bit
Skompilowane jako: mpicc -O3 test.c, uruchom jako: mpirun -np 8 ./a.out
#include <stdio.h>
#include <stdlib.h>
#include <mpi.h>
#include <fcntl.h>
#include <unistd.h>
#include <sys/types.h>
#include <sys/stat.h>
int
main(int argc, char** argv) {
int rank, size, i, bufsize = 134217728, fd, status = 0, bytes_written, tmp_bytes_written;
int* buf;
char* filename = "/tmp/testfile.out";
MPI_Init(&argc, &argv);
MPI_Comm_rank(MPI_COMM_WORLD, &rank);
MPI_Comm_size(MPI_COMM_WORLD, &size);
buf = (int*) malloc (bufsize * sizeof(int));
if(buf == NULL) {
status = -1;
perror("Could not malloc");
goto finalize;
}
for(i=0; i<bufsize; i++)
buf[i] = rank;
if(-1 == (fd = open(filename, O_APPEND|O_WRONLY, S_IWUSR))) {
perror("Cant open file");
status = -1;
goto end;
exit(-1);
}
bytes_written = 0;
if(bufsize != (tmp_bytes_written = write(fd, buf, bufsize))) {
perror("Error during write");
printf("ret value: %d\n", tmp_bytes_written);
status = -1;
goto close;
}
close:
if(-1 == close(fd)) {
perror("Error during close");
status = -1;
}
end:
free(buf);
finalize:
MPI_Finalize();
return status;
}