Ввод-вывод, отображаемый в памяти
Низкоуровневый модуль для сопоставления файлов в памяти.
#
Mmap.Anonymous
— Type
Mmap.Anonymous(name::AbstractString="", readonly::Bool=false, create::Bool=true)
Создает объект наподобие IO
для создания сброшенной в ноль области памяти с сопоставлением, которая не привязана к файлу и предназначена для использования в mmap
. Применяется модулем SharedArray
для создания массивов с общим использованием памяти.
Примеры
julia> using Mmap
julia> anon = Mmap.Anonymous();
julia> isreadable(anon)
true
julia> iswritable(anon)
true
julia> isopen(anon)
true
#
Mmap.mmap
— Function
mmap(io::Union{IOStream,AbstractString,Mmap.AnonymousMmap}[, type::Type{Array{T,N}}, dims, offset]; grow::Bool=true, shared::Bool=true)
mmap(type::Type{Array{T,N}}, dims)
Создает массив Array
, значения которого связаны с файлом, с использованием сопоставления в памяти. Обеспечивает удобный способ работы с данными, которые не помещаются в памяти компьютера.
Типом является массив Array{T,N}
с элементами битового типа T
и измерением N
, которое определяет то, как интерпретируются байты массива. Обратите внимание, что файл должен храниться в двоичном формате и преобразование формата невозможно (это ограничение накладывается операционными системами, а не Julia).
dims
— это кортеж или одиночное значение типа Integer
, задающее размер или длину массива.
Файл передается посредством аргумента потока в виде открытого потока IOStream
или строки с именем файла. При инициализации потока используйте "r"
для массива «только для чтения» и "w+"
для создания нового массива, с помощью которого значения записываются на диск.
Если аргумент type
не указан, по умолчанию используется значение Vector{UInt8}
.
При необходимости вы можете указать смещение (в байтах), например, чтобы пропустить заголовок в файле. Значением по умолчанию для смещения является текущая позиция в потоке IOStream
.
Именованный аргумент grow
определяет то, следует ли увеличивать файл на диске, чтобы в него поместился массив запрошенного размера (если общий размер файла меньше запрошенного размера массива). Для увеличения файла требуются права на запись.
Именованный аргумент shared
определяет то, будут ли получившийся массив Array
и внесенные в него изменения видны другим процессам, сопоставленным с тем же файлом.
Например, следующий код:
# Создаем файл для сопоставления в памяти
# (на этом шаге также можно использовать mmap)
using Mmap
A = rand(1:20, 5, 30)
s = open("/tmp/mmap.bin", "w+")
# Измерения массива записываются в файл как два первых целых числа
write(s, size(A,1))
write(s, size(A,2))
# Теперь запишем данные
write(s, A)
close(s)
# Проведем тестирование, прочитав те же данные
s = open("/tmp/mmap.bin") # по умолчанию только для чтения
m = read(s, Int)
n = read(s, Int)
A2 = mmap(s, Matrix{Int}, (m,n))
создает матрицу Matrix{Int}
размером m
на n
, которая привязана к файлу, связанному с потоком s
.
Для улучшения переносимости в заголовке файла следует закодировать размер слова (32 или 64 бита) и порядок следования байтов. На практике рекомендуется кодировать двоичные данные с использованием стандартных форматов, таких как HDF5 (которые можно использовать с сопоставлением в памяти).
mmap(io, BitArray, [dims, offset])
Создает массив BitArray
, значения которого связаны с файлом, с использованием сопоставления в памяти. Имеет то же назначение и аргументы и работает так же, как mmap
, но байтовое представление отличается.
Примеры
julia> using Mmap
julia> io = open("mmap.bin", "w+");
julia> B = mmap(io, BitArray, (25,30000));
julia> B[3, 4000] = true;
julia> Mmap.sync!(B);
julia> close(io);
julia> io = open("mmap.bin", "r+");
julia> C = mmap(io, BitArray, (25,30000));
julia> C[3, 4000]
true
julia> C[2, 4000]
false
julia> close(io)
julia> rm("mmap.bin")
Создает массив BitArray
размером 25 на 30 000, который привязан к файлу, связанному с потоком io
.