Обзор

model::Model представляет собой вызываемую структуру, из которой можно осуществлять выборку путем вызова

где rng — генератор случайных чисел (по умолчанию Random.default_rng()), varinfo — структура данных, в которой хранится информация о случайных переменных (по умолчанию DynamicPPL.VarInfo()), sampler — алгоритм выборки (по умолчанию DynamicPPL.SampleFromPrior()), а context — контекст выборки, который может, например, изменять способ наращивания логарифмической вероятности (по умолчанию DynamicPPL.DefaultContext()).

При выборе сбрасывается логарифмическая совместная вероятность varinfo и увеличивается счетчик вычисления sampler. Если context имеет значение LikelihoodContext, наращивается только логарифмическая вероятность. При значении DefaultContext наращивается логарифмическая вероятность P и D.

Структура Model содержит три внутренних поля: f, args и defaults. При вызове model::Model вызывается внутренняя функция model.f в виде model.f(rng, varinfo, sampler, context, model.args...) (в случае многопоточной выборки вместо varinfo в model.f передается потокобезопасная оболочка). Позиционные и именованные аргументы, переданные в пользовательскую функцию модели при создании модели, сохраняются как NamedTuple в model.args. Значения по умолчанию позиционных и именованных аргументов пользовательских функций моделей при их наличии сохраняются как NamedTuple в model.defaults. Они служат для создания экземпляров модели с различными аргументами с помощью строковых макросов logprob и prob.

Возьмем для примера следующую модель:

Представленный выше вызов макроса @model определяет функцию gauss с позиционными аргументами x, y и ::Type{TV}, преобразованную таким образом, что каждый ее вызов возвращает model::Model. Обратите внимание, что макрос @model изменяет только тело функции, а ее сигнатура остается без изменений. Можно также реализовывать модели с именованными аргументами, например:

Это позволяет создавать модель путем вызова gauss(; x = rand(3)).

Если у аргумента значение по умолчанию missing, он интерпретируется как случайная переменная. Для переменных, требующих инициализации из-за необходимости циклического перебора элементов или трансляции, таких как x выше, следует сделать следующее.

Обратите внимание: так как gauss работает как обычная функция, вторым шагом можно также определить дополнительные операции диспетчеризации. Например, такое же поведение можно обеспечить следующим образом.

Если переменная x выбирается целиком из распределения и не индексируется, например x ~ Normal(...) или x ~ MvNormal(...), инициализировать ее в блоке if не требуется.

Сначала макрос @model разбивает пользовательское определение модели на части с помощью DynamicPPL.build_model_info. Эта функция возвращает словарь, состоящий из следующих элементов.

На втором этапе DynamicPPL.generate_mainbody генерирует основную часть тела преобразуемой функции на основе предоставленного пользователем тела функции и ее аргументов без значений по умолчанию; при этом определяется, соответствует ли переменная наблюдению или случайной переменной. Для этого функция DynamicPPL.generate_tilde заменяет строки L ~ R в модели, а функция DynamicPPL.generate_dot_tilde — строки @. L ~ R и L .~ R.

Строка p[1] ~ InverseGamma(2, 3) из приведенного выше примера заменяется кодом наподобие следующего:

Здесь первая строка — это так называемый узел номера строки, который позволяет выдавать более информативные сообщения об ошибках, в которых точно указывается место в определении модели, где возникла проблема. Затем правая часть (RHS) оператора ~ присваивается переменной (с автоматически сгенерированным именем). При этом проверяется, содержит ли правая часть распределение или массив распределений. Если это не так, выдается ошибка. Далее извлекается краткое представление переменной с ее именем и индексом (или индексами). Наконец, выражение ~ заменяется вызовом DynamicPPL.tilde_assume, так как компилятор с помощью следующего эвристического механизма определил, что p[1] — это случайная переменная:

Функция DynamicPPL.tilde_assume при необходимости сама выполняет выборку случайной переменной и обновляет ее значение и накопленную логарифмическую совместную вероятность в объекте _varinfo. Если L ~ R — это наблюдение, DynamicPPL.tilde_observe вызывается с теми же аргументами, кроме генератора случайных чисел _rng (так как выборка наблюдений не производится).

Аналогичное преобразование осуществляется для выражений вида @. L ~ R и L .~ R. Например, @. x[1:2] ~ Normal(p[2], sqrt(p[1])) заменяется на

Главным различием развернутого кода для L ~ R и @. L ~ R является то, что в первом случае не предполагается наличие определения L: это может быть новая переменная Julia в данной области. Во втором же случае предполагается, что L уже существует. Кроме того, вместо DynamicPPL.tilde_assume и DynamicPPL.tilde_observe вызываются функции DynamicPPL.dot_tilde_assume и DynamicPPL.dot_tilde_observe.

Наконец, предоставленное пользователем тело функции заменяется с помощью DynamicPPL.build_output. Эта функция использует MacroTools.combinedef для повторной сборки предоставленной пользователем функции с новым телом. В измененном теле функции создается анонимная функция, тело которой было сгенерировано на шаге 2 выше и которая имеет следующие аргументы:

Для отслеживания случайных переменных в процессе выборки в Turing применяется структура VarName, которая выступает в роли идентификатора случайной переменной, генерируемого во время выполнения. VarName случайной переменной генерируется на основе выражения в левой части оператора ~, когда символ в левой части входит в набор P ненаблюдаемых случайных переменных. У каждого экземпляра VarName есть параметр типа sym. Это символ переменной Julia в модели, к которой относится случайная переменная. Например, x[1] ~ Normal() создает экземпляр VarName{:x} при условии, что x — ненаблюдаемая случайная переменная. У каждого VarName также есть поле indexing, в котором хранятся индексы, необходимые для доступа к случайной переменной из переменной Julia. Они указываются в sym в виде кортежа кортежей. Каждый элемент кортежа содержит индексы для одной операции индексирования (VarName также поддерживает иерархические массивы и индексирование диапазонов). Некоторые примеры:

Самый простой способ вручную создать VarName — воспользоваться в выражении индексирования макросом @varname, который берет значение sym из фактического имени переменной и надлежащим образом помещает значения индексов в конструктор.