-- title.tex

\documentclass[a4paper,12pt]{extarticle}
\usepackage[utf8]{inputenc}
\usepackage{rotating}
\usepackage[russian]{babel}
\usepackage{graphicx}
\usepackage{amsmath, amssymb, amsthm}
\usepackage{enumitem}
\usepackage{titling}
\usepackage[warn]{mathtext}
\usepackage{rotating}

\usepackage{hyperref}
\hypersetup{
    colorlinks=true,
    linkcolor=blue,
    filecolor=magenta,
    urlcolor=cyan,
}

\author{Дрынкин Роберт}

\posttitle{\par\end{center}}
\setlength{\droptitle}{-8em}

\theoremstyle{definition}
\newtheorem{task}{Задача}


\theoremstyle{definition}
\newtheorem{lemma}{Лемма}

\newcommand{\conv}{\text{Conv}}

\date{}

\newcommand{\anti}{\overline}

-- main.tex

\input{title.tex}

\title{Теоретическое задание 1.}

\begin{document}
\maketitle

\begin{task} \item
    $$ p(X | \theta) = \prod \frac{1}{\theta} I[x_i \le \theta] = \frac{1}{\theta^n} I[X_{(n)} \le \theta] $$
    $p(X | \theta)$ --  монотонно убывает по $\theta$ начиная с $X_{(n)}$,  а до этого равна 0, значит $\theta_{ML} = X_{(n)}$.
    $ p(\theta | a, b) \sim Pareto(a, b) = \frac{b a^b}{\theta^{b + 1}} I[\theta \ge a] $ -- сопряженное к $p(X | \theta)$, так как:
    $$ p(\theta | X) = \frac{1}{Z} p(X | \theta) p(\theta | a, b) = \frac{1}{Z'} \frac{1}{\theta^{n + b + 1}} [\theta \ge \max(a, X_{(n)})] \in Pareto(a', b') $$
    Тогда:
    $$ p(\theta | X) = \frac{1}{Z'} \frac{1}{\theta^{n + b + 1}} I[\theta \ge \max(a, X_{(n)})] = \frac{(n + b) \max(a, X_{(n)})}{\theta^{n + b + 1}} I[\theta \ge \max(a, X_{(n)})] $$
    Пусть $a' = \max(a, X_{(n)}, b' = n + b$, тогда сосчитаем мо:
    $$ E[\theta | X] = \int_{t = a'}^{+\inf} t \frac{b'a'^{b'}}{t^{b' + 1}} dt = b'a'^{b'} \int_{t = a'}^{+\inf} t^{-b'} dt  = \frac{b' a'}{b' - 1} $$
    Сосчитаем медиану:
    $$ median(\theta | X) = y \iff F_{\theta|X}(y) = 0.5 $$$$
    \int_{a'}^{y} \frac{b a'^{b'}}{t^{b' + 1}} dt = 0.5 $$$$
    b'a'^{b'} \frac{-1}{b'} \frac{1}{t^{b'}} |_{a'}^{y} = -(\frac{a'}{y})^{b'} + 1 = 0.5 $$$$
    y = a' 2^{1/b'} $$
    Сосчитаем моду: \newline
    Заметим, что $p(\theta | X) = \frac{b' a'^{b'}}{\theta^{b' + 1}} I[\theta \ge a'] $ -- монотонно убывает, при $\theta \ge a'$  и тождественный 0 в противном случае, значит максимума достигает в $\theta = a'$.
\end{task}

\begin{task}
    Предположим, что вероятность встретить любой автобус в городе одинаковая, то есть $x \sim U[0; \theta]$, где $x$ -- номер автобуса, который мы видим, а $\theta$ -- количество автобусов в городе.
    Также предположим, что априорно $\theta$ распределено по Парето, так как оно используется для описания благосостояния и распределения доходов, а количество автобусов в городе вполне себе связано с его благосотоянием. В качестве параметров возьмем $a=1$, так как хотя бы один автобус в городе есть, $b = 1$, так как этот параметр по сути соответствует количеству автобусов, которые мы уже видели в этом городе - 1. В качестве статистики среднего будем использовать медиану, так как она менее чувствительна к выбросам. Когда мы увидели первый автобус в городе с номером 100 медианное количество автобусов в городе стало :
    $$ p(\theta | X=\{100\}) = Pareto(100, 2) $$$$
    median(\theta | X=\{100\}) = 100 \cdot 2^{1/2} $$
    При наблюдении автобусов в номерами $50, 150$:
    $$ p(\theta | X=\{100, 50, 150\}) = Pareto(150, 4) $$$$
    median(\theta | X=\{100, 50, 150\}) = 150 \cdot 2^{1/4}$$
\end{task}

\begin{task}
    $$ Pareto(x|a,b) = \frac{b a^b}{x^{b + 1}}[x \ge a] = \frac{1/x [x \ge a]}{1/b a^{-b}} \exp (b (-\ln x)) $$
    $$ E (\log x | a,b) = - \frac{\partial}{\partial b} (\log \frac{1}{b} a^{-b}) = (\log b)' + (b \log a)' = \frac{1}{b} + \log a $$
\end{task}

\end{document}