arXivに投稿したプレプリントの内容を確認するためのpythonサンプルコードです。 まずは、結果のグラフから。 このグラフは、平均値からの距離が以上の領域における確率密度関数の最大値が既知の場合、その領域全体の確率の上限を算出した結果です。 （この…

チェビシェフ不等式に関する考察のまとめをプレプリントとして投稿しました。概要平均値より一定以上離れた集合における確率密度関数の上限(最大値)が既知の場合、確率に対してより厳しい不等式を導出することができる、というものです。https://osf.io/h9zf…

これまで書いた内容を順番にまとめておきます。 内容の整理は、ぼちぼちと進めます。 1. 確率微分方程式(ブラウン運動モデル)を用いたコラッツ問題の解析 深堀したいのですが、コラッツ問題にこのモデルを適用する正当性がうまく 説明できずにいます。 2.素…

機械学習の分野でよく用いられるクロスエントロピーや、カルバック・ライブラー情報量に関する関係を導き出したので、要約を書いておきます。 今回見つけたことは、ざっくり言うと、 4つの確率分布が、「平行四辺形」の各頂点にあるとき、確率分布間の「距離…

この記事は、6/21に書いた記事を清書したものです。 ◇概要 情報幾何学は、確率分布を統計多様体上の点とみなし、統計多様体の幾何的な性質を解析する学問である。統計多様体が双対平坦な場合には、確率分布間の「距離の2乗」に該当する正準ダイバージェンス…

Can we represent the arbitrary function by mixture distribution?I thought this problem by using the analogy of wavelet transform.Definition.Let be a probability density function in .for distribution function indicates .In the following, we…

任意の確率密度関数は別の確率密度関数の混合確率分布で表されるのか？という問題に対し、ウェーブレット変換の手法を用いて考えてみます。 ⚪︎定義 で定義された確率密度関数に対し、 と定義する。また、は、を、は、を表すものとする。 も確率密度関数にな…

Definition. Let be Renyi entropy, for probability density function is Shannon entropy. and . and . We derive some properties by assuming . where is covariant matrix and is constant. Theorem 1 ( joint entropy inequatliy) Let be probability …

I show the graph of probability bound. Theorem1 Let be a continuous random variable with expected value and variance . Let be a probability density function. Let be . Then, where is a real root of 3-order equation. . Corollary 1. Let be a …

今回、考察の動機になったのは、Renyiエントロピーの指数関数とq次のモーメントのq乗根がスケール変換 に対して、全て同じ変換を受けるということでした。そこで予想したのがある定数cが存在し、が成り立つのではないか？ということです。左側の不等式は、一…

The motivation of research is the transformation of and are the same for scale transformation.where, is Renyi entropy.I think and derive Renyi EPI and extended Chebyshev inequality.

正規分布に対して、以前の記事で導いた不等式と、今回導いたlog凹関数版の不等式を比較してみます。 "1-CDF"が実際の正規分布の値、"New bound1"がr=3で計算した値、"New bound2(log-concavity)"がlog凹関数版の不等式でr=1で計算した値です。 log凹関数版の…

定理 を平均値 、分散 の確率変数とする。 を確率密度関数かつ対数凹関数であるとする。 かすべてのに対し成り立ち、 の極限で に収束するものとする。 m(K)をで定義する。 このとき、すべての で か成り立つ。 また、においては、 が成り立つに対して、同様…

Theorem Let be a log-concave random variable with expected value and variable . Let be a probability distribution function and hold for all . Let as . Let be . Then, for any , . For , if k satisfies the condition , the same inequality hold…

定理 ・連続値の場合 Xを に値をとる確率変数とし、Xの平均値を 、分散を 、 を確率密度関数とする。 また、m(k)をで定義する。 このとき かつk>0なるすべてのk, rに対し、 が成り立つ。 特に、でチェビシェフ不等式に一致する。 ・離散値の場合 Xをに値をと…

Theorem1 Let be a random variable with expected value and variable . Let be a probability distribution function. Let be . Then, for any r and k>0, , inequality in continuous case coincides with Chebyshev inequality. Theorem 2 Let be a rand…

We think of cross entropy for probability density function P(x), Q(x). Here, is natural loggarithm. 1) Theorem Define and assume is integrable. If s>0, and . It is equivalent eq(1) for <0 < Furthermore, then, . If P(x)=Q(x), we define H(X)…

確率密度関数 P(x), Q(x)に関し、クロスエントロピー を考えます。 1) 定理 と置くと、 が可積分となるsに対し、 s>0ならば s≦0ならば . が成り立つ。即ち <0 <なるに対し、 eq(1) さらに、で、 . 特に、P(x)=Q(x)のときは、 <0 <に対し、 が成り立つ。 証明…

しばらく何も考えつかなかったので、更新できませんでした。 このブログは、厳密な数学の議論をするのではなく、一見関係なさそうな概念をくっつけて様々な角度から数学を観察してみよう・・・という趣旨です。 ですので、同じような話題が何度も出てきます…

に含まれる自然数に関して、素因数の構成が同じ数を同一視して、最大エントロピー原理を仮定し、確率分布を導きました。次に、素因数のベキの関数 を考え、を計算します。ここで、は定数です。計算を実行すると、 eq(1)この結果を逆フーリエ変換すると、に関…

自然数の分布についてとりとめもなく考えてみました。ある素数に比べ、十分大きな数Mを考えます。この中における、素因数を持った数の割合は、おおむねで近似されます。a_kについての平均値は、 eq(1)自然数を一様分布とみなすと、区間を限定したときにエン…

Conjecture about information entropy.The proof may be easy in discrete case. Consider the variable group : and . We assume the variables can represent the variables as Furthermore, the variables can represent the variables as . Then, the a…

エントロピーに関する性質を考えました。証明は容易かもしれません。連続な場合はヤコビアンだけずれる気がします。【予想】ある変数群とを考え、のように、変数は変数で記述可能(説明可能)であるとする。さらに、も成立すると仮定する。このとき、の持つ情…

調子に乗ってガウス整数の場合も考えてみました。 こちらも雰囲気です。 インデックスkのガウス素数をとします。また、極座標において, にガウス素数が含まれる確率を とします 【準備】：素数に関する和の近似 , に個だけ素数があるとみなせるので、r

整数nの素因数の数は、と記述されます。 が従う確率分布はLandauによって証明されていますが、ここでは 確率分布の考え方を用いてラフに求めてみます。nはとし、x以下の最大素数のインデックスをKとします。 Kまでの数の集合を二つに分け、nに含まれる素因数…

素数の分布に関しては、素数定理があるのですが、証明は難しそうなので・・・ 自分なりに考えてみました。 数学的な厳密さは全くないので、かなり雰囲気です。 k番目の素数をとします。また、に素数が含まれる確率を とします。(素数の記号pとまぎらわしいの…

これまで解析してきた線形確率微分方程式の結果をコラッツの操作にあてはめます。 一般化されたコラッツの操作として、 1)nが奇数なら、3n+2l+1 2)nが偶数なら、n/2 を考えます。 もし、nが奇数ならば、1)と2)の操作を合わせて1回としてカウントします。 一…

線形確率微分方程式のモデルをコラッツ予想の操作に適用して分かったこと。後日、導出過程をきちんと書きたいと思います。 以下の、コラッツ予想もしくは、コラッツ予想を拡張した問題 1) nが奇数ならば、3n+2l+1 2)nが偶数ならば、n/2 の操作を繰り返すと、…

Consider linear SDE process. Here, are constant. The ODE for this process, eq(2) Here, represents , and represents . We write the independent solutions for this ODE after geometric Brownian motion. are the solution of quadratic equation. W…

We think about the geometric Bownian motion with negative drift. Here, is the drift of The ODE for g(x) is This ODE is Euler equation, we solve the Green function in the same way of Sturm-Liouville equation. Transform the equation like Stu…