表題を見てその通り!と思った方、無関心な方、アレ？と思った方、三者いらっしゃるとして今回は該当者へ向けて書いてみます。

図で説明できるとイチバンなんですが、それは無理なのでイメージしてください。
矢を射るイメージです。

前方に的があります。
それに向かって矢を放ちます。
すると、最初は矢は的を大きく外れて突き刺さります。
腕の問題もあるでしょうし、風の影響もあったかもしれません。
ところが次第に慣れて修整が効くようになると的の近辺に刺さり始めます。

確率もこれに似て、データの取り始めは大きなバラツキを見せますが、蓄積されるに従って、次第に確率本来の値に近づいていきます。
これは「大数の法則」と呼ばれていて証明された法則です。
その誤差が許容できる範囲に収まれば収束したと見なすことができます。
でも、確率は決して収束しません。
再び、矢の例で説明します。

何度も射ってると、そのうち腕が上達して的に命中する矢も出てきます。
じゃ、百発百中も可能かと言うとそれは無理です。
（弓道のルールを知らないので、そうですね…30㍍先の直径3.0㍉にしときましょうか？イメージですから）

確率も場合によってはピタリ計算値が確率の数値と合致することがあるかもしれませんが（実際には有り得ない）試行を続ければ、再び誤差の範囲でブレることになります。
そうしてブレは永遠に続きます。

つまり、厳密にいえば「確率は収束しない」んです。
理解して頂けたでしょうか？
理解が難しいとしたら、それは私の説明に不足があるせいですね。

確率の収束に期待をもって稼働すると状況によってはストレスを生じさせるかもしれません。
「データを何度計算し直してもなかなか確率通りにならないよ」ってね。
確率は、それが収束したかは飽くまで結果を分析した場合に於いてのみ知ることができるものなので、データから近い未来を占うことはできません。
それだけは覚えておいて欲しいと思います。

この記事はある板での会話がヒントになりました。
関係する方々に御礼申し上げます。