BGEですか…基本的にBGEでは精度より速度を優先していると思われるので、精度を上げる設定は他にはないように思います。

PythonAPI も探してみたのですが、BGE用の物はコンストレイント用にはbge.constraints.setNumIterations があるものの、移動・回転の拘束は恐らく▼物理演算→移動/回転をロックで行われていると思いますので効力はないと思います。

あとは衝突判定の方法を変えるか、初速を与える開始時間を一定に保つ、位置や速度のパラメータをスクリプトで定値を設定してから初速を与えるなどが考えられますが、いずれも実際には試していません。

個人的には精度の必要な場合にはBGEを使用すべきではないと思います。