Zkus si v launcheru různá nastavení paměti. Teď na PC Minecraft nemám, ale na minulém s W7/64 a 8GB RAM jsem měl

-Xmx4096m -Xms4096m

a s OptiFine, Forge, vlastním texturepackem a několika modifikacemi vše fungovalo dobře (pokud jsem hodinu nestál u blaze farmy) i s vysokou dohledností. Poslední verze, co jsem hrál, byla 1.10.2.

S 16GB RAM bych ty parametry směle vytáhl na dvojnásobek.
A začni to zkoušet bez modifikací, jen s OptiFine.