私は4kラップトップを持っているので、DPIスケーリングは、Windowsが自動的にスケーリングしないアプリに使用するものです。
VirtualBoxを右クリック>プロパティ>互換性> DPIスケーリングを無効にするでうまくいくはずです。ただし、ゲスト用にアップサンプリングされたままです。
ただし、実際のvirtualbox管理画面は問題ないように見えます。 (Windows 8ホスト)
ホストコンピュータを再起動すると修正されました。 4k解像度が適用されていて、まだ再起動していないためだと思います。ログオフもおそらく機能した可能性があります。