これはシェル固有の動作です。 sshでログインしているシステムでは、デフォルトのシェルとしてzshが提供されますが、Ubuntuでは、デフォルトのシェルはbashです。それを試してみてください！ターミナルを開き、zshと入力します。初めて実行するときは、構成オプションの入力を求められます。その後、プレスト、あなたはあなたの望ましい行動を持っています。
ログインシェルを永続的にするには、ターミナルを開いて次のように入力します。
chsh -s /bin/zsh
次回ログインすると、zshがデフォルトのシェルになります。