UTF-8でボタンの表示が若干変わる（IEのみ）

現在開発中のアプリケーションは中国語、日本語、英語を扱わないといけないため、DBもHTMLの出力エンコーディングもUTF-8を利用しています。
jspにこんなのをつける。

<%@ page contentType="text/html; charset=UTF-8" pageEncoding="Windows-31J" %>

するとすると！表示された画面上でボタンが一回り大きくなる！！しかも日本語だと真ん中に揃わず上に寄る！！え〜！！！
実際、Googleもそうなってます。↓

けどそういえば「Google検索」のところは普通じゃね？なんで？？と思うじゃないですか。これはシングルバイト文字が先頭にあると真ん中に揃うようです。たまたま。なんじゃそりゃ！けど一回り大きくなるってのは変わりません。
色々試した挙句、以下のようにするとWindows-31Jの時と同様に表示されることが分かりました。なぜかはよく分かりません。。

button {
  font-family : "MS UI Gothic"
}