最近のOfficeはMSI版とC2R版があり、それぞれで更新プログラムのアンインストール方法が異なります。
まずは、以下を確認してどちらのOfficeか確認して下さい。
クイック実行形式 (C2R)
と Windows インストーラー形式 (MSI)
を見分ける方法
https://blogs.technet.microsoft.com/officesupportjp/2016/09/08/howto_c2r_or_msi/
■MSI版の場合
質問に記載されている通り、OS向け更新プログラムと同じ様に、コントロールパネル＞プログラムと機能＞インストールされた更新プログラムを表示、から更新プログラムを個別にアンインストールする事が可能です。（Outlook向け更新プログラムを個別にアンインストール可能です）
■C2R版場合
C2R版については、個別の更新プログラム(KBxxxxx)を適用する形式では無くなり、Office全体のバージョンアップする形式となっています。
更新プログラムをアンインストール（前の状態に戻す）と言う事は、以下で解説されている様にOffice全体のバージョンを以前のバージョンに戻す事になります。
クイック実行 (C2R)
版の Office 2016 を以前のバージョンに戻す方法
https://support.microsoft.com/ja-jp/help/2770432/how-to-revert-to-an-earlier-version-of-office-2013-or-office-2016-clic
