Слышал звон, да не знаю, где он...

1) реальный, стандартный и расширенный - это режимы работы Винды;
2) реальный, защищённый и режим виртуального 8086 - это режимы работы проца.

Далее по курсу, работать в защищённом режиме можно было и на 286'м процессоре, а Doom под Windows не работал не по причине видео-ОЗУ.

Watcom разработал сначала таки DOS/16M - это DOS-экстендер для работы в защищённом режиме процессоров 80286. Да, переход в реальный режим (как бы мы сейчас сказали, syscalls latency) слегка зашкаливал в своём подтормаживании, но работало.
Потом Watcom разработал DOS/4G - это DOS-экстендер для работы в защищённом режиме процессоров 80386. Однако, в отличие от DOS/16M, DOS/4G уже был вынужден считаться с тем, что его могли запустить и _не_ из реального режима - дело в том, что первое, для чего был использован режим виртуального 8086 (подрежим защищённого режима процессоров 80386) - это для эмуляции той самой расширенной памяти, придуманной ещё во времена 8086, при помощи EMM386 (и QEMM, и ещё некоторых других софтин), соответственно, перепрограммирование GDT/LDT/IDT в этом случае было не только излишним (всё уже украдено до вас), но и по очевидным соображениям приводило к глухому вису.
Так что DOS/4G пытался обнаружить эти менеджеры памяти и, при удаче, пользовался специальным интерфейсом - VCPI - для манипуляции ОЗУ.

Однако же, _изнутри_ Windows VCPI был недоступен по причине его несовместимости с многозадачностью. Microsoft предложила другой интерфейс - DPMI (DOS Protected Mode Interface) для работы DOS-экстендеров изнутри DOS-сессий Windows.
Watcom ругнулся, разработал DOS/4GW, и Doom начал вполне себе работать под Виндой.

А WinDOOM и WinG -- это вообще совсем другая история.