> Есть каталог фирм на пхп. Нужно в нем организовать при регистрации одновременно
> и регистрацию почтового ящика с данным доменом. Каталог на ВПС. Подскажите,
> как можно реализовать данную функцию.

Простой ответ заключается в оплате работы. Наймите специалиста. За деньги... Возможно кто-то согласится и за пиво, но гарантий как понимаете - никаких.

Если же вы по жадности или глупости планируете заниматься и дальше этим вопросом самостоятельно- то есть несколько путей.

1. написать микросервис с REST АПИ который вы будете дергать при регистрации по http или https ссылке.
2. написать скрипт, который вы будете вызывать из того же обработчика регистрации

Собственно регистрация нового почтового ящика зависит от того где вы его собираетесь регистрировать- на собственном почтовом сервере, либо у хостера ВПС.
Если на собственном- о надо обратится к документации на выбранный продукт. если у хостера - о  у него вероятно есть либо АПИ для этого (возможно платное) либо предусмотрены соответствующие процедуры. В качестве особо утонченного способа можно регаться на бесплатных почтовиках и заводить ящики там... написав для этого скрипт.. на том же селениуме например...

Но прежде всего этого - надо конечно доделать уроки. Хотя бы по музыке и математике. Если не получится поступить в технический вуз- то всегда можно стать музыкантом.... :)