> Вопрос2: правильно ли понимаю, что содержимое файла DER - это и есть
> то, что должно передаваться в процедуре handshake TLS в ServerHello (то

Неизвестно. PEM и DER - просто форматы записи. Записать ими можно что угодно.

Ищи такую строку: ASN.1 <-> DER <-> PEM

ServerHello использует сертификат для твоего ключа + остальную фигню - https://auth0.com/blog/the-tls-handshake-explained/

На мой взгляд, все руководства по SSL/TLS писаны намеренно запутаным языком, чтобы новички потерялись во всех этих PEM, DER, CER, SRT и где-нибудь накосячили, раскрывая свой ключ кому не следует.