Вы не говорите, какая версия и сборка OpenSSL (которая определяет доступные наборы шифров, а также протоколы, хотя протокол здесь не является вашей проблемой) или выпуск Ubuntu (который фактически определяет вышеизложенное), но из исходного файла в сообщении об ошибке это явно 1.1.0 или выше, и обычно он не поддерживает ни один из наборов шифров, предлагаемых вашим клиентом XP3. Если клиент различается в зависимости от Windows, на которой он работает, возможно, он использует schannel, а XP/S03 (даже с SP) не шифровали лучше, чем 3DES (подтверждено в дампе ClientHello).
Проще всего было бы, если бы клиент мог использовать SMTP (без TLS), и вы настроили постфикс, чтобы принять это; пока этот сервер используется только для этого одного хромого клиента, риск безопасности не намного хуже, чем тот клиент, который уже есть. В противном случае:
(я почти уверен), вы можете загрузить исходный пакет (OpenSSL) (то есть уже исправленный/настроенный Ubuntu), а также сборки и инструменты сборки, измените шаг конфигурации, чтобы добавить --enable-ssl-слабые-шифры, перестроить и установить; это должен быть совместимым (и теперь поддерживать 3DES, включенный в MEDIUM), хотя лично я бы не рискнул, если бы что-то важное работало в той же системе.В противном случае вы либо должны создать свою собственную версию OpenSSL и ваш собственный постфикс, использующий его, или предполагая, что вы используете неявный (465, а не STARTTLS), поместите что-то (простое) в bewteen, например, пару последовательных stunnel, построенных с ослабленной версией OpenSSL, что, вероятно, проще.
ИЛИ ЖЕ просто используйте Ubuntu, более близкую по возрасту к XP, например 16.04, которая у меня есть на WSL для тестирования, и имеет OpenSSL 1.0.2g-plus-patches
который поддерживает 3DES (и TLS1.0 — все OpenSSL, начиная с версии 0.9.8, поддерживают это). Если вы не хотите выделять для этого систему, поместите ее в виртуальную машину, докер или что-то подобное. Что, кстати, также может помочь предотвратить панику, если ваша организация выполняет сканирование всей сети на наличие устаревших или уязвимых версий вещей.
