Смотрите здесь и здесь.

Например, так. Только учтите, что открытый ключ будет сохранён в нестандартном формате (по сути, без сертификата X.509); сможете ли Вы его в итоге применять тем способом, которым планируете — без понятия.

openssl genrsa -aes256 -out private.key 2048 openssl rsa -in private.key -pubout > public.key

Большое спасибо!

А какую роль играет генерация собственных ecparam? Надо ли мне это делать и включать их в библиотеку (поверх SSL всё равно будет собственный протокол, браузеры с ним работать не будут), или лучше выбрать одну из заранее известных конфигураций?

Почти в тему (тут описано подробнее):

Disable Export Cipher Suites. Even though modern browsers no longer support export suites, the FREAK and Logjam attacks allow a man-in-the-middle attacker to trick browsers into using export-grade cryptography, after which the TLS connection can be decrypted. Export ciphers are a remnant of 1990s-era policy that prevented strong cryptographic protocols from being exported from United States. No modern clients rely on export suites and there is little downside in disabling them.

Deploy (Ephemeral) Elliptic-Curve Diffie-Hellman (ECDHE). Elliptic-Curve Diffie-Hellman (ECDH) key exchange avoids all known feasible cryptanalytic attacks, and modern web browsers now prefer ECDHE over the original, finite field, Diffie-Hellman. The discrete log algorithms we used to attack standard Diffie-Hellman groups do not gain as strong of an advantage from precomputation, and individual servers do not need to generate unique elliptic curves.

Generate a Strong, Unique Diffie Hellman Group. A few fixed groups are used by millions of servers, which makes them an optimal target for precomputation, and potential eavesdropping. Administrators should generate unique, 2048-bit or stronger Diffie-Hellman groups using "safe" primes for each website or server.

Спасибо за ссылки!


Значит, я остаюсь на хорошо известной кривой,


но моя программа настоятельно рекомендует каждому пользователю однорангового P2P сделать самостоятельно openssl dhparam -out dhparams.pem 2048 – или, если пользователь нажмёт "я ленив", пользуется забитой разработчиком программы группой, потому что она лучше, чем ещё более популярные группы.

Не знаю, что в точности делает ваша команда, но главное — не перепутать генерацию ключа с генерацией собственных праймов, это разные вещи.