Openssl. Иногда вызов функций шифрования проходит нормально, иногда нет

@elax · Регистрация: 09.05.2013

Студворк — интернет-сервис помощи студентам

Всем привет!

Использую библиотеку openssl для шифрования / дешифрования. Генерирую ключи следующим образом:

C++
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
        RSA *rsa_internal_ = RSA_generate_key(g_rsa_key_length, RSA_F4, &genrsa_cb, NULL);
 
    char *pri_key = NULL; // Private key
    char *pub_key = NULL; // Public key
    size_t pri_len; // Length of private key
    size_t pub_len; // Length of public key
 
    BIO *pri = BIO_new(BIO_s_mem());
    BIO *pub = BIO_new(BIO_s_mem());
 
    PEM_write_bio_RSAPrivateKey(pri, rsa_internal_, NULL, NULL, 0, NULL, NULL);
    PEM_write_bio_RSAPublicKey(pub, rsa_internal_);
 
    pri_len = BIO_pending(pri);
    pub_len = BIO_pending(pub);
 
    pri_key = new char [pri_len];
    pub_key = new char [pub_len];
 
    BIO_read(pri, pri_key, pri_len);
    BIO_read(pub, pub_key, pub_len);
 
    std::vector<char> public_key_.insert(public_key_.begin(), pub_key, pub_key + pub_len);
    std::vector<char> private_key_.insert(private_key_.begin(), pri_key, pri_key + pri_len);
 
    delete pri;
    delete pub;
    delete [] pri_key;
    delete [] pub_key;

Проблема в следующем, когда отлаживаю программу иногда вызов функций шифрования проходит нормально иногда нет , вылетает ошибка:

Windows has triggered a breakpoint in TunnelServer.exe.
This may be due to a corruption of the heap, which indicates a bug in 111.exe or any of the DLLs it has loaded.

The output window may have more diagnostic information.

Начал копаться, заметил что после вызова RSA_generate_key создается 2 дополнительных потока, и по ошибке видно, что где то что то происходит с потоками. Сами потоки, не уничтожаются и висят...

Кто нибудь встречался с подобным? Может что нибудь подсказать?

Добавлено через 13 часов 41 минуту
UP!

@SatanaXIII · 11.02.2014, 09:46

А что говорит

Сообщение от elax

The output window may have more diagnostic information.

@elax · 11.02.2014, 10:32 **[ТС]**

Вот последнее что есть в output:

...
'TunnelServer.exe': Loaded 'C:\Windows\System32\cryptsp.dll'
'TunnelServer.exe': Loaded 'C:\Windows\System32\rsaenh.dll'
'TunnelServer.exe': Loaded 'C:\Windows\System32\cryptbase.dll'
First-chance exception at 0x7745fd8a in TunnelServer.exe: 0xC0000005: Access violation reading location 0x7a6f971d.
HEAP[TunnelServer.exe]: Invalid address specified to RtlValidateHeap( 00800000, 008070F0 )
Windows has triggered a breakpoint in TunnelServer.exe.

This may be due to a corruption of the heap, which indicates a bug in TunnelServer.exe or any of the DLLs it has loaded.

This may also be due to the user pressing F12 while TunnelServer.exe has focus

Добавлено через 3 минуты
SatanaXIII, а что можете сказать о 2х созданных потоках после вызова функции RSA_generate_key()?

@SatanaXIII · 11.02.2014, 10:49

Сообщение от elax

что можете сказать о 2х созданных потоках

Ничего. Мало сталкивался с BIO.

Сообщение от elax

иногда вызов функций шифрования проходит нормально иногда нет

Могу посоветовать только добавить какое-нибудь логирование, чтобы, при падении программы, точно посмотреть место, где оно происходит. Особенно вот это место:

C++
23
24
std::vector<char> public_key_.insert(public_key_.begin(), pub_key, pub_key + pub_len);
std::vector<char> private_key_.insert(private_key_.begin(), pri_key, pri_key + pri_len);

@elax · 11.02.2014, 11:10 **[ТС]**

SatanaXIII, Здесь всё норм, падение происходит при вызове функции RSA_private_decrypt(), при чём вылетает при повторном вызове, т.е. один раз шифрую-дешифрую, второй раз шифрую-ешифрую, и на втором вылетает.

@SatanaXIII · 11.02.2014, 11:18

elax, мож rsa_internal_ почистить после дешифровки?

@elax · 11.02.2014, 11:49 **[ТС]**

Сейчас попробую) А если не требуется несколько раз шифровать-дешифровать, тогда прийдётся создавайть её заново...

Добавлено через 6 минут
SatanaXIII, Не помогло. Для того чтоб лучше понимать что делаю вот исходники:

Файл Cripting.h

C++
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
#pragma once
 
namespace TunnelCommon
{
 
class RsaCrypting
{
public:
    enum Error
    {
        Errror_No = 0,
        Error_BadInternalKeys = -1,
        Error_BadExtarnalKeys = -2,
        Error_InternalCrypting = -3,
        Error_ExternalCrypting = -4,
        Error_GeneratingInternalKeys = -5,
        Error_GeneratingExternalKeys = -6
    };
 
    RsaCrypting();
    ~RsaCrypting();
 
    void GenerateKeys();
    
    const std::vector<char>& GetInternalPublicKey() const { return public_key_; }
    const std::vector<char>& GetInternalPrivateKey() const { return private_key_; }
 
    int EncryptByInternalRSA(const std::vector<char>& in_data, std::vector<char>& out_data) const;
    int DecryptByInternalRSA(const std::vector<char>& in_data, std::vector<char>& out_data) const;
 
    int EncryptByExternalRSA(const std::vector<char>& in_data, std::vector<char>& out_data) const;
 
    void RSA_FromPublicKey(const std::vector<char>& public_key);
 
private:
    std::vector<char> public_key_;
    std::vector<char> private_key_;
 
    RSA *rsa_internal_;
    RSA *rsa_external_;
};
 
} // TunnelCommon

файл Crypting.cpp

C++
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
#include "stdafx.h"
 
#include "Crypting.h"
 
namespace TunnelCommon
{
 
namespace
{
 
const unsigned long g_rsa_key_length = 2048; /* длина ключа в битах */
 
} // namespace
 
RsaCrypting::RsaCrypting()
    : rsa_internal_(NULL)
    , rsa_external_(NULL)
{
}
 
RsaCrypting::~RsaCrypting()
{
    public_key_.clear();
    private_key_.clear();
 
    if (rsa_internal_)
    {
        RSA_free(rsa_internal_);
    }
 
    if (rsa_external_)
    {
        RSA_free(rsa_external_);
    }
}
 
void RsaCrypting::GenerateKeys()
{
    if (rsa_internal_)
    {
        RSA_free(rsa_internal_);
    }
 
    public_key_.clear();
    private_key_.clear();
 
    rsa_internal_ = RSA_new();
 
    /* Генерируем ключи */
    BIGNUM *e = BN_new();
    BN_set_word(e, 65537);
    RSA_generate_key_ex(rsa_internal_, g_rsa_key_length, e, NULL);
 
    char *pri_key = NULL; // Private key
    char *pub_key = NULL; // Public key
    size_t pri_len; // Length of private key
    size_t pub_len; // Length of public key
 
    BIO *pri = BIO_new(BIO_s_mem());
    BIO *pub = BIO_new(BIO_s_mem());
 
    PEM_write_bio_RSAPrivateKey(pri, rsa_internal_, NULL, NULL, 0, NULL, NULL);
    PEM_write_bio_RSAPublicKey(pub, rsa_internal_);
 
    pri_len = BIO_pending(pri);
    pub_len = BIO_pending(pub);
 
    pri_key = new char [pri_len];
    pub_key = new char [pub_len];
 
    BIO_read(pri, pri_key, pri_len);
    BIO_read(pub, pub_key, pub_len);
 
    public_key_.insert(public_key_.begin(), pub_key, pub_key + pub_len);
    private_key_.insert(private_key_.begin(), pri_key, pri_key + pri_len);
 
    delete pri;
    delete pub;
    delete [] pri_key;
    delete [] pub_key;
    BN_free(e);
}
 
void RsaCrypting::RSA_FromPublicKey(const std::vector<char>& public_key)
{
    if (rsa_external_)
    {
        RSA_free(rsa_external_);
    }
 
    BIO *bio_pub = BIO_new(BIO_s_mem());
    BIO_write(bio_pub, &public_key[0], public_key.size());
 
    rsa_external_ = RSA_new();
    rsa_external_ = PEM_read_bio_RSAPublicKey(bio_pub, &rsa_external_, NULL, NULL);
}
 
int RsaCrypting::EncryptByInternalRSA(const std::vector<char>& in_data, std::vector<char>& out_data) const
{
    if (!rsa_internal_)
    {
        return Error_BadInternalKeys;
    }
 
    char *ptext, *ctext;
    FILE * pub_key_file = NULL;
 
    // Определяем длину ключа
    int key_size = RSA_size(rsa_internal_);
    ctext = new char [key_size];
    ptext = new char [key_size];
    // Шифруем
    RSA_public_encrypt(in_data.size(), (const unsigned char*) &in_data[0],
        (unsigned char*) ctext, rsa_internal_, RSA_PKCS1_PADDING);
 
    std::vector<char>::const_iterator in_data_iter = in_data.begin();
    int int_data_size = in_data.size();
    ptext = (char*) &in_data[0];
    while(int_data_size > 0)
    {
        int data_len_for_crypting = int_data_size < key_size - 11 ? int_data_size : key_size - 11;
        int out_len = RSA_public_encrypt(data_len_for_crypting, (unsigned char*) ptext,
            (unsigned char*) ctext, rsa_internal_, RSA_PKCS1_PADDING);
        out_data.insert(out_data.begin(), ctext, ctext + out_len);
        int_data_size -= data_len_for_crypting;
    }
 
    delete [] ptext;
    delete [] ctext;
 
    return Errror_No;
}
 
int RsaCrypting::DecryptByInternalRSA(const std::vector<char>& in_data, std::vector<char>& out_data) const
{
    if (!rsa_internal_)
    {
        return Error_BadInternalKeys;
    }
 
    char *ptext, *ctext;
    FILE * pub_key_file = NULL;
 
    // Определяем длину ключа
    int key_size = RSA_size(rsa_internal_);
    ctext = new char [key_size];
    ptext = new char [key_size];
 
    std::vector<char>::const_iterator in_data_iter = in_data.begin();
    int int_data_size = in_data.size();
    ptext = (char*) &in_data[0];
    while(int_data_size > 0)
    {
        int data_len_for_crypting = int_data_size < key_size ? int_data_size : key_size;
        int out_len = RSA_private_decrypt(data_len_for_crypting, (unsigned char*) ptext,
            (unsigned char*) ctext, rsa_internal_, RSA_PKCS1_PADDING);
 
            
        if (out_len < 0)
        {
            return Error_InternalCrypting;
        }
 
        out_data.insert(out_data.begin(), ctext, ctext + out_len);
        int_data_size -= data_len_for_crypting;
    }
 
    delete [] ptext;
    delete [] ctext;
 
    return Errror_No;
}
 
int RsaCrypting::EncryptByExternalRSA(const std::vector<char>& in_data, std::vector<char>& out_data) const
{
    if (!rsa_external_)
    {
        return Error_BadInternalKeys;
    }
 
    char *ptext, *ctext;
    FILE * pub_key_file = NULL;
 
    // Определяем длину ключа
    int key_size = RSA_size(rsa_external_);
    ctext = new char [key_size];
    ptext = new char [key_size];
 
    std::vector<char>::const_iterator in_data_iter = in_data.begin();
    int int_data_size = in_data.size();
    ptext = (char*) &in_data[0];
    while(int_data_size > 0)
    {
        int data_len_for_crypting = int_data_size < key_size ? int_data_size : key_size;
        int out_len = RSA_public_encrypt(data_len_for_crypting, (unsigned char*) ptext,
            (unsigned char*) ctext, rsa_external_, RSA_PKCS1_PADDING);
 
        if (out_len < 0)
        {
            return Error_ExternalCrypting;
        }
 
        out_data.insert(out_data.begin(), ctext, ctext + out_len);
        int_data_size -= data_len_for_crypting;
    }
 
    delete [] ptext;
    delete [] ctext;
 
    return Errror_No;
}
 
} // namespace TunnelCommon

Main

C++
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
int _tmain(int argc, _TCHAR* argv[])
{
    TunnelCommon::RsaCrypting crypting;
    crypting.GenerateKeys();
 
    char *data = "Hellow Data!!!";
    std::vector<char> in_data(data, data + 14);
 
    // crypting by internal
    std::vector<char> encrypt_data;
    std::vector<char> decrypt_data;
    crypting.EncryptByInternalRSA(in_data, encrypt_data);
    crypting.DecryptByInternalRSA(encrypt_data, decrypt_data);
 
    encrypt_data.clear();
    decrypt_data.clear();
    crypting.EncryptByInternalRSA(in_data, encrypt_data);
    [COLOR="Red"]crypting.DecryptByInternalRSA(encrypt_data, decrypt_data); //вот тут и выдетает[/COLOR] 
    
    // crypting by external
    std::vector<char> encrypt_data1;
    std::vector<char> decrypt_data1;
    crypting.RSA_FromPublicKey(crypting.GetInternalPublicKey());
    crypting.EncryptByExternalRSA(in_data, encrypt_data1);
    crypting.DecryptByInternalRSA(encrypt_data1, decrypt_data1);
 
    return 0;
}

Добавлено через 9 минут
Могу скинуть архив с проектами...

Добавлено через 13 минут
Разобрался в чём проблема, дело было не opebssl, сам накосячил. Надо быть внимательний когда используешь копи-паст чужих примеров. Собственно проблема была в следующем: в методах EncryptByInternalRSA(), DecryptByInternalRSA, EncryptByExternalRSA есть указатель ptext и для него я выделяю память а потом освобождаю, что в пирнципе мне не нужно было, этот указатель должен был просто ссылаться на содержимое входного вектора. После того как начал использовать ptext как просто указатель (убрал выделение памяти и отчистку) всё стало нормально.

Новые блоги и статьи Все статьи Все блоги /
Семь CDC на одном интерфейсе: 5 U[S]ARTов, 1 CAN и 1 SSI Eddy_Em 18.02.2026 Постепенно допиливаю свою "многоинтерфейсную плату". Выглядит вот так: https:/ / www. cyberforum. ru/ blog_attachment. php?attachmentid=11617&stc=1&d=1771445347 Основана на STM32F303RBT6. На борту пять. . .	Символьное дифференцирование igorrr37 13.02.2026 / * Программа принимает математическое выражение в виде строки и выдаёт его производную в виде строки и вычисляет значение производной при заданном х Логарифм записывается как: (x-2)log(x^2+2) -. . .	Камера Toupcam IUA500KMA Eddy_Em 12.02.2026 Т. к. у всяких "хикроботов" слишком уж мелкий пиксель, для подсмотра в ESPriF они вообще плохо годятся: уже 14 величину можно рассмотреть еле-еле лишь на экспозициях под 3 секунды (а то и больше),. . .	И ясному Солнцу zbw 12.02.2026 И ясному Солнцу, и светлой Луне. В мире покоя нет и люди не могут жить в тишине. А жить им немного лет.
«Знание-Сила» zbw 12.02.2026 «Знание-Сила» «Время-Деньги» «Деньги -Пуля»	SDL3 для Web (WebAssembly): Подключение Box2D v3, физика и отрисовка коллайдеров 8Observer8 12.02.2026 Содержание блога Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами и вызывать обработчики событий столкновения. . . .	SDL3 для Web (WebAssembly): Загрузка PNG с прозрачным фоном с помощью SDL_LoadPNG (без SDL3_image) 8Observer8 11.02.2026 Содержание блога Библиотека SDL3 содержит встроенные инструменты для базовой работы с изображениями - без использования библиотеки SDL3_image. Пошагово создадим проект для загрузки изображения. . .	SDL3 для Web (WebAssembly): Загрузка PNG с прозрачным фоном с помощью SDL3_image 8Observer8 10.02.2026 Содержание блога Библиотека SDL3_image содержит инструменты для расширенной работы с изображениями. Пошагово создадим проект для загрузки изображения формата PNG с альфа-каналом (с прозрачным. . .

@elax 7 / 0 / 1 Регистрация: 09.05.2013 Сообщений: 36
	11.02.2014, 10:32 [ТС]
	Вот последнее что есть в output: ... 'TunnelServer.exe': Loaded 'C:\Windows\System32\cryptsp.dll' 'TunnelServer.exe': Loaded 'C:\Windows\System32\rsaenh.dll' 'TunnelServer.exe': Loaded 'C:\Windows\System32\cryptbase.dll' First-chance exception at 0x7745fd8a in TunnelServer.exe: 0xC0000005: Access violation reading location 0x7a6f971d. HEAP[TunnelServer.exe]: Invalid address specified to RtlValidateHeap( 00800000, 008070F0 ) Windows has triggered a breakpoint in TunnelServer.exe. This may be due to a corruption of the heap, which indicates a bug in TunnelServer.exe or any of the DLLs it has loaded. This may also be due to the user pressing F12 while TunnelServer.exe has focus Добавлено через 3 минуты SatanaXIII, а что можете сказать о 2х созданных потоках после вызова функции RSA_generate_key()? 0

@elax 7 / 0 / 1 Регистрация: 09.05.2013 Сообщений: 36
	11.02.2014, 11:10 [ТС]
	SatanaXIII, Здесь всё норм, падение происходит при вызове функции RSA_private_decrypt(), при чём вылетает при повторном вызове, т.е. один раз шифрую-дешифрую, второй раз шифрую-ешифрую, и на втором вылетает. 0

@SatanaXIII Почетный модератор 5851 / 2862 / 392 Регистрация: 01.11.2011 Сообщений: 6,906
	11.02.2014, 11:18
	elax, мож rsa_internal_ почистить после дешифровки? 0

Openssl. Иногда вызов функций шифрования проходит нормально, иногда нет

Решение