Работа с небезопасным кодом

@Jeckor · Регистрация: 27.10.2013

Студворк — интернет-сервис помощи студентам

Здравствуйте! Создаю программу симметричного шифрования. Пользователю нужно написать ключ (один символ) и сообщение, которое он хочет зашифровать. Для самого шифрования я на ассемблере написал функцию и сварганил dll, чтобы работать с этой функций в VS. Проблема естественно в том, что ничего не выходит) Если сообщение, которое зашифровывается, слишком длинное, то возникает переполнение буфера на выходе из той самой функции в dll. Даже если ввести просто один символ для шифрования, возникает исключение System.AccessViolationException и опять-таки, что-то не так именно с той функцией. Помогите пожалуйста исправить проблему!

Вот форма:

Вот код кнопки "Зашифровать сообщение":

C#
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
private void button1_Click(object sender, EventArgs e)
        {
            string key = textBox1.Text;
            string mes = richTextBox1.Text;
            StringBuilder message = new StringBuilder(mes);
            uint count = (uint) message.Length;
            PInvoke.Coding(key, ref message, count);    //Вызов функции шифрования. Тут в режиме отладки показывает ошибку
            string[] result = new string[1];
            FileStream f = new FileStream("f.txt", FileMode.Create, FileAccess.Write);
            StreamWriter f_out = new StreamWriter(f);
            f_out.WriteLine(message);
            f_out.Close();
            FileStream fu = new FileStream("f.txt", FileMode.Open, FileAccess.Read);
            StreamReader fu_in = new StreamReader(fu);
            result[0] = fu_in.ReadLine();
            fu_in.Close();
            FileStream f2 = new FileStream("f.txt", FileMode.Create);
            richTextBox2.Text = result[0];
        }

Это прототип функции Coding, которая находится в coding.dll:

C#
1
2
3
4
5
public static class PInvoke
    {
        [DllImport(@"F:\masm32\bin\coding.dll", EntryPoint = "Coding", CharSet = CharSet.Ansi)]
        public extern static void Coding([MarshalAs(UnmanagedType.LPStr)] string key, [MarshalAs(UnmanagedType.LPStr)] ref StringBuilder message, [MarshalAs(UnmanagedType.U4)] uint count);
    }

Ну а это содержимое самой библиотеки:

Assembler
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
.686
.model flat, stdcall
option casemap:none
include    \masm32\include\windows.inc
include    \masm32\include\kernel32.inc
include    \masm32\include\user32.inc
includelib \masm32\lib\user32.lib
includelib \masm32\lib\kernel32.lib
 
public Coding
Coding proto :DWORD, :DWORD, :DWORD
 
.data
    hlnst dd 0
.code 
    DllEntry proc instance:HINSTANCE, reason:DWORD, unused:DWORD
        mov eax, reason
        cmp eax, DLL_PROCESS_ATTACH
        jnz _exit
        push instance
        pop hlnst
    _exit:
        and eax, 1
        ret
    DllEntry endp
    
    Coding proc key:DWORD, message:DWORD, count:DWORD
        xor eax, eax
        xor ecx, ecx
        mov eax, key
        lea esi, message
        mov ecx, count  ;count - количество символов в сообщении
    M1:
        xor [esi], eax   ;складываем заданный символ сообщения с ключом по модулю 2, чтобы зашифровать символ
        add esi, 4      ;указатель на следующий символ сообщения
        loop M1
    Coding endp
end DllEntry

В первую очередь мне не понятно, какой тип данных должен быть у аргументов Coding, когда передаешь string и StringBuilder. В этом примере я использую DWORD, но может это неверно?

@OwenGlendower · 23.11.2014, 20:55

Jeckor, в ассемблерном коде делается цикл по кол-ву символов в строке с шагом по строке в 4 байта. То есть ты исходишь из того что строка состоит из 4 байтовых символов. Это не так хотя бы потому что ты попросил использовать однобайтовую кодировку при маршаллинге параметра message. Таким образом ты всегда выходишь за пределы "своей" памяти и портишь её.

Вторая ошибка в том что результат шифрования трактуется как строка. .NET использует кодировку UTF-16 для хранения типа string и кодировку UTF-8 при работе с текстовыми файлами. Особенность обоих кодировок в том что кол-во байтов на один символ может меняться и в том что не все байты являются разрешенными. Проверить второе утверждение довольно просто. Возьмем такую функцию:

C#
1
2
3
4
5
6
7
8
// Плохой код! Не надо так писать.
string XorString(string s, byte password)
{
    byte[] buf = Encoding.Unicode.GetBytes(s);
    for (int i=0; i<buf.Length; i++) buf[i] ^= password;
    // Ошибка! Не каждый массив байтов является правильной Unicode строкой!
    return Encoding.Unicode.GetString(buf);
}

И вызовем её с разными паролями:

C#
1
2
3
4
5
6
7
8
9
string original = "Волга", encoded, decoded;
 
// Работает
encoded = XorString("Волга", 21);
decoded = XorString(encoded, 21); // decoded = "Волга"
 
// Не работает :(
encoded = XorString("Волга", 216);
decoded = XorString(encoded, 216); // decoded = "✥✥✥✥✥"

То есть подобная реализация это игра в рулетку. Возможно повезет. Возможно нет.

Правильная реализация шифрования с помощью XOR для многобайтовых кодировок должна возвращать массив байтов, а не строку. Далее мы запишем этот массив как-есть в файл. При обратной операции мы считаем массив байтов, применим xor и получим строку. Возможно такой подход тебе не подойдет т.к. ты хочешь отобразить результат шифрования на экране. Думаю тебе нужно выбрать какой-то другой алгоритм. Шифр Цезаря, например. Советую также написать сначала реализацию на C# а потом уже браться за ассемблер. И, кстати говоря, чем обусловлен выбор ассемблера?

@Jeckor · 24.11.2014, 08:50 **[ТС]**

Спасибо за подробное разъяснение. Воспользуюсь советом изменить алгоритм шифрования) Выбор ассемблера обусловлен заданием курсового проекта написать программу симметричного шифрования на MASM. Я не выбирал)

@Jeckor · 24.11.2014, 11:09 **[ТС]**

А ты не можешь подсказать, как в моем случае вернуть строку из функции Coding? Я исправил все, на что ты указываешь и ошибок (необработанных исключений) больше не возникает. Однако код все равно работает неправильно, т.к. возвращает то же самое значение, которое я передаю. Воть:

Алгоритм шифрования тоже выбрал тот, который ты мне подсказал - Цезаря. Каждый символ в сообщении заменяю заменяю в зависимости от длины ключа, т.е. если длина ключа 4 символа, то заменяю на четвертый идущий после него символ.

Assembler
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
.686
.model flat, stdcall
option casemap:none
include    \masm32\include\windows.inc
include    \masm32\include\kernel32.inc
include    \masm32\include\user32.inc
includelib \masm32\lib\user32.lib
includelib \masm32\lib\kernel32.lib
 
public Coding
Coding proto :BYTE, :BYTE, :DWORD
 
.data
    hlnst dd 0
    i dd 0
    count_key dd ?  ;количество символов в ключе
.code 
    DllEntry proc instance:HINSTANCE, reason:DWORD, unused:DWORD
        mov eax, reason
        cmp eax, DLL_PROCESS_ATTACH
        jnz _exit
        push instance
        pop hlnst
    _exit:
        and eax, 1
        ret
    DllEntry endp
    
    Coding proc key:BYTE, message:BYTE, count:DWORD
        xor eax, eax
        xor ebx, ebx
        ;---Вычисление длины ключа:
        lea edi, key
    @1:
        inc eax
        cmp byte ptr[eax+edi],0
        jnz @1
        mov count_key, eax
        xor eax, eax
        ;---Кодировка строки message (метод Цезаря)
        lea esi, message
        mov ebx, count_key
        mov ecx, count
    @2: 
        mov eax, [esi]
        add eax, ebx
        mov [esi], eax
        add esi, 1
        loop @2
        ret
    Coding endp
end DllEntry

Новые блоги и статьи Все статьи Все блоги /
Настройка записи справочника по регистру сведений Maks 29.03.2026 Решение ниже реализовано на примере нетипового справочника "ТарифыМобильнойСвязи" разработанного в конфигурации КА2, с целью учета корпоративной мобильной связи в коммерческом предприятии. . . .	Автозаполнение реквизита при выборе элемента справочника Maks 27.03.2026 Программный код из решения ниже на примере нетипового документа "ЗаявкаНаРемонтСпецтехники" разработанного в конфигурации КА2. При выборе "Спецтехники" (Тип Справочник. Спецтехника), заполняется. . .	Сумматор с применением элементов трёх состояний. Hrethgir 26.03.2026 Тут. https:/ / fips. ru/ EGD/ ab3c85c8-836d-4866-871b-c2f0c5d77fbc Первый документ красиво выглядит, но без схемы. Это конечно не даёт никаких плюсов автору, но тем не менее. . . всё может быть. . .	Автозаполнение реквизитов при создании документа Maks 26.03.2026 Программный код из решения ниже размещается в модуле объекта документа, в процедуре "ПриСозданииНаСервере". Алгоритм проверки заполнения реализован для исключения перезаписи значения реквизита,. . .
Команды формы и диалоговое окно Maks 26.03.2026 1. Команда формы "ЗаполнитьЗапчасти". Программный код из решения ниже на примере нетипового документа "ЗаявкаНаРемонтСпецтехники" разработанного в конфигурации КА2. В качестве источника данных. . .	Кому нужен AOT? DevAlt 26.03.2026 Решил сделать простой ланчер Написал заготовку: dotnet new console --aot -o UrlHandler var items = args. Split(":"); var tag = items; var id = items; var executable = args;. . .	Отправка уведомления на почту при создании или изменении элементов справочника Maks 24.03.2026 Программная отправка письма электронной почты на примере типового справочника "Склады" в конфигурации БП3. Перед реализацией необходимо выполнить настройку системной учетной записи электронной. . .	модель ЗдравоСохранения 5. Меньше увольнений- больше дохода! anaschu 24.03.2026 Теперь система здравосохранения уменьшает количество увольнений. 9TO2GP2bpX4 a42b81fb172ffc12ca589c7898261ccb/ https:/ / rutube. ru/ video/ a42b81fb172ffc12ca589c7898261ccb/ Слева синяя линия -. . .

@Jeckor 1 / 1 / 1 Регистрация: 27.10.2013 Сообщений: 44
	24.11.2014, 08:50 [ТС]
	Спасибо за подробное разъяснение. Воспользуюсь советом изменить алгоритм шифрования) Выбор ассемблера обусловлен заданием курсового проекта написать программу симметричного шифрования на MASM. Я не выбирал) 0

Работа с небезопасным кодом

Решение