После долгих мучений нашел все же нужный код.
Код:
/* encrypt code
ecx = buffer
esi = 0x11cfd
edi = 0
.text:01411800 loc_1411800: ; CODE XREF: Encrypt1+42j
.text:01411800 mov al, [edi+ecx] ; ecx = buffer
.text:01411803 mov edx, esi
.text:01411805 sar edx, 8
.text:01411808 xor al, dl
.text:0141180A mov [ecx], al
.text:0141180C movzx eax, al
.text:0141180F add eax, esi
.text:01411811 imul eax, 0CE6Dh
.text:01411817 add eax, 58BFh
.text:0141181C inc ecx
.text:0141181D sub ebp, 1
.text:01411820 mov esi, eax
.text:01411822 jnz short loc_1411800 ; ecx = buffer
*/