Ich sehe ein Problem beim Entschlüsseln:
strlen(in);
Du kannst "strlen" nicht anwenden, da ein 0Byte mitteln im Geheimtext stehen kann. Da würde der String abgeschnitten werden. Ich nehme an, das ist das Problem?
Bau Dir einen Header, wo Du die Größe des Blockes verschlüsselt festlegst, oder verschlüsslte immer in gleich großen Blöcken, da gibt es mehrere Möglichkeiten.
Was willst Du eigentlich genau damit verschlüsseln? Vielleicht kannst Du einen fertigen Algo verwenden. Der angewandte ist nicht besonders sicher - nur ein 8Bit-Schlüssel
Christian Irmler,
www.webCrypt.at