~ubuntu-branches/ubuntu/utopic/dropbear/utopic-proposed

« back to all changes in this revision

Viewing changes to libtomcrypt/der_length_integer.c

  • Committer: Bazaar Package Importer
  • Author(s): Matt Johnston
  • Date: 2005-12-08 19:20:21 UTC
  • mfrom: (1.2.2 upstream)
  • Revision ID: james.westby@ubuntu.com-20051208192021-nyp9rwnt77nsg6ty
Tags: 0.47-1
* New upstream release.
* SECURITY: Fix incorrect buffer sizing.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
/* LibTomCrypt, modular cryptographic library -- Tom St Denis
2
 
 *
3
 
 * LibTomCrypt is a library that provides various cryptographic
4
 
 * algorithms in a highly modular and flexible manner.
5
 
 *
6
 
 * The library is free for all purposes without any express
7
 
 * guarantee it works.
8
 
 *
9
 
 * Tom St Denis, tomstdenis@iahu.ca, http://libtomcrypt.org
10
 
 */
11
 
 
12
 
#include "mycrypt.h"
13
 
 
14
 
/* Gets length of DER encoding of num */
15
 
 
16
 
int der_length_integer(mp_int *num, unsigned long *outlen)
17
 
{
18
 
   unsigned long z, len;
19
 
   int           leading_zero;
20
 
 
21
 
   _ARGCHK(num     != NULL);
22
 
   _ARGCHK(outlen  != NULL);
23
 
 
24
 
   /* we only need a leading zero if the msb of the first byte is one */
25
 
   if ((mp_count_bits(num) & 7) == 7 || mp_iszero(num) == MP_YES) {
26
 
      leading_zero = 1;
27
 
   } else {
28
 
      leading_zero = 0;
29
 
   }
30
 
 
31
 
   /* size for bignum */
32
 
   z = len = leading_zero + mp_unsigned_bin_size(num);
33
 
 
34
 
   /* we need a 0x02 */
35
 
   ++len;
36
 
 
37
 
   /* now we need a length */
38
 
   if (z < 128) {
39
 
      /* short form */
40
 
      ++len;
41
 
   } else {
42
 
      /* long form (relies on z != 0) */
43
 
      ++len;
44
 
 
45
 
      while (z) {
46
 
         ++len;
47
 
         z >>= 8;
48
 
      }
49
 
   }
50
 
 
51
 
   *outlen = len; 
52
 
   return CRYPT_OK;
53
 
}
54