crypto/openssl/ssl/s2_srvr.c

   1 /* ssl/s2_srvr.c */
   2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
   3  * All rights reserved.
   4  *
   5  * This package is an SSL implementation written
   6  * by Eric Young (eay@cryptsoft.com).
   7  * The implementation was written so as to conform with Netscapes SSL.
   8  *
   9  * This library is free for commercial and non-commercial use as long as
  10  * the following conditions are aheared to.  The following conditions
  11  * apply to all code found in this distribution, be it the RC4, RSA,
  12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
  13  * included with this distribution is covered by the same copyright terms
  14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
  15  *
  16  * Copyright remains Eric Young's, and as such any Copyright notices in
  17  * the code are not to be removed.
  18  * If this package is used in a product, Eric Young should be given attribution
  19  * as the author of the parts of the library used.
  20  * This can be in the form of a textual message at program startup or
  21  * in documentation (online or textual) provided with the package.
  22  *
  23  * Redistribution and use in source and binary forms, with or without
  24  * modification, are permitted provided that the following conditions
  25  * are met:
  26  * 1. Redistributions of source code must retain the copyright
  27  *    notice, this list of conditions and the following disclaimer.
  28  * 2. Redistributions in binary form must reproduce the above copyright
  29  *    notice, this list of conditions and the following disclaimer in the
  30  *    documentation and/or other materials provided with the distribution.
  31  * 3. All advertising materials mentioning features or use of this software
  32  *    must display the following acknowledgement:
  33  *    "This product includes cryptographic software written by
  34  *     Eric Young (eay@cryptsoft.com)"
  35  *    The word 'cryptographic' can be left out if the rouines from the library
  36  *    being used are not cryptographic related :-).
  37  * 4. If you include any Windows specific code (or a derivative thereof) from
  38  *    the apps directory (application code) you must include an acknowledgement:
  39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
  40  *
  41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
  42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  51  * SUCH DAMAGE.
  52  *
  53  * The licence and distribution terms for any publically available version or
  54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
  55  * copied and put under another distribution licence
  56  * [including the GNU Public Licence.]
  57  */
  58 /* ====================================================================
  59  * Copyright (c) 1998-2001 The OpenSSL Project.  All rights reserved.
  60  *
  61  * Redistribution and use in source and binary forms, with or without
  62  * modification, are permitted provided that the following conditions
  63  * are met:
  64  *
  65  * 1. Redistributions of source code must retain the above copyright
  66  *    notice, this list of conditions and the following disclaimer.
  67  *
  68  * 2. Redistributions in binary form must reproduce the above copyright
  69  *    notice, this list of conditions and the following disclaimer in
  70  *    the documentation and/or other materials provided with the
  71  *    distribution.
  72  *
  73  * 3. All advertising materials mentioning features or use of this
  74  *    software must display the following acknowledgment:
  75  *    "This product includes software developed by the OpenSSL Project
  76  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
  77  *
  78  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
  79  *    endorse or promote products derived from this software without
  80  *    prior written permission. For written permission, please contact
  81  *    openssl-core@openssl.org.
  82  *
  83  * 5. Products derived from this software may not be called "OpenSSL"
  84  *    nor may "OpenSSL" appear in their names without prior written
  85  *    permission of the OpenSSL Project.
  86  *
  87  * 6. Redistributions of any form whatsoever must retain the following
  88  *    acknowledgment:
  89  *    "This product includes software developed by the OpenSSL Project
  90  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
  91  *
  92  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
  93  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  94  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  95  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
  96  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  97  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
  98  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
  99  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
 100  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
 101  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
 102  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
 103  * OF THE POSSIBILITY OF SUCH DAMAGE.
 104  * ====================================================================
 105  *
 106  * This product includes cryptographic software written by Eric Young
 107  * (eay@cryptsoft.com).  This product includes software written by Tim
 108  * Hudson (tjh@cryptsoft.com).
 109  *
 110  */
 111
 112 #include "ssl_locl.h"
 113 #ifndef OPENSSL_NO_SSL2
 114 # include <stdio.h>
 115 # include <openssl/bio.h>
 116 # include <openssl/rand.h>
 117 # include <openssl/objects.h>
 118 # include <openssl/evp.h>
 119
 120 static SSL_METHOD *ssl2_get_server_method(int ver);
 121 static int get_client_master_key(SSL *s);
 122 static int get_client_hello(SSL *s);
 123 static int server_hello(SSL *s);
 124 static int get_client_finished(SSL *s);
 125 static int server_verify(SSL *s);
 126 static int server_finish(SSL *s);
 127 static int request_certificate(SSL *s);
 128 static int ssl_rsa_private_decrypt(CERT *c, int len, unsigned char *from,
 129                                    unsigned char *to, int padding);
 130 # define BREAK   break
 131
 132 static SSL_METHOD *ssl2_get_server_method(int ver)
 133 {
 134     if (ver == SSL2_VERSION)
 135         return (SSLv2_server_method());
 136     else
 137         return (NULL);
 138 }
 139
 140 IMPLEMENT_ssl2_meth_func(SSLv2_server_method,
 141                          ssl2_accept,
 142                          ssl_undefined_function, ssl2_get_server_method)
 143
 144 int ssl2_accept(SSL *s)
 145 {
 146     unsigned long l = (unsigned long)time(NULL);
 147     BUF_MEM *buf = NULL;
 148     int ret = -1;
 149     long num1;
 150     void (*cb) (const SSL *ssl, int type, int val) = NULL;
 151     int new_state, state;
 152
 153     RAND_add(&l, sizeof(l), 0);
 154     ERR_clear_error();
 155     clear_sys_error();
 156
 157     if (s->info_callback != NULL)
 158         cb = s->info_callback;
 159     else if (s->ctx->info_callback != NULL)
 160         cb = s->ctx->info_callback;
 161
 162     /* init things to blank */
 163     s->in_handshake++;
 164     if (!SSL_in_init(s) || SSL_in_before(s))
 165         SSL_clear(s);
 166
 167     if (s->cert == NULL) {
 168         SSLerr(SSL_F_SSL2_ACCEPT, SSL_R_NO_CERTIFICATE_SET);
 169         return (-1);
 170     }
 171
 172     clear_sys_error();
 173     for (;;) {
 174         state = s->state;
 175
 176         switch (s->state) {
 177         case SSL_ST_BEFORE:
 178         case SSL_ST_ACCEPT:
 179         case SSL_ST_BEFORE | SSL_ST_ACCEPT:
 180         case SSL_ST_OK | SSL_ST_ACCEPT:
 181
 182             s->server = 1;
 183             if (cb != NULL)
 184                 cb(s, SSL_CB_HANDSHAKE_START, 1);
 185
 186             s->version = SSL2_VERSION;
 187             s->type = SSL_ST_ACCEPT;
 188
 189             buf = s->init_buf;
 190             if ((buf == NULL) && ((buf = BUF_MEM_new()) == NULL)) {
 191                 ret = -1;
 192                 goto end;
 193             }
 194             if (!BUF_MEM_grow(buf, (int)
 195                               SSL2_MAX_RECORD_LENGTH_3_BYTE_HEADER)) {
 196                 ret = -1;
 197                 goto end;
 198             }
 199             s->init_buf = buf;
 200             s->init_num = 0;
 201             s->ctx->stats.sess_accept++;
 202             s->handshake_func = ssl2_accept;
 203             s->state = SSL2_ST_GET_CLIENT_HELLO_A;
 204             BREAK;
 205
 206         case SSL2_ST_GET_CLIENT_HELLO_A:
 207         case SSL2_ST_GET_CLIENT_HELLO_B:
 208         case SSL2_ST_GET_CLIENT_HELLO_C:
 209             s->shutdown = 0;
 210             ret = get_client_hello(s);
 211             if (ret <= 0)
 212                 goto end;
 213             s->init_num = 0;
 214             s->state = SSL2_ST_SEND_SERVER_HELLO_A;
 215             BREAK;
 216
 217         case SSL2_ST_SEND_SERVER_HELLO_A:
 218         case SSL2_ST_SEND_SERVER_HELLO_B:
 219             ret = server_hello(s);
 220             if (ret <= 0)
 221                 goto end;
 222             s->init_num = 0;
 223             if (!s->hit) {
 224                 s->state = SSL2_ST_GET_CLIENT_MASTER_KEY_A;
 225                 BREAK;
 226             } else {
 227                 s->state = SSL2_ST_SERVER_START_ENCRYPTION;
 228                 BREAK;
 229             }
 230         case SSL2_ST_GET_CLIENT_MASTER_KEY_A:
 231         case SSL2_ST_GET_CLIENT_MASTER_KEY_B:
 232             ret = get_client_master_key(s);
 233             if (ret <= 0)
 234                 goto end;
 235             s->init_num = 0;
 236             s->state = SSL2_ST_SERVER_START_ENCRYPTION;
 237             BREAK;
 238
 239         case SSL2_ST_SERVER_START_ENCRYPTION:
 240             /*
 241              * Ok we how have sent all the stuff needed to start encrypting,
 242              * the next packet back will be encrypted.
 243              */
 244             if (!ssl2_enc_init(s, 0)) {
 245                 ret = -1;
 246                 goto end;
 247             }
 248             s->s2->clear_text = 0;
 249             s->state = SSL2_ST_SEND_SERVER_VERIFY_A;
 250             BREAK;
 251
 252         case SSL2_ST_SEND_SERVER_VERIFY_A:
 253         case SSL2_ST_SEND_SERVER_VERIFY_B:
 254             ret = server_verify(s);
 255             if (ret <= 0)
 256                 goto end;
 257             s->init_num = 0;
 258             if (s->hit) {
 259                 /*
 260                  * If we are in here, we have been buffering the output, so
 261                  * we need to flush it and remove buffering from future
 262                  * traffic
 263                  */
 264                 s->state = SSL2_ST_SEND_SERVER_VERIFY_C;
 265                 BREAK;
 266             } else {
 267                 s->state = SSL2_ST_GET_CLIENT_FINISHED_A;
 268                 break;
 269             }
 270
 271         case SSL2_ST_SEND_SERVER_VERIFY_C:
 272             /* get the number of bytes to write */
 273             num1 = BIO_ctrl(s->wbio, BIO_CTRL_INFO, 0, NULL);
 274             if (num1 > 0) {
 275                 s->rwstate = SSL_WRITING;
 276                 num1 = BIO_flush(s->wbio);
 277                 if (num1 <= 0) {
 278                     ret = -1;
 279                     goto end;
 280                 }
 281                 s->rwstate = SSL_NOTHING;
 282             }
 283
 284             /* flushed and now remove buffering */
 285             s->wbio = BIO_pop(s->wbio);
 286
 287             s->state = SSL2_ST_GET_CLIENT_FINISHED_A;
 288             BREAK;
 289
 290         case SSL2_ST_GET_CLIENT_FINISHED_A:
 291         case SSL2_ST_GET_CLIENT_FINISHED_B:
 292             ret = get_client_finished(s);
 293             if (ret <= 0)
 294                 goto end;
 295             s->init_num = 0;
 296             s->state = SSL2_ST_SEND_REQUEST_CERTIFICATE_A;
 297             BREAK;
 298
 299         case SSL2_ST_SEND_REQUEST_CERTIFICATE_A:
 300         case SSL2_ST_SEND_REQUEST_CERTIFICATE_B:
 301         case SSL2_ST_SEND_REQUEST_CERTIFICATE_C:
 302         case SSL2_ST_SEND_REQUEST_CERTIFICATE_D:
 303             /*
 304              * don't do a 'request certificate' if we don't want to, or we
 305              * already have one, and we only want to do it once.
 306              */
 307             if (!(s->verify_mode & SSL_VERIFY_PEER) ||
 308                 ((s->session->peer != NULL) &&
 309                  (s->verify_mode & SSL_VERIFY_CLIENT_ONCE))) {
 310                 s->state = SSL2_ST_SEND_SERVER_FINISHED_A;
 311                 break;
 312             } else {
 313                 ret = request_certificate(s);
 314                 if (ret <= 0)
 315                     goto end;
 316                 s->init_num = 0;
 317                 s->state = SSL2_ST_SEND_SERVER_FINISHED_A;
 318             }
 319             BREAK;
 320
 321         case SSL2_ST_SEND_SERVER_FINISHED_A:
 322         case SSL2_ST_SEND_SERVER_FINISHED_B:
 323             ret = server_finish(s);
 324             if (ret <= 0)
 325                 goto end;
 326             s->init_num = 0;
 327             s->state = SSL_ST_OK;
 328             break;
 329
 330         case SSL_ST_OK:
 331             BUF_MEM_free(s->init_buf);
 332             ssl_free_wbio_buffer(s);
 333             s->init_buf = NULL;
 334             s->init_num = 0;
 335             /*      ERR_clear_error(); */
 336
 337             ssl_update_cache(s, SSL_SESS_CACHE_SERVER);
 338
 339             s->ctx->stats.sess_accept_good++;
 340             /* s->server=1; */
 341             ret = 1;
 342
 343             if (cb != NULL)
 344                 cb(s, SSL_CB_HANDSHAKE_DONE, 1);
 345
 346             goto end;
 347             /* BREAK; */
 348
 349         default:
 350             SSLerr(SSL_F_SSL2_ACCEPT, SSL_R_UNKNOWN_STATE);
 351             ret = -1;
 352             goto end;
 353             /* BREAK; */
 354         }
 355
 356         if ((cb != NULL) && (s->state != state)) {
 357             new_state = s->state;
 358             s->state = state;
 359             cb(s, SSL_CB_ACCEPT_LOOP, 1);
 360             s->state = new_state;
 361         }
 362     }
 363  end:
 364     s->in_handshake--;
 365     if (cb != NULL)
 366         cb(s, SSL_CB_ACCEPT_EXIT, ret);
 367     return (ret);
 368 }
 369
 370 static int get_client_master_key(SSL *s)
 371 {
 372     int is_export, i, n, keya;
 373     unsigned int ek;
 374     unsigned long len;
 375     unsigned char *p;
 376     SSL_CIPHER *cp;
 377     const EVP_CIPHER *c;
 378     const EVP_MD *md;
 379
 380     p = (unsigned char *)s->init_buf->data;
 381     if (s->state == SSL2_ST_GET_CLIENT_MASTER_KEY_A) {
 382         i = ssl2_read(s, (char *)&(p[s->init_num]), 10 - s->init_num);
 383
 384         if (i < (10 - s->init_num))
 385             return (ssl2_part_read(s, SSL_F_GET_CLIENT_MASTER_KEY, i));
 386         s->init_num = 10;
 387
 388         if (*(p++) != SSL2_MT_CLIENT_MASTER_KEY) {
 389             if (p[-1] != SSL2_MT_ERROR) {
 390                 ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 391                 SSLerr(SSL_F_GET_CLIENT_MASTER_KEY,
 392                        SSL_R_READ_WRONG_PACKET_TYPE);
 393             } else
 394                 SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_PEER_ERROR);
 395             return (-1);
 396         }
 397
 398         cp = ssl2_get_cipher_by_char(p);
 399         if (cp == NULL) {
 400             ssl2_return_error(s, SSL2_PE_NO_CIPHER);
 401             SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_NO_CIPHER_MATCH);
 402             return (-1);
 403         }
 404         s->session->cipher = cp;
 405
 406         p += 3;
 407         n2s(p, i);
 408         s->s2->tmp.clear = i;
 409         n2s(p, i);
 410         s->s2->tmp.enc = i;
 411         n2s(p, i);
 412         if (i > SSL_MAX_KEY_ARG_LENGTH) {
 413             ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 414             SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_KEY_ARG_TOO_LONG);
 415             return -1;
 416         }
 417         s->session->key_arg_length = i;
 418         s->state = SSL2_ST_GET_CLIENT_MASTER_KEY_B;
 419     }
 420
 421     /* SSL2_ST_GET_CLIENT_MASTER_KEY_B */
 422     p = (unsigned char *)s->init_buf->data;
 423     if (s->init_buf->length < SSL2_MAX_RECORD_LENGTH_3_BYTE_HEADER) {
 424         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 425         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, ERR_R_INTERNAL_ERROR);
 426         return -1;
 427     }
 428     keya = s->session->key_arg_length;
 429     len =
 430         10 + (unsigned long)s->s2->tmp.clear + (unsigned long)s->s2->tmp.enc +
 431         (unsigned long)keya;
 432     if (len > SSL2_MAX_RECORD_LENGTH_3_BYTE_HEADER) {
 433         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 434         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_MESSAGE_TOO_LONG);
 435         return -1;
 436     }
 437     n = (int)len - s->init_num;
 438     i = ssl2_read(s, (char *)&(p[s->init_num]), n);
 439     if (i != n)
 440         return (ssl2_part_read(s, SSL_F_GET_CLIENT_MASTER_KEY, i));
 441     if (s->msg_callback) {
 442         /* CLIENT-MASTER-KEY */
 443         s->msg_callback(0, s->version, 0, p, (size_t)len, s,
 444                         s->msg_callback_arg);
 445     }
 446     p += 10;
 447
 448     memcpy(s->session->key_arg, &(p[s->s2->tmp.clear + s->s2->tmp.enc]),
 449            (unsigned int)keya);
 450
 451     if (s->cert->pkeys[SSL_PKEY_RSA_ENC].privatekey == NULL) {
 452         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 453         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_NO_PRIVATEKEY);
 454         return (-1);
 455     }
 456
 457     is_export = SSL_C_IS_EXPORT(s->session->cipher);
 458
 459     if (!ssl_cipher_get_evp(s->session, &c, &md, NULL)) {
 460         ssl2_return_error(s, SSL2_PE_NO_CIPHER);
 461         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY,
 462                SSL_R_PROBLEMS_MAPPING_CIPHER_FUNCTIONS);
 463         return (0);
 464     }
 465
 466     if (s->session->cipher->algorithm2 & SSL2_CF_8_BYTE_ENC) {
 467         is_export = 1;
 468         ek = 8;
 469     } else
 470         ek = 5;
 471
 472     /*
 473      * The format of the CLIENT-MASTER-KEY message is
 474      * 1 byte message type
 475      * 3 bytes cipher
 476      * 2-byte clear key length (stored in s->s2->tmp.clear)
 477      * 2-byte encrypted key length (stored in s->s2->tmp.enc)
 478      * 2-byte key args length (IV etc)
 479      * clear key
 480      * encrypted key
 481      * key args
 482      *
 483      * If the cipher is an export cipher, then the encrypted key bytes
 484      * are a fixed portion of the total key (5 or 8 bytes). The size of
 485      * this portion is in |ek|. If the cipher is not an export cipher,
 486      * then the entire key material is encrypted (i.e., clear key length
 487      * must be zero).
 488      */
 489     if ((!is_export && s->s2->tmp.clear != 0) ||
 490         (is_export && s->s2->tmp.clear + ek != (unsigned int)EVP_CIPHER_key_length(c))) {
 491         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 492         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY,SSL_R_BAD_LENGTH);
 493         return -1;
 494     }
 495     /*
 496      * The encrypted blob must decrypt to the encrypted portion of the key.
 497      * Decryption can't be expanding, so if we don't have enough encrypted
 498      * bytes to fit the key in the buffer, stop now.
 499      */
 500     if ((is_export && s->s2->tmp.enc < ek) ||
 501         (!is_export && s->s2->tmp.enc < (unsigned int)EVP_CIPHER_key_length(c))) {
 502         ssl2_return_error(s,SSL2_PE_UNDEFINED_ERROR);
 503         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY,SSL_R_LENGTH_TOO_SHORT);
 504         return -1;
 505     }
 506
 507     i = ssl_rsa_private_decrypt(s->cert, s->s2->tmp.enc,
 508                                 &(p[s->s2->tmp.clear]),
 509                                 &(p[s->s2->tmp.clear]),
 510                                 (s->s2->ssl2_rollback) ? RSA_SSLV23_PADDING :
 511                                 RSA_PKCS1_PADDING);
 512
 513     /* bad decrypt */
 514 # if 1
 515     /*
 516      * If a bad decrypt, continue with protocol but with a random master
 517      * secret (Bleichenbacher attack)
 518      */
 519     if ((i < 0) || ((!is_export && i != EVP_CIPHER_key_length(c))
 520                     || (is_export && i != (int)ek))) {
 521         ERR_clear_error();
 522         if (is_export)
 523             i = ek;
 524         else
 525             i = EVP_CIPHER_key_length(c);
 526         if (RAND_pseudo_bytes(&p[s->s2->tmp.clear], i) <= 0)
 527             return 0;
 528     }
 529 # else
 530     if (i < 0) {
 531         error = 1;
 532         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_BAD_RSA_DECRYPT);
 533     }
 534     /* incorrect number of key bytes for non export cipher */
 535     else if ((!is_export && (i != EVP_CIPHER_key_length(c)))
 536              || (is_export && ((i != ek) || (s->s2->tmp.clear + i !=
 537                                              EVP_CIPHER_key_length(c))))) {
 538         error = 1;
 539         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_WRONG_NUMBER_OF_KEY_BITS);
 540     }
 541     if (error) {
 542         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 543         return (-1);
 544     }
 545 # endif
 546
 547     if (is_export)
 548         i = EVP_CIPHER_key_length(c);
 549
 550     if (i > SSL_MAX_MASTER_KEY_LENGTH) {
 551         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 552         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, ERR_R_INTERNAL_ERROR);
 553         return -1;
 554     }
 555     s->session->master_key_length = i;
 556     memcpy(s->session->master_key, p, (unsigned int)i);
 557     return (1);
 558 }
 559
 560 static int get_client_hello(SSL *s)
 561 {
 562     int i, n;
 563     unsigned long len;
 564     unsigned char *p;
 565     STACK_OF(SSL_CIPHER) *cs;   /* a stack of SSL_CIPHERS */
 566     STACK_OF(SSL_CIPHER) *cl;   /* the ones we want to use */
 567     STACK_OF(SSL_CIPHER) *prio, *allow;
 568     int z;
 569
 570     /*
 571      * This is a bit of a hack to check for the correct packet type the first
 572      * time round.
 573      */
 574     if (s->state == SSL2_ST_GET_CLIENT_HELLO_A) {
 575         s->first_packet = 1;
 576         s->state = SSL2_ST_GET_CLIENT_HELLO_B;
 577     }
 578
 579     p = (unsigned char *)s->init_buf->data;
 580     if (s->state == SSL2_ST_GET_CLIENT_HELLO_B) {
 581         i = ssl2_read(s, (char *)&(p[s->init_num]), 9 - s->init_num);
 582         if (i < (9 - s->init_num))
 583             return (ssl2_part_read(s, SSL_F_GET_CLIENT_HELLO, i));
 584         s->init_num = 9;
 585
 586         if (*(p++) != SSL2_MT_CLIENT_HELLO) {
 587             if (p[-1] != SSL2_MT_ERROR) {
 588                 ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 589                 SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_READ_WRONG_PACKET_TYPE);
 590             } else
 591                 SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_PEER_ERROR);
 592             return (-1);
 593         }
 594         n2s(p, i);
 595         if (i < s->version)
 596             s->version = i;
 597         n2s(p, i);
 598         s->s2->tmp.cipher_spec_length = i;
 599         n2s(p, i);
 600         s->s2->tmp.session_id_length = i;
 601         n2s(p, i);
 602         s->s2->challenge_length = i;
 603         if ((i < SSL2_MIN_CHALLENGE_LENGTH) ||
 604             (i > SSL2_MAX_CHALLENGE_LENGTH)) {
 605             ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 606             SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_INVALID_CHALLENGE_LENGTH);
 607             return (-1);
 608         }
 609         s->state = SSL2_ST_GET_CLIENT_HELLO_C;
 610     }
 611
 612     /* SSL2_ST_GET_CLIENT_HELLO_C */
 613     p = (unsigned char *)s->init_buf->data;
 614     len =
 615         9 + (unsigned long)s->s2->tmp.cipher_spec_length +
 616         (unsigned long)s->s2->challenge_length +
 617         (unsigned long)s->s2->tmp.session_id_length;
 618     if (len > SSL2_MAX_RECORD_LENGTH_3_BYTE_HEADER) {
 619         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 620         SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_MESSAGE_TOO_LONG);
 621         return -1;
 622     }
 623     n = (int)len - s->init_num;
 624     i = ssl2_read(s, (char *)&(p[s->init_num]), n);
 625     if (i != n)
 626         return (ssl2_part_read(s, SSL_F_GET_CLIENT_HELLO, i));
 627     if (s->msg_callback) {
 628         /* CLIENT-HELLO */
 629         s->msg_callback(0, s->version, 0, p, (size_t)len, s,
 630                         s->msg_callback_arg);
 631     }
 632     p += 9;
 633
 634     /*
 635      * get session-id before cipher stuff so we can get out session structure
 636      * if it is cached
 637      */
 638     /* session-id */
 639     if ((s->s2->tmp.session_id_length != 0) &&
 640         (s->s2->tmp.session_id_length != SSL2_SSL_SESSION_ID_LENGTH)) {
 641         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 642         SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_BAD_SSL_SESSION_ID_LENGTH);
 643         return (-1);
 644     }
 645
 646     if (s->s2->tmp.session_id_length == 0) {
 647         if (!ssl_get_new_session(s, 1)) {
 648             ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 649             return (-1);
 650         }
 651     } else {
 652         i = ssl_get_prev_session(s, &(p[s->s2->tmp.cipher_spec_length]),
 653                                  s->s2->tmp.session_id_length, NULL);
 654         if (i == 1) {           /* previous session */
 655             s->hit = 1;
 656         } else if (i == -1) {
 657             ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 658             return (-1);
 659         } else {
 660             if (s->cert == NULL) {
 661                 ssl2_return_error(s, SSL2_PE_NO_CERTIFICATE);
 662                 SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_NO_CERTIFICATE_SET);
 663                 return (-1);
 664             }
 665
 666             if (!ssl_get_new_session(s, 1)) {
 667                 ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 668                 return (-1);
 669             }
 670         }
 671     }
 672
 673     if (!s->hit) {
 674         cs = ssl_bytes_to_cipher_list(s, p, s->s2->tmp.cipher_spec_length,
 675                                       &s->session->ciphers);
 676         if (cs == NULL)
 677             goto mem_err;
 678
 679         cl = SSL_get_ciphers(s);
 680
 681         if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE) {
 682             prio = sk_SSL_CIPHER_dup(cl);
 683             if (prio == NULL)
 684                 goto mem_err;
 685             allow = cs;
 686         } else {
 687             prio = cs;
 688             allow = cl;
 689         }
 690         for (z = 0; z < sk_SSL_CIPHER_num(prio); z++) {
 691             if (sk_SSL_CIPHER_find(allow, sk_SSL_CIPHER_value(prio, z)) < 0) {
 692                 (void)sk_SSL_CIPHER_delete(prio, z);
 693                 z--;
 694             }
 695         }
 696         if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE) {
 697             sk_SSL_CIPHER_free(s->session->ciphers);
 698             s->session->ciphers = prio;
 699         }
 700         /*
 701          * s->session->ciphers should now have a list of ciphers that are on
 702          * both the client and server. This list is ordered by the order the
 703          * client sent the ciphers or in the order of the server's preference
 704          * if SSL_OP_CIPHER_SERVER_PREFERENCE was set.
 705          */
 706     }
 707     p += s->s2->tmp.cipher_spec_length;
 708     /* done cipher selection */
 709
 710     /* session id extracted already */
 711     p += s->s2->tmp.session_id_length;
 712
 713     /* challenge */
 714     if (s->s2->challenge_length > sizeof s->s2->challenge) {
 715         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 716         SSLerr(SSL_F_GET_CLIENT_HELLO, ERR_R_INTERNAL_ERROR);
 717         return -1;
 718     }
 719     memcpy(s->s2->challenge, p, (unsigned int)s->s2->challenge_length);
 720     return (1);
 721  mem_err:
 722     SSLerr(SSL_F_GET_CLIENT_HELLO, ERR_R_MALLOC_FAILURE);
 723     return (0);
 724 }
 725
 726 static int server_hello(SSL *s)
 727 {
 728     unsigned char *p, *d;
 729     int n, hit;
 730
 731     p = (unsigned char *)s->init_buf->data;
 732     if (s->state == SSL2_ST_SEND_SERVER_HELLO_A) {
 733         d = p + 11;
 734         *(p++) = SSL2_MT_SERVER_HELLO; /* type */
 735         hit = s->hit;
 736         *(p++) = (unsigned char)hit;
 737 # if 1
 738         if (!hit) {
 739             if (s->session->sess_cert != NULL)
 740                 /*
 741                  * This can't really happen because get_client_hello has
 742                  * called ssl_get_new_session, which does not set sess_cert.
 743                  */
 744                 ssl_sess_cert_free(s->session->sess_cert);
 745             s->session->sess_cert = ssl_sess_cert_new();
 746             if (s->session->sess_cert == NULL) {
 747                 SSLerr(SSL_F_SERVER_HELLO, ERR_R_MALLOC_FAILURE);
 748                 return (-1);
 749             }
 750         }
 751         /*
 752          * If 'hit' is set, then s->sess_cert may be non-NULL or NULL,
 753          * depending on whether it survived in the internal cache or was
 754          * retrieved from an external cache. If it is NULL, we cannot put any
 755          * useful data in it anyway, so we don't touch it.
 756          */
 757
 758 # else                          /* That's what used to be done when cert_st
 759                                  * and sess_cert_st were * the same. */
 760         if (!hit) {             /* else add cert to session */
 761             CRYPTO_add(&s->cert->references, 1, CRYPTO_LOCK_SSL_CERT);
 762             if (s->session->sess_cert != NULL)
 763                 ssl_cert_free(s->session->sess_cert);
 764             s->session->sess_cert = s->cert;
 765         } else {                /* We have a session id-cache hit, if the *
 766                                  * session-id has no certificate listed
 767                                  * against * the 'cert' structure, grab the
 768                                  * 'old' one * listed against the SSL
 769                                  * connection */
 770             if (s->session->sess_cert == NULL) {
 771                 CRYPTO_add(&s->cert->references, 1, CRYPTO_LOCK_SSL_CERT);
 772                 s->session->sess_cert = s->cert;
 773             }
 774         }
 775 # endif
 776
 777         if (s->cert == NULL) {
 778             ssl2_return_error(s, SSL2_PE_NO_CERTIFICATE);
 779             SSLerr(SSL_F_SERVER_HELLO, SSL_R_NO_CERTIFICATE_SPECIFIED);
 780             return (-1);
 781         }
 782
 783         if (hit) {
 784             *(p++) = 0;         /* no certificate type */
 785             s2n(s->version, p); /* version */
 786             s2n(0, p);          /* cert len */
 787             s2n(0, p);          /* ciphers len */
 788         } else {
 789             /* EAY EAY */
 790             /* put certificate type */
 791             *(p++) = SSL2_CT_X509_CERTIFICATE;
 792             s2n(s->version, p); /* version */
 793             n = i2d_X509(s->cert->pkeys[SSL_PKEY_RSA_ENC].x509, NULL);
 794             s2n(n, p);          /* certificate length */
 795             i2d_X509(s->cert->pkeys[SSL_PKEY_RSA_ENC].x509, &d);
 796             n = 0;
 797
 798             /*
 799              * lets send out the ciphers we like in the prefered order
 800              */
 801             n = ssl_cipher_list_to_bytes(s, s->session->ciphers, d, 0);
 802             d += n;
 803             s2n(n, p);          /* add cipher length */
 804         }
 805
 806         /* make and send conn_id */
 807         s2n(SSL2_CONNECTION_ID_LENGTH, p); /* add conn_id length */
 808         s->s2->conn_id_length = SSL2_CONNECTION_ID_LENGTH;
 809         if (RAND_pseudo_bytes(s->s2->conn_id, (int)s->s2->conn_id_length) <=
 810             0)
 811             return -1;
 812         memcpy(d, s->s2->conn_id, SSL2_CONNECTION_ID_LENGTH);
 813         d += SSL2_CONNECTION_ID_LENGTH;
 814
 815         s->state = SSL2_ST_SEND_SERVER_HELLO_B;
 816         s->init_num = d - (unsigned char *)s->init_buf->data;
 817         s->init_off = 0;
 818     }
 819     /* SSL2_ST_SEND_SERVER_HELLO_B */
 820     /*
 821      * If we are using TCP/IP, the performance is bad if we do 2 writes
 822      * without a read between them.  This occurs when Session-id reuse is
 823      * used, so I will put in a buffering module
 824      */
 825     if (s->hit) {
 826         if (!ssl_init_wbio_buffer(s, 1))
 827             return (-1);
 828     }
 829
 830     return (ssl2_do_write(s));
 831 }
 832
 833 static int get_client_finished(SSL *s)
 834 {
 835     unsigned char *p;
 836     int i, n;
 837     unsigned long len;
 838
 839     p = (unsigned char *)s->init_buf->data;
 840     if (s->state == SSL2_ST_GET_CLIENT_FINISHED_A) {
 841         i = ssl2_read(s, (char *)&(p[s->init_num]), 1 - s->init_num);
 842         if (i < 1 - s->init_num)
 843             return (ssl2_part_read(s, SSL_F_GET_CLIENT_FINISHED, i));
 844         s->init_num += i;
 845
 846         if (*p != SSL2_MT_CLIENT_FINISHED) {
 847             if (*p != SSL2_MT_ERROR) {
 848                 ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 849                 SSLerr(SSL_F_GET_CLIENT_FINISHED,
 850                        SSL_R_READ_WRONG_PACKET_TYPE);
 851             } else {
 852                 SSLerr(SSL_F_GET_CLIENT_FINISHED, SSL_R_PEER_ERROR);
 853                 /* try to read the error message */
 854                 i = ssl2_read(s, (char *)&(p[s->init_num]), 3 - s->init_num);
 855                 return ssl2_part_read(s, SSL_F_GET_SERVER_VERIFY, i);
 856             }
 857             return (-1);
 858         }
 859         s->state = SSL2_ST_GET_CLIENT_FINISHED_B;
 860     }
 861
 862     /* SSL2_ST_GET_CLIENT_FINISHED_B */
 863     if (s->s2->conn_id_length > sizeof s->s2->conn_id) {
 864         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 865         SSLerr(SSL_F_GET_CLIENT_FINISHED, ERR_R_INTERNAL_ERROR);
 866         return -1;
 867     }
 868     len = 1 + (unsigned long)s->s2->conn_id_length;
 869     n = (int)len - s->init_num;
 870     i = ssl2_read(s, (char *)&(p[s->init_num]), n);
 871     if (i < n) {
 872         return (ssl2_part_read(s, SSL_F_GET_CLIENT_FINISHED, i));
 873     }
 874     if (s->msg_callback) {
 875         /* CLIENT-FINISHED */
 876         s->msg_callback(0, s->version, 0, p, len, s, s->msg_callback_arg);
 877     }
 878     p += 1;
 879     if (memcmp(p, s->s2->conn_id, s->s2->conn_id_length) != 0) {
 880         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 881         SSLerr(SSL_F_GET_CLIENT_FINISHED, SSL_R_CONNECTION_ID_IS_DIFFERENT);
 882         return (-1);
 883     }
 884     return (1);
 885 }
 886
 887 static int server_verify(SSL *s)
 888 {
 889     unsigned char *p;
 890
 891     if (s->state == SSL2_ST_SEND_SERVER_VERIFY_A) {
 892         p = (unsigned char *)s->init_buf->data;
 893         *(p++) = SSL2_MT_SERVER_VERIFY;
 894         if (s->s2->challenge_length > sizeof s->s2->challenge) {
 895             SSLerr(SSL_F_SERVER_VERIFY, ERR_R_INTERNAL_ERROR);
 896             return -1;
 897         }
 898         memcpy(p, s->s2->challenge, (unsigned int)s->s2->challenge_length);
 899         /* p+=s->s2->challenge_length; */
 900
 901         s->state = SSL2_ST_SEND_SERVER_VERIFY_B;
 902         s->init_num = s->s2->challenge_length + 1;
 903         s->init_off = 0;
 904     }
 905     return (ssl2_do_write(s));
 906 }
 907
 908 static int server_finish(SSL *s)
 909 {
 910     unsigned char *p;
 911
 912     if (s->state == SSL2_ST_SEND_SERVER_FINISHED_A) {
 913         p = (unsigned char *)s->init_buf->data;
 914         *(p++) = SSL2_MT_SERVER_FINISHED;
 915
 916         if (s->session->session_id_length > sizeof s->session->session_id) {
 917             SSLerr(SSL_F_SERVER_FINISH, ERR_R_INTERNAL_ERROR);
 918             return -1;
 919         }
 920         memcpy(p, s->session->session_id,
 921                (unsigned int)s->session->session_id_length);
 922         /* p+=s->session->session_id_length; */
 923
 924         s->state = SSL2_ST_SEND_SERVER_FINISHED_B;
 925         s->init_num = s->session->session_id_length + 1;
 926         s->init_off = 0;
 927     }
 928
 929     /* SSL2_ST_SEND_SERVER_FINISHED_B */
 930     return (ssl2_do_write(s));
 931 }
 932
 933 /* send the request and check the response */
 934 static int request_certificate(SSL *s)
 935 {
 936     const unsigned char *cp;
 937     unsigned char *p, *p2, *buf2;
 938     unsigned char *ccd;
 939     int i, j, ctype, ret = -1;
 940     unsigned long len;
 941     X509 *x509 = NULL;
 942     STACK_OF(X509) *sk = NULL;
 943
 944     ccd = s->s2->tmp.ccl;
 945     if (s->state == SSL2_ST_SEND_REQUEST_CERTIFICATE_A) {
 946         p = (unsigned char *)s->init_buf->data;
 947         *(p++) = SSL2_MT_REQUEST_CERTIFICATE;
 948         *(p++) = SSL2_AT_MD5_WITH_RSA_ENCRYPTION;
 949         if (RAND_pseudo_bytes(ccd, SSL2_MIN_CERT_CHALLENGE_LENGTH) <= 0)
 950             return -1;
 951         memcpy(p, ccd, SSL2_MIN_CERT_CHALLENGE_LENGTH);
 952
 953         s->state = SSL2_ST_SEND_REQUEST_CERTIFICATE_B;
 954         s->init_num = SSL2_MIN_CERT_CHALLENGE_LENGTH + 2;
 955         s->init_off = 0;
 956     }
 957
 958     if (s->state == SSL2_ST_SEND_REQUEST_CERTIFICATE_B) {
 959         i = ssl2_do_write(s);
 960         if (i <= 0) {
 961             ret = i;
 962             goto end;
 963         }
 964
 965         s->init_num = 0;
 966         s->state = SSL2_ST_SEND_REQUEST_CERTIFICATE_C;
 967     }
 968
 969     if (s->state == SSL2_ST_SEND_REQUEST_CERTIFICATE_C) {
 970         p = (unsigned char *)s->init_buf->data;
 971         /* try to read 6 octets ... */
 972         i = ssl2_read(s, (char *)&(p[s->init_num]), 6 - s->init_num);
 973         /*
 974          * ... but don't call ssl2_part_read now if we got at least 3
 975          * (probably NO-CERTIFICATE-ERROR)
 976          */
 977         if (i < 3 - s->init_num) {
 978             ret = ssl2_part_read(s, SSL_F_REQUEST_CERTIFICATE, i);
 979             goto end;
 980         }
 981         s->init_num += i;
 982
 983         if ((s->init_num >= 3) && (p[0] == SSL2_MT_ERROR)) {
 984             n2s(p, i);
 985             if (i != SSL2_PE_NO_CERTIFICATE) {
 986                 /*
 987                  * not the error message we expected -- let ssl2_part_read
 988                  * handle it
 989                  */
 990                 s->init_num -= 3;
 991                 ret = ssl2_part_read(s, SSL_F_REQUEST_CERTIFICATE, 3);
 992                 goto end;
 993             }
 994
 995             if (s->msg_callback) {
 996                 /* ERROR */
 997                 s->msg_callback(0, s->version, 0, p, 3, s,
 998                                 s->msg_callback_arg);
 999             }
1000
1001             /*
1002              * this is the one place where we can recover from an SSL 2.0
1003              * error
1004              */
1005
1006             if (s->verify_mode & SSL_VERIFY_FAIL_IF_NO_PEER_CERT) {
1007                 ssl2_return_error(s, SSL2_PE_BAD_CERTIFICATE);
1008                 SSLerr(SSL_F_REQUEST_CERTIFICATE,
1009                        SSL_R_PEER_DID_NOT_RETURN_A_CERTIFICATE);
1010                 goto end;
1011             }
1012             ret = 1;
1013             goto end;
1014         }
1015         if ((*(p++) != SSL2_MT_CLIENT_CERTIFICATE) || (s->init_num < 6)) {
1016             ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
1017             SSLerr(SSL_F_REQUEST_CERTIFICATE, SSL_R_SHORT_READ);
1018             goto end;
1019         }
1020         if (s->init_num != 6) {
1021             SSLerr(SSL_F_REQUEST_CERTIFICATE, ERR_R_INTERNAL_ERROR);
1022             goto end;
1023         }
1024
1025         /* ok we have a response */
1026         /* certificate type, there is only one right now. */
1027         ctype = *(p++);
1028         if (ctype != SSL2_AT_MD5_WITH_RSA_ENCRYPTION) {
1029             ssl2_return_error(s, SSL2_PE_UNSUPPORTED_CERTIFICATE_TYPE);
1030             SSLerr(SSL_F_REQUEST_CERTIFICATE, SSL_R_BAD_RESPONSE_ARGUMENT);
1031             goto end;
1032         }
1033         n2s(p, i);
1034         s->s2->tmp.clen = i;
1035         n2s(p, i);
1036         s->s2->tmp.rlen = i;
1037         s->state = SSL2_ST_SEND_REQUEST_CERTIFICATE_D;
1038     }
1039
1040     /* SSL2_ST_SEND_REQUEST_CERTIFICATE_D */
1041     p = (unsigned char *)s->init_buf->data;
1042     len = 6 + (unsigned long)s->s2->tmp.clen + (unsigned long)s->s2->tmp.rlen;
1043     if (len > SSL2_MAX_RECORD_LENGTH_3_BYTE_HEADER) {
1044         SSLerr(SSL_F_REQUEST_CERTIFICATE, SSL_R_MESSAGE_TOO_LONG);
1045         goto end;
1046     }
1047     j = (int)len - s->init_num;
1048     i = ssl2_read(s, (char *)&(p[s->init_num]), j);
1049     if (i < j) {
1050         ret = ssl2_part_read(s, SSL_F_REQUEST_CERTIFICATE, i);
1051         goto end;
1052     }
1053     if (s->msg_callback) {
1054         /* CLIENT-CERTIFICATE */
1055         s->msg_callback(0, s->version, 0, p, len, s, s->msg_callback_arg);
1056     }
1057     p += 6;
1058
1059     cp = p;
1060     x509 = (X509 *)d2i_X509(NULL, &cp, (long)s->s2->tmp.clen);
1061     if (x509 == NULL) {
1062         SSLerr(SSL_F_REQUEST_CERTIFICATE, ERR_R_X509_LIB);
1063         goto msg_end;
1064     }
1065
1066     if (((sk = sk_X509_new_null()) == NULL) || (!sk_X509_push(sk, x509))) {
1067         SSLerr(SSL_F_REQUEST_CERTIFICATE, ERR_R_MALLOC_FAILURE);
1068         goto msg_end;
1069     }
1070
1071     i = ssl_verify_cert_chain(s, sk);
1072
1073     if (i > 0) {                /* we like the packet, now check the chksum */
1074         EVP_MD_CTX ctx;
1075         EVP_PKEY *pkey = NULL;
1076
1077         EVP_MD_CTX_init(&ctx);
1078         EVP_VerifyInit_ex(&ctx, s->ctx->rsa_md5, NULL);
1079         EVP_VerifyUpdate(&ctx, s->s2->key_material,
1080                          s->s2->key_material_length);
1081         EVP_VerifyUpdate(&ctx, ccd, SSL2_MIN_CERT_CHALLENGE_LENGTH);
1082
1083         i = i2d_X509(s->cert->pkeys[SSL_PKEY_RSA_ENC].x509, NULL);
1084         buf2 = OPENSSL_malloc((unsigned int)i);
1085         if (buf2 == NULL) {
1086             SSLerr(SSL_F_REQUEST_CERTIFICATE, ERR_R_MALLOC_FAILURE);
1087             goto msg_end;
1088         }
1089         p2 = buf2;
1090         i = i2d_X509(s->cert->pkeys[SSL_PKEY_RSA_ENC].x509, &p2);
1091         EVP_VerifyUpdate(&ctx, buf2, (unsigned int)i);
1092         OPENSSL_free(buf2);
1093
1094         pkey = X509_get_pubkey(x509);
1095         if (pkey == NULL)
1096             goto end;
1097         i = EVP_VerifyFinal(&ctx, cp, s->s2->tmp.rlen, pkey);
1098         EVP_PKEY_free(pkey);
1099         EVP_MD_CTX_cleanup(&ctx);
1100
1101         if (i > 0) {
1102             if (s->session->peer != NULL)
1103                 X509_free(s->session->peer);
1104             s->session->peer = x509;
1105             CRYPTO_add(&x509->references, 1, CRYPTO_LOCK_X509);
1106             s->session->verify_result = s->verify_result;
1107             ret = 1;
1108             goto end;
1109         } else {
1110             SSLerr(SSL_F_REQUEST_CERTIFICATE, SSL_R_BAD_CHECKSUM);
1111             goto msg_end;
1112         }
1113     } else {
1114  msg_end:
1115         ssl2_return_error(s, SSL2_PE_BAD_CERTIFICATE);
1116     }
1117  end:
1118     sk_X509_free(sk);
1119     X509_free(x509);
1120     return (ret);
1121 }
1122
1123 static int ssl_rsa_private_decrypt(CERT *c, int len, unsigned char *from,
1124                                    unsigned char *to, int padding)
1125 {
1126     RSA *rsa;
1127     int i;
1128
1129     if ((c == NULL) || (c->pkeys[SSL_PKEY_RSA_ENC].privatekey == NULL)) {
1130         SSLerr(SSL_F_SSL_RSA_PRIVATE_DECRYPT, SSL_R_NO_PRIVATEKEY);
1131         return (-1);
1132     }
1133     if (c->pkeys[SSL_PKEY_RSA_ENC].privatekey->type != EVP_PKEY_RSA) {
1134         SSLerr(SSL_F_SSL_RSA_PRIVATE_DECRYPT, SSL_R_PUBLIC_KEY_IS_NOT_RSA);
1135         return (-1);
1136     }
1137     rsa = c->pkeys[SSL_PKEY_RSA_ENC].privatekey->pkey.rsa;
1138
1139     /* we have the public key */
1140     i = RSA_private_decrypt(len, from, to, rsa, padding);
1141     if (i < 0)
1142         SSLerr(SSL_F_SSL_RSA_PRIVATE_DECRYPT, ERR_R_RSA_LIB);
1143     return (i);
1144 }
1145 #else                           /* !OPENSSL_NO_SSL2 */
1146
1147 # if PEDANTIC
1148 static void *dummy = &dummy;
1149 # endif
1150
1151 #endif