← Back to branch summary

~ubuntu-branches/ubuntu/utopic/xen/utopic

« back to all changes in this revision

Viewing changes to tools/libxc/xc_offline_page.c

  • Committer: Bazaar Package Importer
  • Author(s): Bastian Blank
  • Date: 2010-05-06 15:47:38 UTC
  • mto: (1.3.1) (15.1.1 sid) (4.1.1 experimental)
  • mto: This revision was merged to the branch mainline in revision 3.
  • Revision ID: james.westby@ubuntu.com-20100506154738-agoz0rlafrh1fnq7
Tags: upstream-4.0.0
Import upstream version 4.0.0

Show diffs side-by-side

added added

removed removed

Lines of Context:
tools/libxc/xc_offline_page.c
 
1
/******************************************************************************
 
2
 * xc_offline_page.c
 
3
 *
 
4
 * Helper functions to offline/online one page
 
5
 *
 
6
 * Copyright (c) 2003, K A Fraser.
 
7
 * Copyright (c) 2009, Intel Corporation.
 
8
 */
 
9
 
 
10
#include <inttypes.h>
 
11
#include <time.h>
 
12
#include <stdlib.h>
 
13
#include <unistd.h>
 
14
#include <sys/time.h>
 
15
#include <xs.h>
 
16
#include <xc_core.h>
 
17
 
 
18
#include "xc_private.h"
 
19
#include "xc_dom.h"
 
20
#include "xg_private.h"
 
21
#include "xg_save_restore.h"
 
22
 
 
23
struct domain_mem_info{
 
24
    int domid;
 
25
    unsigned int pt_level;
 
26
    unsigned int guest_width;
 
27
    xen_pfn_t *pfn_type;
 
28
    xen_pfn_t *p2m_table;
 
29
    unsigned long p2m_size;
 
30
    xen_pfn_t *m2p_table;
 
31
    int max_mfn;
 
32
};
 
33
 
 
34
struct pte_backup_entry
 
35
{
 
36
    xen_pfn_t table_mfn;
 
37
    int offset;
 
38
};
 
39
 
 
40
#define DEFAULT_BACKUP_COUNT 1024
 
41
struct pte_backup
 
42
{
 
43
    struct pte_backup_entry *entries;
 
44
    int max;
 
45
    int cur;
 
46
};
 
47
 
 
48
static struct domain_info_context _dinfo;
 
49
static struct domain_info_context *dinfo = &_dinfo;
 
50
 
 
51
int xc_mark_page_online(int xc, unsigned long start,
 
52
                        unsigned long end, uint32_t *status)
 
53
{
 
54
    DECLARE_SYSCTL;
 
55
    int ret = -1;
 
56
 
 
57
    if ( !status || (end < start) )
 
58
        return -EINVAL;
 
59
 
 
60
    if (lock_pages(status, sizeof(uint32_t)*(end - start + 1)))
 
61
    {
 
62
        ERROR("Could not lock memory for xc_mark_page_online\n");
 
63
        return -EINVAL;
 
64
    }
 
65
 
 
66
    sysctl.cmd = XEN_SYSCTL_page_offline_op;
 
67
    sysctl.u.page_offline.start = start;
 
68
    sysctl.u.page_offline.cmd = sysctl_page_online;
 
69
    sysctl.u.page_offline.end = end;
 
70
    set_xen_guest_handle(sysctl.u.page_offline.status, status);
 
71
    ret = xc_sysctl(xc, &sysctl);
 
72
 
 
73
    unlock_pages(status, sizeof(uint32_t)*(end - start + 1));
 
74
 
 
75
    return ret;
 
76
}
 
77
 
 
78
int xc_mark_page_offline(int xc, unsigned long start,
 
79
                          unsigned long end, uint32_t *status)
 
80
{
 
81
    DECLARE_SYSCTL;
 
82
    int ret = -1;
 
83
 
 
84
    if ( !status || (end < start) )
 
85
        return -EINVAL;
 
86
 
 
87
    if (lock_pages(status, sizeof(uint32_t)*(end - start + 1)))
 
88
    {
 
89
        ERROR("Could not lock memory for xc_mark_page_offline");
 
90
        return -EINVAL;
 
91
    }
 
92
 
 
93
    sysctl.cmd = XEN_SYSCTL_page_offline_op;
 
94
    sysctl.u.page_offline.start = start;
 
95
    sysctl.u.page_offline.cmd = sysctl_page_offline;
 
96
    sysctl.u.page_offline.end = end;
 
97
    set_xen_guest_handle(sysctl.u.page_offline.status, status);
 
98
    ret = xc_sysctl(xc, &sysctl);
 
99
 
 
100
    unlock_pages(status, sizeof(uint32_t)*(end - start + 1));
 
101
 
 
102
    return ret;
 
103
}
 
104
 
 
105
int xc_query_page_offline_status(int xc, unsigned long start,
 
106
                                 unsigned long end, uint32_t *status)
 
107
{
 
108
    DECLARE_SYSCTL;
 
109
    int ret = -1;
 
110
 
 
111
    if ( !status || (end < start) )
 
112
        return -EINVAL;
 
113
 
 
114
    if (lock_pages(status, sizeof(uint32_t)*(end - start + 1)))
 
115
    {
 
116
        ERROR("Could not lock memory for xc_query_page_offline_status\n");
 
117
        return -EINVAL;
 
118
    }
 
119
 
 
120
    sysctl.cmd = XEN_SYSCTL_page_offline_op;
 
121
    sysctl.u.page_offline.start = start;
 
122
    sysctl.u.page_offline.cmd = sysctl_query_page_offline;
 
123
    sysctl.u.page_offline.end = end;
 
124
    set_xen_guest_handle(sysctl.u.page_offline.status, status);
 
125
    ret = xc_sysctl(xc, &sysctl);
 
126
 
 
127
    unlock_pages(status, sizeof(uint32_t)*(end - start + 1));
 
128
 
 
129
    return ret;
 
130
}
 
131
 
 
132
 /*
 
133
  * There should no update to the grant when domain paused
 
134
  */
 
135
static int xc_is_page_granted_v1(int xc_handle, xen_pfn_t gpfn,
 
136
                                 grant_entry_v1_t *gnttab, int gnt_num)
 
137
{
 
138
    int i = 0;
 
139
 
 
140
    if (!gnttab)
 
141
        return 0;
 
142
 
 
143
    for (i = 0; i < gnt_num; i++)
 
144
        if ( ((gnttab[i].flags & GTF_type_mask) !=  GTF_invalid) &&
 
145
             (gnttab[i].frame == gpfn) )
 
146
             break;
 
147
 
 
148
   return (i != gnt_num);
 
149
}
 
150
 
 
151
static int xc_is_page_granted_v2(int xc_handle, xen_pfn_t gpfn,
 
152
                                 grant_entry_v2_t *gnttab, int gnt_num)
 
153
{
 
154
    int i = 0;
 
155
 
 
156
    if (!gnttab)
 
157
        return 0;
 
158
 
 
159
    for (i = 0; i < gnt_num; i++)
 
160
        if ( ((gnttab[i].hdr.flags & GTF_type_mask) !=  GTF_invalid) &&
 
161
             (gnttab[i].full_page.frame == gpfn) )
 
162
             break;
 
163
 
 
164
   return (i != gnt_num);
 
165
}
 
166
 
 
167
static xen_pfn_t pfn_to_mfn(xen_pfn_t pfn, xen_pfn_t *p2m, int gwidth)
 
168
{
 
169
  return ((xen_pfn_t) ((gwidth==8)?
 
170
                       (((uint64_t *)p2m)[(pfn)]):
 
171
                       ((((uint32_t *)p2m)[(pfn)]) == 0xffffffffU ?
 
172
                            (-1UL) :
 
173
                            (((uint32_t *)p2m)[(pfn)]))));
 
174
}
 
175
 
 
176
static int get_pt_level(int xc_handle, uint32_t domid,
 
177
                        unsigned int *pt_level,
 
178
                        unsigned int *gwidth)
 
179
{
 
180
    DECLARE_DOMCTL;
 
181
    xen_capabilities_info_t xen_caps = "";
 
182
 
 
183
    if (xc_version(xc_handle, XENVER_capabilities, &xen_caps) != 0)
 
184
        return -1;
 
185
 
 
186
    memset(&domctl, 0, sizeof(domctl));
 
187
    domctl.domain = domid;
 
188
    domctl.cmd = XEN_DOMCTL_get_address_size;
 
189
 
 
190
    if ( do_domctl(xc_handle, &domctl) != 0 )
 
191
        return -1;
 
192
 
 
193
    *gwidth = domctl.u.address_size.size / 8;
 
194
 
 
195
    if (strstr(xen_caps, "xen-3.0-x86_64"))
 
196
        /* Depends on whether it's a compat 32-on-64 guest */
 
197
        *pt_level = ( (*gwidth == 8) ? 4 : 3 );
 
198
    else if (strstr(xen_caps, "xen-3.0-x86_32p"))
 
199
        *pt_level = 3;
 
200
    else if (strstr(xen_caps, "xen-3.0-x86_32"))
 
201
        *pt_level = 2;
 
202
    else
 
203
        return -1;
 
204
 
 
205
    return 0;
 
206
}
 
207
 
 
208
static int close_mem_info(int xc_handle, struct domain_mem_info *minfo)
 
209
{
 
210
    if (minfo->pfn_type)
 
211
        free(minfo->pfn_type);
 
212
    munmap(minfo->m2p_table, M2P_SIZE(minfo->max_mfn));
 
213
    munmap(minfo->p2m_table, P2M_FLL_ENTRIES * PAGE_SIZE);
 
214
    minfo->p2m_table = minfo->m2p_table = NULL;
 
215
 
 
216
    return 0;
 
217
}
 
218
 
 
219
static int init_mem_info(int xc_handle, int domid,
 
220
                 struct domain_mem_info *minfo,
 
221
                 xc_dominfo_t *info)
 
222
{
 
223
    uint64_aligned_t shared_info_frame;
 
224
    shared_info_any_t *live_shinfo = NULL;
 
225
    int i, rc;
 
226
 
 
227
    /* Only be initialized once */
 
228
    if (minfo->pfn_type || minfo->m2p_table || minfo->p2m_table)
 
229
        return -EINVAL;
 
230
 
 
231
    if ( get_pt_level(xc_handle, domid, &minfo->pt_level,
 
232
                      &minfo->guest_width) )
 
233
    {
 
234
        ERROR("Unable to get PT level info.");
 
235
        return -EFAULT;
 
236
    }
 
237
    dinfo->guest_width = minfo->guest_width;
 
238
 
 
239
    shared_info_frame = info->shared_info_frame;
 
240
 
 
241
    live_shinfo = xc_map_foreign_range(xc_handle, domid,
 
242
                     PAGE_SIZE, PROT_READ, shared_info_frame);
 
243
    if ( !live_shinfo )
 
244
    {
 
245
        ERROR("Couldn't map live_shinfo");
 
246
        return -EFAULT;
 
247
    }
 
248
 
 
249
    if ( (rc = xc_core_arch_map_p2m_writable(xc_handle, minfo->guest_width,
 
250
              info, live_shinfo, &minfo->p2m_table,  &minfo->p2m_size)) )
 
251
    {
 
252
        ERROR("Couldn't map p2m table %x\n", rc);
 
253
        goto failed;
 
254
    }
 
255
    munmap(live_shinfo, PAGE_SIZE);
 
256
    live_shinfo = NULL;
 
257
 
 
258
    dinfo->p2m_size = minfo->p2m_size;
 
259
 
 
260
    minfo->max_mfn = xc_memory_op(xc_handle, XENMEM_maximum_ram_page, NULL);
 
261
    if ( !(minfo->m2p_table =
 
262
        xc_map_m2p(xc_handle, minfo->max_mfn, PROT_READ, NULL)) )
 
263
    {
 
264
        ERROR("Failed to map live M2P table");
 
265
        goto failed;
 
266
    }
 
267
 
 
268
    /* Get pfn type */
 
269
    minfo->pfn_type = calloc(sizeof(*minfo->pfn_type), minfo->p2m_size);
 
270
    if (!minfo->pfn_type)
 
271
    {
 
272
        ERROR("Failed to malloc pfn_type\n");
 
273
        goto failed;
 
274
    }
 
275
 
 
276
    for (i = 0; i < minfo->p2m_size; i++)
 
277
        minfo->pfn_type[i] = pfn_to_mfn(i, minfo->p2m_table,
 
278
                                        minfo->guest_width);
 
279
 
 
280
    if ( lock_pages(minfo->pfn_type, minfo->p2m_size * sizeof(*minfo->pfn_type)) )
 
281
    {
 
282
        ERROR("Unable to lock pfn_type array");
 
283
        goto failed;
 
284
    }
 
285
 
 
286
    for (i = 0; i < minfo->p2m_size ; i+=1024)
 
287
    {
 
288
        int count = ((dinfo->p2m_size - i ) > 1024 ) ? 1024: (dinfo->p2m_size - i);
 
289
        if ( ( rc = xc_get_pfn_type_batch(xc_handle, domid, count,
 
290
                  minfo->pfn_type + i)) )
 
291
        {
 
292
            ERROR("Failed to get pfn_type %x\n", rc);
 
293
            goto unlock;
 
294
        }
 
295
    }
 
296
    return 0;
 
297
 
 
298
unlock:
 
299
    unlock_pages(minfo->pfn_type, minfo->p2m_size * sizeof(*minfo->pfn_type));
 
300
failed:
 
301
    if (minfo->pfn_type)
 
302
    {
 
303
        free(minfo->pfn_type);
 
304
        minfo->pfn_type = NULL;
 
305
    }
 
306
    if (live_shinfo)
 
307
        munmap(live_shinfo, PAGE_SIZE);
 
308
    munmap(minfo->m2p_table, M2P_SIZE(minfo->max_mfn));
 
309
    munmap(minfo->p2m_table, P2M_FLL_ENTRIES * PAGE_SIZE);
 
310
    minfo->p2m_table = minfo->m2p_table = NULL;
 
311
 
 
312
    return -1;
 
313
}
 
314
 
 
315
static int backup_ptes(xen_pfn_t table_mfn, int offset,
 
316
                       struct pte_backup *backup)
 
317
{
 
318
    if (!backup)
 
319
        return -EINVAL;
 
320
 
 
321
    if (backup->max == backup->cur)
 
322
    {
 
323
        backup->entries = realloc(backup->entries,
 
324
                            backup->max * 2 * sizeof(struct pte_backup_entry));
 
325
        if (backup->entries == NULL)
 
326
            return -1;
 
327
        else
 
328
            backup->max *= 2;
 
329
    }
 
330
 
 
331
    backup->entries[backup->cur].table_mfn = table_mfn;
 
332
    backup->entries[backup->cur++].offset = offset;
 
333
 
 
334
    return 0;
 
335
}
 
336
 
 
337
/*
 
338
 * return:
 
339
 * 1 when MMU update is required
 
340
 * 0 when no changes
 
341
 * <0 when error happen
 
342
 */
 
343
typedef int (*pte_func)(uint64_t pte, uint64_t *new_pte,
 
344
                       unsigned long table_mfn, int table_offset,
 
345
                       struct pte_backup *backup,
 
346
                       unsigned long no_use);
 
347
 
 
348
static int __clear_pte(uint64_t pte, uint64_t *new_pte,
 
349
                       unsigned long table_mfn, int table_offset,
 
350
                       struct pte_backup *backup,
 
351
                       unsigned long mfn)
 
352
{
 
353
    /* If no new_pte pointer, same as no changes needed */
 
354
    if (!new_pte || !backup)
 
355
        return -EINVAL;
 
356
 
 
357
    if ( !(pte & _PAGE_PRESENT))
 
358
        return 0;
 
359
 
 
360
    /* XXX Check for PSE bit here */
 
361
    /* Hit one entry */
 
362
    if ( ((pte >> PAGE_SHIFT_X86) & MFN_MASK_X86) == mfn)
 
363
    {
 
364
        *new_pte = pte & ~_PAGE_PRESENT;
 
365
        if (!backup_ptes(table_mfn, table_offset, backup))
 
366
            return 1;
 
367
    }
 
368
 
 
369
    return 0;
 
370
}
 
371
 
 
372
static int __update_pte(uint64_t pte, uint64_t *new_pte,
 
373
                      unsigned long table_mfn, int table_offset,
 
374
                      struct pte_backup *backup,
 
375
                      unsigned long new_mfn)
 
376
{
 
377
    int index;
 
378
 
 
379
    if (!new_pte)
 
380
        return 0;
 
381
 
 
382
    for (index = 0; index < backup->cur; index ++)
 
383
        if ( (backup->entries[index].table_mfn == table_mfn) &&
 
384
             (backup->entries[index].offset == table_offset) )
 
385
            break;
 
386
 
 
387
    if (index != backup->cur)
 
388
    {
 
389
        if (pte & _PAGE_PRESENT)
 
390
            ERROR("Page present while in backup ptes\n");
 
391
        pte &= ~MFN_MASK_X86;
 
392
        pte |= (new_mfn << PAGE_SHIFT_X86) | _PAGE_PRESENT;
 
393
        *new_pte = pte;
 
394
        return 1;
 
395
    }
 
396
 
 
397
    return 0;
 
398
}
 
399
 
 
400
static int change_pte(int xc_handle, int domid,
 
401
                     struct domain_mem_info *minfo,
 
402
                     struct pte_backup *backup,
 
403
                     struct xc_mmu *mmu,
 
404
                     pte_func func,
 
405
                     unsigned long data)
 
406
{
 
407
    int pte_num, rc;
 
408
    uint64_t i;
 
409
    void *content = NULL;
 
410
 
 
411
    pte_num = PAGE_SIZE / ((minfo->pt_level == 2) ? 4 : 8);
 
412
 
 
413
    for (i = 0; i < minfo->p2m_size; i++)
 
414
    {
 
415
        xen_pfn_t table_mfn = pfn_to_mfn(i, minfo->p2m_table,
 
416
                                         minfo->guest_width);
 
417
        uint64_t pte, new_pte;
 
418
        int j;
 
419
 
 
420
        if ( (table_mfn == INVALID_P2M_ENTRY) ||
 
421
             ((minfo->pfn_type[i] & XEN_DOMCTL_PFINFO_LTAB_MASK) ==
 
422
              XEN_DOMCTL_PFINFO_XTAB) )
 
423
            continue;
 
424
 
 
425
        if ( minfo->pfn_type[i] & XEN_DOMCTL_PFINFO_LTABTYPE_MASK )
 
426
        {
 
427
            content = xc_map_foreign_range(xc_handle, domid, PAGE_SIZE,
 
428
                                            PROT_READ, table_mfn);
 
429
            if (!content)
 
430
                goto failed;
 
431
 
 
432
            for (j = 0; j < pte_num; j++)
 
433
            {
 
434
                if ( minfo->pt_level == 2 )
 
435
                    pte = ((const uint32_t*)content)[j];
 
436
                else
 
437
                    pte = ((const uint64_t*)content)[j];
 
438
 
 
439
                rc = func(pte, &new_pte, table_mfn, j, backup, data);
 
440
 
 
441
                switch (rc)
 
442
                {
 
443
                    case 1:
 
444
                    if ( xc_add_mmu_update(xc_handle, mmu,
 
445
                          table_mfn << PAGE_SHIFT |
 
446
                          j * ( (minfo->pt_level == 2) ?
 
447
                              sizeof(uint32_t): sizeof(uint64_t)) |
 
448
                          MMU_PT_UPDATE_PRESERVE_AD,
 
449
                          new_pte) )
 
450
                        goto failed;
 
451
                    break;
 
452
 
 
453
                    case 0:
 
454
                    break;
 
455
 
 
456
                    default:
 
457
                    goto failed;
 
458
                }
 
459
            }
 
460
        }
 
461
 
 
462
        munmap(content, PAGE_SIZE);
 
463
        content = NULL;
 
464
    }
 
465
 
 
466
    if ( xc_flush_mmu_updates(xc_handle, mmu) )
 
467
        goto failed;
 
468
 
 
469
    return 0;
 
470
failed:
 
471
    /* XXX Shall we take action if we have fail to swap? */
 
472
    if (content)
 
473
        munmap(content, PAGE_SIZE);
 
474
 
 
475
    return -1;
 
476
}
 
477
 
 
478
static int update_pte(int xc_handle, int domid,
 
479
                     struct domain_mem_info *minfo,
 
480
                     struct pte_backup *backup,
 
481
                     struct xc_mmu *mmu,
 
482
                     unsigned long new_mfn)
 
483
{
 
484
    return change_pte(xc_handle, domid,  minfo, backup, mmu,
 
485
                      __update_pte, new_mfn);
 
486
}
 
487
 
 
488
static int clear_pte(int xc_handle, int domid,
 
489
                     struct domain_mem_info *minfo,
 
490
                     struct pte_backup *backup,
 
491
                     struct xc_mmu *mmu,
 
492
                     xen_pfn_t mfn)
 
493
{
 
494
    return change_pte(xc_handle, domid, minfo, backup, mmu,
 
495
                      __clear_pte, mfn);
 
496
}
 
497
 
 
498
static int exchange_page(int xc_handle, xen_pfn_t mfn,
 
499
                     xen_pfn_t *new_mfn, int domid)
 
500
{
 
501
    int rc;
 
502
    xen_pfn_t out_mfn;
 
503
 
 
504
        struct xen_memory_exchange exchange = {
 
505
                .in = {
 
506
                        .nr_extents   = 1,
 
507
                        .extent_order = 0,
 
508
                        .domid        = domid
 
509
                },
 
510
                .out = {
 
511
                        .nr_extents   = 1,
 
512
                        .extent_order = 0,
 
513
                        .domid        = domid
 
514
                }
 
515
    };
 
516
    set_xen_guest_handle(exchange.in.extent_start, &mfn);
 
517
    set_xen_guest_handle(exchange.out.extent_start, &out_mfn);
 
518
 
 
519
    rc = xc_memory_op(xc_handle, XENMEM_exchange, &exchange);
 
520
 
 
521
    if (!rc)
 
522
        *new_mfn = out_mfn;
 
523
 
 
524
    return rc;
 
525
}
 
526
 
 
527
/*
 
528
 * Check if a page can be exchanged successfully
 
529
 */
 
530
 
 
531
static int is_page_exchangable(int xc_handle, int domid, xen_pfn_t mfn,
 
532
                               xc_dominfo_t *info)
 
533
{
 
534
    uint32_t status;
 
535
    int rc;
 
536
 
 
537
    /* domain checking */
 
538
    if ( !domid || (domid > DOMID_FIRST_RESERVED) )
 
539
    {
 
540
        DPRINTF("Dom0's page can't be LM");
 
541
        return 0;
 
542
    }
 
543
    if (info->hvm)
 
544
    {
 
545
        DPRINTF("Currently we can only live change PV guest's page\n");
 
546
        return 0;
 
547
    }
 
548
 
 
549
    /* Check if pages are offline pending or not */
 
550
    rc = xc_query_page_offline_status(xc_handle, mfn, mfn, &status);
 
551
 
 
552
    if ( rc || !(status & PG_OFFLINE_STATUS_OFFLINE_PENDING) )
 
553
    {
 
554
        ERROR("Page %lx is not offline pending %x\n",
 
555
          mfn, status);
 
556
        return 0;
 
557
    }
 
558
 
 
559
    return 1;
 
560
}
 
561
 
 
562
/* The domain should be suspended when called here */
 
563
int xc_exchange_page(int xc_handle, int domid, xen_pfn_t mfn)
 
564
{
 
565
    xc_dominfo_t info;
 
566
    struct domain_mem_info minfo;
 
567
    struct xc_mmu *mmu = NULL;
 
568
    struct pte_backup old_ptes = {NULL, 0, 0};
 
569
    grant_entry_v1_t *gnttab_v1 = NULL;
 
570
    grant_entry_v2_t *gnttab_v2 = NULL;
 
571
    struct mmuext_op mops;
 
572
    int gnt_num, unpined = 0;
 
573
    void *old_p, *backup = NULL;
 
574
    int rc, result = -1;
 
575
    uint32_t status;
 
576
    xen_pfn_t new_mfn, gpfn;
 
577
 
 
578
    if ( xc_domain_getinfo(xc_handle, domid, 1, &info) != 1 )
 
579
    {
 
580
        ERROR("Could not get domain info");
 
581
        return -EFAULT;
 
582
    }
 
583
 
 
584
    if (!info.shutdown || info.shutdown_reason != SHUTDOWN_suspend)
 
585
    {
 
586
        ERROR("Can't exchange page unless domain is suspended\n");
 
587
        return -EINVAL;
 
588
    }
 
589
 
 
590
    if (!is_page_exchangable(xc_handle, domid, mfn, &info))
 
591
    {
 
592
        ERROR("Could not exchange page\n");
 
593
        return -EINVAL;
 
594
    }
 
595
 
 
596
    /* Get domain's memory information */
 
597
    memset(&minfo, 0, sizeof(minfo));
 
598
    init_mem_info(xc_handle, domid, &minfo, &info);
 
599
    gpfn = minfo.m2p_table[mfn];
 
600
 
 
601
    /* Don't exchange CR3 for PAE guest in PAE host environment */
 
602
    if (minfo.guest_width > sizeof(long))
 
603
    {
 
604
        if ( (minfo.pfn_type[gpfn] & XEN_DOMCTL_PFINFO_LTABTYPE_MASK) ==
 
605
                    XEN_DOMCTL_PFINFO_L3TAB )
 
606
            goto failed;
 
607
    }
 
608
 
 
609
    gnttab_v2 = xc_gnttab_map_table_v2(xc_handle, domid, &gnt_num);
 
610
    if (!gnttab_v2)
 
611
    {
 
612
        gnttab_v1 = xc_gnttab_map_table_v1(xc_handle, domid, &gnt_num);
 
613
        if (!gnttab_v1)
 
614
        {
 
615
            ERROR("Failed to map grant table\n");
 
616
            goto failed;
 
617
        }
 
618
    }
 
619
 
 
620
    if (gnttab_v1
 
621
        ? xc_is_page_granted_v1(xc_handle, mfn, gnttab_v1, gnt_num)
 
622
        : xc_is_page_granted_v2(xc_handle, mfn, gnttab_v2, gnt_num))
 
623
    {
 
624
        ERROR("Page %lx is granted now\n", mfn);
 
625
        goto failed;
 
626
    }
 
627
 
 
628
    /* allocate required data structure */
 
629
    backup = malloc(PAGE_SIZE);
 
630
    if (!backup)
 
631
    {
 
632
        ERROR("Failed to allocate backup pages pointer\n");
 
633
        goto failed;
 
634
    }
 
635
 
 
636
    old_ptes.max = DEFAULT_BACKUP_COUNT;
 
637
    old_ptes.entries = malloc(sizeof(struct pte_backup_entry) *
 
638
                              DEFAULT_BACKUP_COUNT);
 
639
 
 
640
    if (!old_ptes.entries)
 
641
    {
 
642
        ERROR("Faield to allocate backup\n");
 
643
        goto failed;
 
644
    }
 
645
    old_ptes.cur = 0;
 
646
 
 
647
    /* Unpin the page if it is pined */
 
648
    if (minfo.pfn_type[gpfn] & XEN_DOMCTL_PFINFO_LPINTAB)
 
649
    {
 
650
        mops.cmd = MMUEXT_UNPIN_TABLE;
 
651
        mops.arg1.mfn = mfn;
 
652
 
 
653
        if ( xc_mmuext_op(xc_handle, &mops, 1, domid) < 0 )
 
654
        {
 
655
            ERROR("Failed to unpin page %lx", mfn);
 
656
            goto failed;
 
657
        }
 
658
        mops.arg1.mfn = mfn;
 
659
        unpined = 1;
 
660
    }
 
661
 
 
662
    /* backup the content */
 
663
    old_p = xc_map_foreign_range(xc_handle, domid, PAGE_SIZE,
 
664
      PROT_READ, mfn);
 
665
    if (!old_p)
 
666
    {
 
667
        ERROR("Failed to map foreign page %lx\n", mfn);
 
668
        goto failed;
 
669
    }
 
670
 
 
671
    memcpy(backup, old_p, PAGE_SIZE);
 
672
    munmap(old_p, PAGE_SIZE);
 
673
 
 
674
    mmu = xc_alloc_mmu_updates(xc_handle, domid);
 
675
    if ( mmu == NULL )
 
676
    {
 
677
        ERROR("%s: failed at %d\n", __FUNCTION__, __LINE__);
 
678
        goto failed;
 
679
    }
 
680
 
 
681
    /* Firstly update all pte to be invalid to remove the reference */
 
682
    rc = clear_pte(xc_handle, domid,  &minfo, &old_ptes, mmu, mfn);
 
683
 
 
684
    if (rc)
 
685
    {
 
686
        ERROR("clear pte failed\n");
 
687
        goto failed;
 
688
    }
 
689
 
 
690
    rc = exchange_page(xc_handle, mfn, &new_mfn, domid);
 
691
 
 
692
    if (rc)
 
693
    {
 
694
        ERROR("Exchange the page failed\n");
 
695
        /* Exchange fail means there are refere to the page still */
 
696
        rc = update_pte(xc_handle, domid, &minfo, &old_ptes, mmu, mfn);
 
697
        if (rc)
 
698
            result = -2;
 
699
        goto failed;
 
700
    }
 
701
 
 
702
    rc = update_pte(xc_handle, domid, &minfo, &old_ptes, mmu, new_mfn);
 
703
 
 
704
    if (rc)
 
705
    {
 
706
        ERROR("update pte failed guest may be broken now\n");
 
707
        /* No recover action now for swap fail */
 
708
        result = -2;
 
709
        goto failed;
 
710
    }
 
711
 
 
712
    /* Check if pages are offlined already */
 
713
    rc = xc_query_page_offline_status(xc_handle, mfn, mfn,
 
714
                            &status);
 
715
 
 
716
    if (rc)
 
717
    {
 
718
        ERROR("Fail to query offline status\n");
 
719
    }else if ( !(status & PG_OFFLINE_STATUS_OFFLINED) )
 
720
    {
 
721
        ERROR("page is still online or pending\n");
 
722
        goto failed;
 
723
    }
 
724
    else
 
725
    {
 
726
        void *new_p;
 
727
        IPRINTF("Now page is offlined %lx\n", mfn);
 
728
        /* Update the p2m table */
 
729
        minfo.p2m_table[gpfn] = new_mfn;
 
730
 
 
731
        new_p = xc_map_foreign_range(xc_handle, domid, PAGE_SIZE,
 
732
                                     PROT_READ|PROT_WRITE, new_mfn);
 
733
        memcpy(new_p, backup, PAGE_SIZE);
 
734
        munmap(new_p, PAGE_SIZE);
 
735
        mops.arg1.mfn = new_mfn;
 
736
        result = 0;
 
737
    }
 
738
 
 
739
failed:
 
740
 
 
741
    if (unpined && (minfo.pfn_type[mfn] & XEN_DOMCTL_PFINFO_LPINTAB))
 
742
    {
 
743
        switch ( minfo.pfn_type[mfn] & XEN_DOMCTL_PFINFO_LTABTYPE_MASK )
 
744
        {
 
745
            case XEN_DOMCTL_PFINFO_L1TAB:
 
746
                mops.cmd = MMUEXT_PIN_L1_TABLE;
 
747
                break;
 
748
 
 
749
            case XEN_DOMCTL_PFINFO_L2TAB:
 
750
                mops.cmd = MMUEXT_PIN_L2_TABLE;
 
751
                break;
 
752
 
 
753
            case XEN_DOMCTL_PFINFO_L3TAB:
 
754
                mops.cmd = MMUEXT_PIN_L3_TABLE;
 
755
                break;
 
756
 
 
757
            case XEN_DOMCTL_PFINFO_L4TAB:
 
758
                mops.cmd = MMUEXT_PIN_L4_TABLE;
 
759
                break;
 
760
 
 
761
            default:
 
762
                ERROR("Unpined for non pate table page\n");
 
763
                break;
 
764
        }
 
765
 
 
766
        if ( xc_mmuext_op(xc_handle, &mops, 1, domid) < 0 )
 
767
        {
 
768
            ERROR("failed to pin the mfn again\n");
 
769
            result = -2;
 
770
        }
 
771
    }
 
772
 
 
773
    if (mmu)
 
774
        free(mmu);
 
775
 
 
776
    if (old_ptes.entries)
 
777
        free(old_ptes.entries);
 
778
 
 
779
    if (backup)
 
780
        free(backup);
 
781
 
 
782
    if (gnttab_v1)
 
783
        munmap(gnttab_v1, gnt_num / (PAGE_SIZE/sizeof(grant_entry_v1_t)));
 
784
    if (gnttab_v2)
 
785
        munmap(gnttab_v2, gnt_num / (PAGE_SIZE/sizeof(grant_entry_v2_t)));
 
786
 
 
787
    close_mem_info(xc_handle, &minfo);
 
788
 
 
789
    return result;
 
790
}