~saurabhanandiit/gtg/exportFixed

« back to all changes in this revision

Viewing changes to GTG/backends/tweepy/cursor.py

Merge of my work on liblarch newbase and all the backends ported to liblarch
(which mainly means porting the datastore).
One failing test, will check it.

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
# Tweepy
 
2
# Copyright 2009-2010 Joshua Roesslein
 
3
# See LICENSE for details.
 
4
 
 
5
from tweepy.error import TweepError
 
6
 
 
7
class Cursor(object):
 
8
    """Pagination helper class"""
 
9
 
 
10
    def __init__(self, method, *args, **kargs):
 
11
        if hasattr(method, 'pagination_mode'):
 
12
            if method.pagination_mode == 'cursor':
 
13
                self.iterator = CursorIterator(method, args, kargs)
 
14
            else:
 
15
                self.iterator = PageIterator(method, args, kargs)
 
16
        else:
 
17
            raise TweepError('This method does not perform pagination')
 
18
 
 
19
    def pages(self, limit=0):
 
20
        """Return iterator for pages"""
 
21
        if limit > 0:
 
22
            self.iterator.limit = limit
 
23
        return self.iterator
 
24
 
 
25
    def items(self, limit=0):
 
26
        """Return iterator for items in each page"""
 
27
        i = ItemIterator(self.iterator)
 
28
        i.limit = limit
 
29
        return i
 
30
 
 
31
class BaseIterator(object):
 
32
 
 
33
    def __init__(self, method, args, kargs):
 
34
        self.method = method
 
35
        self.args = args
 
36
        self.kargs = kargs
 
37
        self.limit = 0
 
38
 
 
39
    def next(self):
 
40
        raise NotImplementedError
 
41
 
 
42
    def prev(self):
 
43
        raise NotImplementedError
 
44
 
 
45
    def __iter__(self):
 
46
        return self
 
47
 
 
48
class CursorIterator(BaseIterator):
 
49
 
 
50
    def __init__(self, method, args, kargs):
 
51
        BaseIterator.__init__(self, method, args, kargs)
 
52
        self.next_cursor = -1
 
53
        self.prev_cursor = 0
 
54
        self.count = 0
 
55
 
 
56
    def next(self):
 
57
        if self.next_cursor == 0 or (self.limit and self.count == self.limit):
 
58
            raise StopIteration
 
59
        data, cursors = self.method(
 
60
                cursor=self.next_cursor, *self.args, **self.kargs
 
61
        )
 
62
        self.prev_cursor, self.next_cursor = cursors
 
63
        if len(data) == 0:
 
64
            raise StopIteration
 
65
        self.count += 1
 
66
        return data
 
67
 
 
68
    def prev(self):
 
69
        if self.prev_cursor == 0:
 
70
            raise TweepError('Can not page back more, at first page')
 
71
        data, self.next_cursor, self.prev_cursor = self.method(
 
72
                cursor=self.prev_cursor, *self.args, **self.kargs
 
73
        )
 
74
        self.count -= 1
 
75
        return data
 
76
 
 
77
class PageIterator(BaseIterator):
 
78
 
 
79
    def __init__(self, method, args, kargs):
 
80
        BaseIterator.__init__(self, method, args, kargs)
 
81
        self.current_page = 0
 
82
 
 
83
    def next(self):
 
84
        self.current_page += 1
 
85
        items = self.method(page=self.current_page, *self.args, **self.kargs)
 
86
        if len(items) == 0 or (self.limit > 0 and self.current_page > self.limit):
 
87
            raise StopIteration
 
88
        return items
 
89
 
 
90
    def prev(self):
 
91
        if (self.current_page == 1):
 
92
            raise TweepError('Can not page back more, at first page')
 
93
        self.current_page -= 1
 
94
        return self.method(page=self.current_page, *self.args, **self.kargs)
 
95
 
 
96
class ItemIterator(BaseIterator):
 
97
 
 
98
    def __init__(self, page_iterator):
 
99
        self.page_iterator = page_iterator
 
100
        self.limit = 0
 
101
        self.current_page = None
 
102
        self.page_index = -1
 
103
        self.count = 0
 
104
 
 
105
    def next(self):
 
106
        if self.limit > 0 and self.count == self.limit:
 
107
            raise StopIteration
 
108
        if self.current_page is None or self.page_index == len(self.current_page) - 1:
 
109
            # Reached end of current page, get the next page...
 
110
            self.current_page = self.page_iterator.next()
 
111
            self.page_index = -1
 
112
        self.page_index += 1
 
113
        self.count += 1
 
114
        return self.current_page[self.page_index]
 
115
 
 
116
    def prev(self):
 
117
        if self.current_page is None:
 
118
            raise TweepError('Can not go back more, at first page')
 
119
        if self.page_index == 0:
 
120
            # At the beginning of the current page, move to next...
 
121
            self.current_page = self.page_iterator.prev()
 
122
            self.page_index = len(self.current_page)
 
123
            if self.page_index == 0:
 
124
                raise TweepError('No more items')
 
125
        self.page_index -= 1
 
126
        self.count -= 1
 
127
        return self.current_page[self.page_index]
 
128