Line data Source code
1 : /* -*- Mode: C++; tab-width: 4; indent-tabs-mode: nil; c-basic-offset: 4 -*- */
2 : /*
3 : * This file is part of the LibreOffice project.
4 : *
5 : * This Source Code Form is subject to the terms of the Mozilla Public
6 : * License, v. 2.0. If a copy of the MPL was not distributed with this
7 : * file, You can obtain one at http://mozilla.org/MPL/2.0/.
8 : *
9 : * This file incorporates work covered by the following license notice:
10 : *
11 : * Licensed to the Apache Software Foundation (ASF) under one or more
12 : * contributor license agreements. See the NOTICE file distributed
13 : * with this work for additional information regarding copyright
14 : * ownership. The ASF licenses this file to you under the Apache
15 : * License, Version 2.0 (the "License"); you may not use this file
16 : * except in compliance with the License. You may obtain a copy of
17 : * the License at http://www.apache.org/licenses/LICENSE-2.0 .
18 : */
19 :
20 : #include <ctype.h>
21 : #include <stdio.h>
22 :
23 : #include <hash.hxx>
24 : #include <lex.hxx>
25 : #include <globals.hxx>
26 : #include <rtl/strbuf.hxx>
27 :
28 5858 : OString SvToken::GetTokenAsString() const
29 : {
30 5858 : OString aStr;
31 5858 : switch( nType )
32 : {
33 : case SVTOKEN_EMPTY:
34 0 : break;
35 : case SVTOKEN_COMMENT:
36 0 : aStr = aString;
37 0 : break;
38 : case SVTOKEN_INTEGER:
39 0 : aStr = OString::number(nLong);
40 0 : break;
41 : case SVTOKEN_STRING:
42 0 : aStr = aString;
43 0 : break;
44 : case SVTOKEN_BOOL:
45 0 : aStr = bBool ? "TRUE" : "FALSE";
46 0 : break;
47 : case SVTOKEN_IDENTIFIER:
48 489 : aStr = aString;
49 489 : break;
50 : case SVTOKEN_CHAR:
51 5236 : aStr = OString(cChar);
52 5236 : break;
53 : case SVTOKEN_RTTIBASE:
54 0 : aStr = "RTTIBASE";
55 0 : break;
56 : case SVTOKEN_EOF:
57 : case SVTOKEN_HASHID:
58 133 : break;
59 : }
60 :
61 5858 : return aStr;
62 : }
63 :
64 0 : SvToken::SvToken( const SvToken & rObj )
65 : {
66 0 : nLine = rObj.nLine;
67 0 : nColumn = rObj.nColumn;
68 0 : nType = rObj.nType;
69 0 : aString = rObj.aString;
70 0 : nLong = rObj.nLong;
71 0 : }
72 :
73 23361 : SvToken & SvToken::operator = ( const SvToken & rObj )
74 : {
75 23361 : if( this != &rObj )
76 : {
77 23361 : nLine = rObj.nLine;
78 23361 : nColumn = rObj.nColumn;
79 23361 : nType = rObj.nType;
80 23361 : aString = rObj.aString;
81 23361 : nLong = rObj.nLong;
82 : }
83 23361 : return *this;
84 : }
85 :
86 234 : void SvTokenStream::InitCtor()
87 : {
88 234 : aStrTrue = OString("TRUE");
89 234 : aStrFalse = OString("FALSE");
90 234 : nLine = nColumn = 0;
91 234 : nBufPos = 0;
92 234 : nTabSize = 4;
93 234 : nMaxPos = 0;
94 234 : c = GetNextChar();
95 234 : FillTokenList();
96 234 : }
97 :
98 226 : SvTokenStream::SvTokenStream( const OUString & rFileName )
99 678 : : pInStream( new SvFileStream( rFileName, STREAM_STD_READ | StreamMode::NOCREATE ) )
100 : , rInStream( *pInStream )
101 904 : , aFileName( rFileName )
102 : {
103 226 : InitCtor();
104 226 : }
105 :
106 8 : SvTokenStream::SvTokenStream( SvStream & rStream, const OUString & rFileName )
107 : : pInStream( NULL )
108 : , rInStream( rStream )
109 8 : , aFileName( rFileName )
110 : {
111 8 : InitCtor();
112 8 : }
113 :
114 468 : SvTokenStream::~SvTokenStream()
115 : {
116 234 : delete pInStream;
117 234 : }
118 :
119 234 : void SvTokenStream::FillTokenList()
120 : {
121 234 : SvToken * pToken = new SvToken();
122 234 : aTokList.push_back(pToken);
123 804168 : do
124 : {
125 804402 : if( !MakeToken( *pToken ) )
126 : {
127 0 : if (!aTokList.empty())
128 : {
129 0 : *pToken = SvToken();
130 0 : boost::ptr_vector<SvToken>::const_iterator it = aTokList.begin();
131 :
132 0 : pToken->SetLine(it->GetLine());
133 0 : pToken->SetColumn(it->GetColumn());
134 : }
135 0 : break;
136 : }
137 804402 : else if( pToken->IsComment() )
138 23361 : *pToken = SvToken();
139 781041 : else if( pToken->IsEof() )
140 234 : break;
141 : else
142 : {
143 780807 : pToken = new SvToken();
144 780807 : aTokList.push_back(pToken);
145 : }
146 : }
147 804168 : while( !pToken->IsEof() );
148 234 : pCurToken = aTokList.begin();
149 234 : }
150 :
151 233472 : int SvTokenStream::GetNextChar()
152 : {
153 : int nChar;
154 736370 : while (aBufStr.getLength() <= nBufPos)
155 : {
156 269771 : if (rInStream.ReadLine(aBufStr))
157 : {
158 269426 : nLine++;
159 269426 : nColumn = 0;
160 269426 : nBufPos = 0;
161 : }
162 : else
163 : {
164 345 : aBufStr.clear();
165 345 : nColumn = 0;
166 345 : nBufPos = 0;
167 345 : return '\0';
168 : }
169 : }
170 233127 : nChar = aBufStr[nBufPos++];
171 233127 : nColumn += nChar == '\t' ? nTabSize : 1;
172 233127 : return nChar;
173 : }
174 :
175 18855 : sal_uLong SvTokenStream::GetNumber()
176 : {
177 18855 : sal_uLong l = 0;
178 18855 : short nLog = 10;
179 :
180 18855 : if( '0' == c )
181 : {
182 797 : c = GetFastNextChar();
183 797 : if( 'x' == c )
184 : {
185 531 : nLog = 16;
186 531 : c = GetFastNextChar();
187 : }
188 : }
189 :
190 18855 : if( nLog == 16 )
191 : {
192 2148 : while( isxdigit( c ) )
193 : {
194 1086 : if( isdigit( c ) )
195 864 : l = l * nLog + (c - '0');
196 : else
197 222 : l = l * nLog + (toupper( c ) - 'A' + 10 );
198 1086 : c = GetFastNextChar();
199 : }
200 : }
201 : else
202 : {
203 86545 : while( isdigit( c ) || 'x' == c )
204 : {
205 49897 : l = l * nLog + (c - '0');
206 49897 : c = GetFastNextChar();
207 : }
208 : }
209 :
210 18855 : return l;
211 : }
212 :
213 804402 : bool SvTokenStream::MakeToken( SvToken & rToken )
214 : {
215 804402 : do
216 : {
217 804402 : if( 0 == c )
218 205171 : c = GetNextChar();
219 : // skip whitespace
220 3103918 : while( isspace( c ) || 26 == c )
221 : {
222 1495114 : c = GetFastNextChar();
223 1495114 : nColumn += c == '\t' ? nTabSize : 1;
224 : }
225 : }
226 804402 : while( 0 == c && !IsEof() && ( SVSTREAM_OK == rInStream.GetError() ) );
227 :
228 804402 : sal_uLong nLastLine = nLine;
229 804402 : sal_uLong nLastColumn = nColumn;
230 : // comment
231 804402 : if( '/' == c )
232 : {
233 : // time optimization, no comments
234 23520 : int c1 = c;
235 23520 : c = GetFastNextChar();
236 23520 : if( '/' == c )
237 : {
238 166523 : while( '\0' != c )
239 : {
240 155579 : c = GetFastNextChar();
241 : }
242 5472 : c = GetNextChar();
243 5472 : rToken.nType = SVTOKEN_COMMENT;
244 : }
245 18048 : else if( '*' == c )
246 : {
247 17889 : c = GetFastNextChar();
248 21592 : do
249 : {
250 457155 : while( '*' != c )
251 : {
252 413971 : if( '\0' == c )
253 : {
254 4706 : c = GetNextChar();
255 4706 : if( IsEof() )
256 0 : return false;
257 : }
258 : else
259 409265 : c = GetFastNextChar();
260 : }
261 21592 : c = GetFastNextChar();
262 : }
263 21592 : while( '/' != c && !IsEof() && ( SVSTREAM_OK == rInStream.GetError() ) );
264 17889 : if( IsEof() || ( SVSTREAM_OK != rInStream.GetError() ) )
265 0 : return false;
266 17889 : c = GetNextChar();
267 17889 : rToken.nType = SVTOKEN_COMMENT;
268 17889 : CalcColumn();
269 : }
270 : else
271 : {
272 159 : rToken.nType = SVTOKEN_CHAR;
273 159 : rToken.cChar = (char)c1;
274 : }
275 : }
276 780882 : else if( c == '"' )
277 : {
278 1898 : OStringBuffer aStr;
279 1898 : bool bDone = false;
280 51050 : while( !bDone && !IsEof() && c )
281 : {
282 47254 : c = GetFastNextChar();
283 47254 : if( '\0' == c )
284 : {
285 : // read strings beyond end of line
286 0 : aStr.append('\n');
287 0 : c = GetNextChar();
288 0 : if( IsEof() )
289 0 : return false;
290 : }
291 47254 : if( c == '"' )
292 : {
293 1898 : c = GetFastNextChar();
294 1898 : if( c == '"' )
295 : {
296 0 : aStr.append('"');
297 0 : aStr.append('"');
298 : }
299 : else
300 1898 : bDone = true;
301 : }
302 45356 : else if( c == '\\' )
303 : {
304 0 : aStr.append('\\');
305 0 : c = GetFastNextChar();
306 0 : if( c )
307 0 : aStr.append(static_cast<char>(c));
308 : }
309 : else
310 45356 : aStr.append(static_cast<char>(c));
311 : }
312 1898 : if( IsEof() || ( SVSTREAM_OK != rInStream.GetError() ) )
313 0 : return false;
314 1898 : rToken.nType = SVTOKEN_STRING;
315 1898 : rToken.aString = aStr.makeStringAndClear();
316 : }
317 778984 : else if( isdigit( c ) )
318 : {
319 18855 : rToken.nType = SVTOKEN_INTEGER;
320 18855 : rToken.nLong = GetNumber();
321 :
322 : }
323 760129 : else if( isalpha (c) || (c == '_') )
324 : {
325 377939 : OStringBuffer aBuf;
326 4325123 : while( isalnum( c ) || c == '_' )
327 : {
328 3569245 : aBuf.append(static_cast<char>(c));
329 3569245 : c = GetFastNextChar();
330 : }
331 755878 : OString aStr = aBuf.makeStringAndClear();
332 377939 : if( aStr.equalsIgnoreAsciiCase( aStrTrue ) )
333 : {
334 25192 : rToken.nType = SVTOKEN_BOOL;
335 25192 : rToken.bBool = true;
336 : }
337 352747 : else if( aStr.equalsIgnoreAsciiCase( aStrFalse ) )
338 : {
339 76235 : rToken.nType = SVTOKEN_BOOL;
340 76235 : rToken.bBool = false;
341 : }
342 : else
343 : {
344 : sal_uInt32 nHashId;
345 276512 : if( IDLAPP->pHashTable->Test( aStr, &nHashId ) )
346 176134 : rToken.SetHash( IDLAPP->pHashTable->Get( nHashId ) );
347 : else
348 : {
349 100378 : rToken.nType = SVTOKEN_IDENTIFIER;
350 100378 : rToken.aString = aStr;
351 : }
352 377939 : }
353 : }
354 382190 : else if( IsEof() )
355 : {
356 234 : rToken.nType = SVTOKEN_EOF;
357 : }
358 : else
359 : {
360 381956 : rToken.nType = SVTOKEN_CHAR;
361 381956 : rToken.cChar = (char)c;
362 381956 : c = GetFastNextChar();
363 : }
364 804402 : rToken.SetLine( nLastLine );
365 804402 : rToken.SetColumn( nLastColumn );
366 804402 : return rInStream.GetError() == SVSTREAM_OK;
367 : }
368 :
369 : /* vim:set shiftwidth=4 softtabstop=4 expandtab: */
|
