Line data Source code
1 : /* -*- Mode: C++; tab-width: 4; indent-tabs-mode: nil; c-basic-offset: 4 -*- */
2 : /*
3 : * This file is part of the LibreOffice project.
4 : *
5 : * This Source Code Form is subject to the terms of the Mozilla Public
6 : * License, v. 2.0. If a copy of the MPL was not distributed with this
7 : * file, You can obtain one at http://mozilla.org/MPL/2.0/.
8 : *
9 : * This file incorporates work covered by the following license notice:
10 : *
11 : * Licensed to the Apache Software Foundation (ASF) under one or more
12 : * contributor license agreements. See the NOTICE file distributed
13 : * with this work for additional information regarding copyright
14 : * ownership. The ASF licenses this file to you under the Apache
15 : * License, Version 2.0 (the "License"); you may not use this file
16 : * except in compliance with the License. You may obtain a copy of
17 : * the License at http://www.apache.org/licenses/LICENSE-2.0 .
18 : */
19 :
20 : #include <ctype.h>
21 : #include <stdio.h>
22 :
23 : #include <hash.hxx>
24 : #include <lex.hxx>
25 : #include <globals.hxx>
26 : #include <rtl/strbuf.hxx>
27 :
28 5837 : OString SvToken::GetTokenAsString() const
29 : {
30 5837 : OString aStr;
31 5837 : switch( nType )
32 : {
33 : case SVTOKEN_EMPTY:
34 0 : break;
35 : case SVTOKEN_COMMENT:
36 0 : aStr = aString;
37 0 : break;
38 : case SVTOKEN_INTEGER:
39 0 : aStr = OString::number(nLong);
40 0 : break;
41 : case SVTOKEN_STRING:
42 0 : aStr = aString;
43 0 : break;
44 : case SVTOKEN_BOOL:
45 0 : aStr = bBool ? "TRUE" : "FALSE";
46 0 : break;
47 : case SVTOKEN_IDENTIFIER:
48 489 : aStr = aString;
49 489 : break;
50 : case SVTOKEN_CHAR:
51 5215 : aStr = OString(cChar);
52 5215 : break;
53 : case SVTOKEN_RTTIBASE:
54 0 : aStr = "RTTIBASE";
55 0 : break;
56 : case SVTOKEN_EOF:
57 : case SVTOKEN_HASHID:
58 133 : break;
59 : }
60 :
61 5837 : return aStr;
62 : }
63 :
64 0 : SvToken::SvToken( const SvToken & rObj )
65 : {
66 0 : nLine = rObj.nLine;
67 0 : nColumn = rObj.nColumn;
68 0 : nType = rObj.nType;
69 0 : aString = rObj.aString;
70 0 : nLong = rObj.nLong;
71 0 : }
72 :
73 23105 : SvToken & SvToken::operator = ( const SvToken & rObj )
74 : {
75 23105 : if( this != &rObj )
76 : {
77 23105 : nLine = rObj.nLine;
78 23105 : nColumn = rObj.nColumn;
79 23105 : nType = rObj.nType;
80 23105 : aString = rObj.aString;
81 23105 : nLong = rObj.nLong;
82 : }
83 23105 : return *this;
84 : }
85 :
86 234 : void SvTokenStream::InitCtor()
87 : {
88 234 : aStrTrue = OString("TRUE");
89 234 : aStrFalse = OString("FALSE");
90 234 : nLine = nColumn = 0;
91 234 : nBufPos = 0;
92 234 : nTabSize = 4;
93 234 : nMaxPos = 0;
94 234 : c = GetNextChar();
95 234 : FillTokenList();
96 234 : }
97 :
98 226 : SvTokenStream::SvTokenStream( const OUString & rFileName )
99 226 : : pInStream( new SvFileStream( rFileName, STREAM_STD_READ | STREAM_NOCREATE ) )
100 : , rInStream( *pInStream )
101 452 : , aFileName( rFileName )
102 : {
103 226 : InitCtor();
104 226 : }
105 :
106 8 : SvTokenStream::SvTokenStream( SvStream & rStream, const OUString & rFileName )
107 : : pInStream( NULL )
108 : , rInStream( rStream )
109 8 : , aFileName( rFileName )
110 : {
111 8 : InitCtor();
112 8 : }
113 :
114 468 : SvTokenStream::~SvTokenStream()
115 : {
116 234 : delete pInStream;
117 234 : }
118 :
119 234 : void SvTokenStream::FillTokenList()
120 : {
121 234 : SvToken * pToken = new SvToken();
122 234 : aTokList.push_back(pToken);
123 800303 : do
124 : {
125 800537 : if( !MakeToken( *pToken ) )
126 : {
127 0 : if (!aTokList.empty())
128 : {
129 0 : *pToken = SvToken();
130 0 : boost::ptr_vector<SvToken>::const_iterator it = aTokList.begin();
131 :
132 0 : pToken->SetLine(it->GetLine());
133 0 : pToken->SetColumn(it->GetColumn());
134 : }
135 0 : break;
136 : }
137 800537 : else if( pToken->IsComment() )
138 23105 : *pToken = SvToken();
139 777432 : else if( pToken->IsEof() )
140 234 : break;
141 : else
142 : {
143 777198 : pToken = new SvToken();
144 777198 : aTokList.push_back(pToken);
145 : }
146 : }
147 800303 : while( !pToken->IsEof() );
148 234 : pCurToken = aTokList.begin();
149 234 : }
150 :
151 232263 : int SvTokenStream::GetNextChar()
152 : {
153 : int nChar;
154 733229 : while (aBufStr.getLength() <= nBufPos)
155 : {
156 269048 : if (rInStream.ReadLine(aBufStr))
157 : {
158 268703 : nLine++;
159 268703 : nColumn = 0;
160 268703 : nBufPos = 0;
161 : }
162 : else
163 : {
164 345 : aBufStr = OString();
165 345 : nColumn = 0;
166 345 : nBufPos = 0;
167 345 : return '\0';
168 : }
169 : }
170 231918 : nChar = aBufStr[nBufPos++];
171 231918 : nColumn += nChar == '\t' ? nTabSize : 1;
172 231918 : return nChar;
173 : }
174 :
175 18796 : sal_uLong SvTokenStream::GetNumber()
176 : {
177 18796 : sal_uLong l = 0;
178 18796 : short nLog = 10;
179 :
180 18796 : if( '0' == c )
181 : {
182 824 : c = GetFastNextChar();
183 824 : if( 'x' == c )
184 : {
185 542 : nLog = 16;
186 542 : c = GetFastNextChar();
187 : }
188 : }
189 :
190 18796 : if( nLog == 16 )
191 : {
192 2192 : while( isxdigit( c ) )
193 : {
194 1108 : if( isdigit( c ) )
195 884 : l = l * nLog + (c - '0');
196 : else
197 224 : l = l * nLog + (toupper( c ) - 'A' + 10 );
198 1108 : c = GetFastNextChar();
199 : }
200 : }
201 : else
202 : {
203 85883 : while( isdigit( c ) || 'x' == c )
204 : {
205 49375 : l = l * nLog + (c - '0');
206 49375 : c = GetFastNextChar();
207 : }
208 : }
209 :
210 18796 : return( l );
211 : }
212 :
213 800537 : bool SvTokenStream::MakeToken( SvToken & rToken )
214 : {
215 800537 : do
216 : {
217 800537 : if( 0 == c )
218 204219 : c = GetNextChar();
219 : // skip whitespace
220 3093504 : while( isspace( c ) || 26 == c )
221 : {
222 1492430 : c = GetFastNextChar();
223 1492430 : nColumn += c == '\t' ? nTabSize : 1;
224 : }
225 : }
226 800537 : while( 0 == c && !IsEof() && ( SVSTREAM_OK == rInStream.GetError() ) );
227 :
228 800537 : sal_uLong nLastLine = nLine;
229 800537 : sal_uLong nLastColumn = nColumn;
230 : // comment
231 800537 : if( '/' == c )
232 : {
233 : // time optimization, no comments
234 23264 : int c1 = c;
235 23264 : c = GetFastNextChar();
236 23264 : if( '/' == c )
237 : {
238 159703 : while( '\0' != c )
239 : {
240 149087 : c = GetFastNextChar();
241 : }
242 5308 : c = GetNextChar();
243 5308 : rToken.nType = SVTOKEN_COMMENT;
244 : }
245 17956 : else if( '*' == c )
246 : {
247 17797 : c = GetFastNextChar();
248 21500 : do
249 : {
250 456025 : while( '*' != c )
251 : {
252 413025 : if( '\0' == c )
253 : {
254 4705 : c = GetNextChar();
255 4705 : if( IsEof() )
256 0 : return false;
257 : }
258 : else
259 408320 : c = GetFastNextChar();
260 : }
261 21500 : c = GetFastNextChar();
262 : }
263 21500 : while( '/' != c && !IsEof() && ( SVSTREAM_OK == rInStream.GetError() ) );
264 17797 : if( IsEof() || ( SVSTREAM_OK != rInStream.GetError() ) )
265 0 : return false;
266 17797 : c = GetNextChar();
267 17797 : rToken.nType = SVTOKEN_COMMENT;
268 17797 : CalcColumn();
269 : }
270 : else
271 : {
272 159 : rToken.nType = SVTOKEN_CHAR;
273 159 : rToken.cChar = (char)c1;
274 : }
275 : }
276 777273 : else if( c == '"' )
277 : {
278 1985 : OStringBuffer aStr;
279 1985 : bool bDone = false;
280 53657 : while( !bDone && !IsEof() && c )
281 : {
282 49687 : c = GetFastNextChar();
283 49687 : if( '\0' == c )
284 : {
285 : // read strings beyond end of line
286 0 : aStr.append('\n');
287 0 : c = GetNextChar();
288 0 : if( IsEof() )
289 0 : return false;
290 : }
291 49687 : if( c == '"' )
292 : {
293 1985 : c = GetFastNextChar();
294 1985 : if( c == '"' )
295 : {
296 0 : aStr.append('"');
297 0 : aStr.append('"');
298 : }
299 : else
300 1985 : bDone = true;
301 : }
302 47702 : else if( c == '\\' )
303 : {
304 0 : aStr.append('\\');
305 0 : c = GetFastNextChar();
306 0 : if( c )
307 0 : aStr.append(static_cast<char>(c));
308 : }
309 : else
310 47702 : aStr.append(static_cast<char>(c));
311 : }
312 1985 : if( IsEof() || ( SVSTREAM_OK != rInStream.GetError() ) )
313 0 : return false;
314 1985 : rToken.nType = SVTOKEN_STRING;
315 1985 : rToken.aString = aStr.makeStringAndClear();
316 : }
317 775288 : else if( isdigit( c ) )
318 : {
319 18796 : rToken.nType = SVTOKEN_INTEGER;
320 18796 : rToken.nLong = GetNumber();
321 :
322 : }
323 756492 : else if( isalpha (c) || (c == '_') )
324 : {
325 376220 : OStringBuffer aBuf;
326 4305861 : while( isalnum( c ) || c == '_' )
327 : {
328 3553421 : aBuf.append(static_cast<char>(c));
329 3553421 : c = GetFastNextChar();
330 : }
331 752440 : OString aStr = aBuf.makeStringAndClear();
332 376220 : if( aStr.equalsIgnoreAsciiCase( aStrTrue ) )
333 : {
334 25036 : rToken.nType = SVTOKEN_BOOL;
335 25036 : rToken.bBool = true;
336 : }
337 351184 : else if( aStr.equalsIgnoreAsciiCase( aStrFalse ) )
338 : {
339 75842 : rToken.nType = SVTOKEN_BOOL;
340 75842 : rToken.bBool = false;
341 : }
342 : else
343 : {
344 : sal_uInt32 nHashId;
345 275342 : if( IDLAPP->pHashTable->Test( aStr, &nHashId ) )
346 175315 : rToken.SetHash( IDLAPP->pHashTable->Get( nHashId ) );
347 : else
348 : {
349 100027 : rToken.nType = SVTOKEN_IDENTIFIER;
350 100027 : rToken.aString = aStr;
351 : }
352 376220 : }
353 : }
354 380272 : else if( IsEof() )
355 : {
356 234 : rToken.nType = SVTOKEN_EOF;
357 : }
358 : else
359 : {
360 380038 : rToken.nType = SVTOKEN_CHAR;
361 380038 : rToken.cChar = (char)c;
362 380038 : c = GetFastNextChar();
363 : }
364 800537 : rToken.SetLine( nLastLine );
365 800537 : rToken.SetColumn( nLastColumn );
366 800537 : return rInStream.GetError() == SVSTREAM_OK;
367 : }
368 :
369 : /* vim:set shiftwidth=4 softtabstop=4 expandtab: */
|
