macros
This commit is contained in:
108
ast.c
108
ast.c
@@ -4,85 +4,77 @@
|
||||
#include <stdlib.h>
|
||||
|
||||
#include "ast.h"
|
||||
#include "common.h"
|
||||
#include "parser.h"
|
||||
|
||||
#define N 1024
|
||||
|
||||
ast astParse(const char* source, const uint32_t len)
|
||||
Ast astParse(const char* source, const uint32_t len)
|
||||
{
|
||||
uint32_t estimated_token_count = len / 8;
|
||||
|
||||
TokenizerTag* token_tags = NULL;
|
||||
AstIndex* token_starts = NULL;
|
||||
AstNodeTag* nodes_tags = NULL;
|
||||
AstTokenIndex* main_tokens = NULL;
|
||||
AstData* nodes_datas = NULL;
|
||||
AstNodeIndex* extra_data_arr = NULL;
|
||||
AstNodeIndex* scratch_arr = NULL;
|
||||
|
||||
if (!(token_tags = calloc(estimated_token_count, sizeof(TokenizerTag))))
|
||||
exit(1);
|
||||
|
||||
if (!(token_starts = calloc(estimated_token_count, sizeof(AstIndex))))
|
||||
exit(1);
|
||||
// Initialize token list
|
||||
AstTokenList tokens = {
|
||||
.len = 0,
|
||||
.cap = estimated_token_count,
|
||||
.tags = SLICE_INIT(TokenizerTag, estimated_token_count),
|
||||
.starts = SLICE_INIT(AstIndex, estimated_token_count)
|
||||
};
|
||||
|
||||
// Tokenize
|
||||
Tokenizer tok = tokenizerInit(source, len);
|
||||
uint32_t tokens_len = 0;
|
||||
for (; tokens_len <= estimated_token_count; tokens_len++) {
|
||||
if (tokens_len == estimated_token_count) {
|
||||
while (true) {
|
||||
if (tokens.len >= tokens.cap) {
|
||||
fprintf(stderr, "too many tokens, bump estimated_token_count\n");
|
||||
exit(1);
|
||||
}
|
||||
TokenizerToken token = tokenizerNext(&tok);
|
||||
token_tags[tokens_len] = token.tag;
|
||||
token_starts[tokens_len] = token.loc.start;
|
||||
tokens.tags[tokens.len] = token.tag;
|
||||
tokens.starts[tokens.len] = token.loc.start;
|
||||
tokens.len++;
|
||||
if (token.tag == TOKENIZER_TAG_EOF)
|
||||
break;
|
||||
}
|
||||
|
||||
uint32_t estimated_node_count = (tokens_len + 2) / 2;
|
||||
|
||||
if (!(nodes_tags = calloc(estimated_node_count, sizeof(AstNodeTag))))
|
||||
exit(1);
|
||||
|
||||
if (!(main_tokens = calloc(estimated_node_count, sizeof(AstTokenIndex))))
|
||||
exit(1);
|
||||
|
||||
if (!(nodes_datas = calloc(estimated_node_count, sizeof(AstData))))
|
||||
exit(1);
|
||||
|
||||
if (!(extra_data_arr = calloc(N, sizeof(AstNodeIndex))))
|
||||
exit(1);
|
||||
|
||||
if (!(scratch_arr = calloc(N, sizeof(AstNodeIndex))))
|
||||
exit(1);
|
||||
|
||||
Parser p = (Parser) {
|
||||
.source = source,
|
||||
.source_len = len,
|
||||
.token_tags = token_tags,
|
||||
.token_starts = token_starts,
|
||||
.tokens_len = tokens_len,
|
||||
.tok_i = 0,
|
||||
.nodes = (AstNodeList) {
|
||||
.len = 0,
|
||||
.cap = estimated_node_count,
|
||||
.tags = nodes_tags,
|
||||
.main_tokens = main_tokens,
|
||||
.datas = nodes_datas,
|
||||
},
|
||||
.extra_data = (ParserNodeIndexSlice) { .len = 0, .cap = N, .arr = extra_data_arr },
|
||||
.scratch = (ParserNodeIndexSlice) { .len = 0, .cap = N, .arr = scratch_arr },
|
||||
// Initialize node list
|
||||
uint32_t estimated_node_count = (tokens.len + 2) / 2;
|
||||
AstNodeList nodes = {
|
||||
.len = 0,
|
||||
.cap = estimated_node_count,
|
||||
.tags = SLICE_INIT(AstNodeTag, estimated_node_count),
|
||||
.main_tokens = SLICE_INIT(AstTokenIndex, estimated_node_count),
|
||||
.datas = SLICE_INIT(AstData, estimated_node_count)
|
||||
};
|
||||
|
||||
free(scratch_arr);
|
||||
// Initialize parser
|
||||
Parser p = {
|
||||
.source = source,
|
||||
.source_len = len,
|
||||
.token_tags = tokens.tags,
|
||||
.token_starts = tokens.starts,
|
||||
.tokens_len = tokens.len,
|
||||
.tok_i = 0,
|
||||
.nodes = nodes,
|
||||
.extra_data = {
|
||||
.len = 0,
|
||||
.cap = N,
|
||||
.arr = SLICE_INIT(AstNodeIndex, N) },
|
||||
.scratch = { .len = 0, .cap = N, .arr = SLICE_INIT(AstNodeIndex, N) }
|
||||
};
|
||||
|
||||
free(p.scratch.arr); // Parser takes ownership
|
||||
|
||||
parseRoot(&p);
|
||||
|
||||
return (ast) {
|
||||
return (Ast) {
|
||||
.source = source,
|
||||
.tokens.tags = token_tags,
|
||||
.tokens.starts = token_starts,
|
||||
.source_len = len,
|
||||
.tokens = tokens,
|
||||
.nodes = p.nodes,
|
||||
.extra_data = p.extra_data.arr,
|
||||
.extra_data_len = p.extra_data.len,
|
||||
.extra_data = {
|
||||
.len = p.extra_data.len,
|
||||
.cap = p.extra_data.cap,
|
||||
.arr = p.extra_data.arr,
|
||||
},
|
||||
};
|
||||
}
|
||||
|
||||
40
ast.h
40
ast.h
@@ -486,7 +486,8 @@ typedef uint32_t AstNodeIndex;
|
||||
typedef uint32_t AstIndex;
|
||||
|
||||
typedef struct {
|
||||
AstIndex lhs, rhs;
|
||||
AstIndex lhs;
|
||||
AstIndex rhs;
|
||||
} AstData;
|
||||
|
||||
typedef struct {
|
||||
@@ -497,22 +498,35 @@ typedef struct {
|
||||
AstData* datas;
|
||||
} AstNodeList;
|
||||
|
||||
typedef struct {
|
||||
uint32_t len;
|
||||
uint32_t cap;
|
||||
TokenizerTag* tags;
|
||||
AstIndex* starts;
|
||||
} AstTokenList;
|
||||
|
||||
typedef struct {
|
||||
uint32_t len;
|
||||
uint32_t cap;
|
||||
AstNodeIndex* arr;
|
||||
} AstExtraData;
|
||||
|
||||
typedef struct {
|
||||
const char* source;
|
||||
const uint32_t source_len;
|
||||
|
||||
struct {
|
||||
uint32_t len;
|
||||
TokenizerTag* tags;
|
||||
AstIndex* starts;
|
||||
} tokens;
|
||||
|
||||
uint32_t source_len;
|
||||
AstTokenList tokens;
|
||||
AstNodeList nodes;
|
||||
AstExtraData extra_data;
|
||||
} Ast;
|
||||
|
||||
AstNodeIndex* extra_data;
|
||||
uint32_t extra_data_len;
|
||||
} ast;
|
||||
Ast astParse(const char* source, uint32_t len);
|
||||
|
||||
ast astParse(const char* source, uint32_t len);
|
||||
// MultiArrayList
|
||||
void astNodeListEnsureCapacity(AstNodeList* list, uint32_t additional);
|
||||
void astTokenListEnsureCapacity(AstTokenList* list, uint32_t additional);
|
||||
|
||||
void astNodeListAppend(AstNodeList* list, AstNodeTag tag,
|
||||
AstTokenIndex main_token, AstData data);
|
||||
void astTokenListAppend(AstTokenList* list, TokenizerTag tag, AstIndex start);
|
||||
|
||||
#endif
|
||||
|
||||
10
build.zig
10
build.zig
@@ -1,12 +1,20 @@
|
||||
const std = @import("std");
|
||||
|
||||
const headers = &[_][]const u8{
|
||||
"common.h",
|
||||
"ast.h",
|
||||
"parser.h",
|
||||
};
|
||||
|
||||
const c_lib_files = &[_][]const u8{
|
||||
"tokenizer.c",
|
||||
"ast.c",
|
||||
"zig1.c",
|
||||
"parser.c",
|
||||
};
|
||||
|
||||
const all_c_files = c_lib_files ++ &[_][]const u8{"main.c"};
|
||||
|
||||
const cflags = &[_][]const u8{
|
||||
"-std=c11",
|
||||
"-Wall",
|
||||
@@ -73,7 +81,7 @@ pub fn build(b: *std.Build) !void {
|
||||
const lint_step = b.step("lint", "Run linters");
|
||||
const clang_format = b.addSystemCommand(&.{"clang-format"});
|
||||
clang_format.addArgs(&.{ "--style=webkit", "-i" });
|
||||
for (all_c_files) |cfile| clang_format.addFileArg(b.path(cfile));
|
||||
for (all_c_files ++ headers) |f| clang_format.addFileArg(b.path(f));
|
||||
lint_step.dependOn(&clang_format.step);
|
||||
|
||||
const clang_analyze = b.addSystemCommand(&.{"clang"});
|
||||
|
||||
30
common.h
Normal file
30
common.h
Normal file
@@ -0,0 +1,30 @@
|
||||
// common.h
|
||||
#ifndef _ZIG1_COMMON_H__
|
||||
#define _ZIG1_COMMON_H__
|
||||
|
||||
#include <stdint.h>
|
||||
#include <stdlib.h>
|
||||
|
||||
#define SLICE_INIT(Type, initial_cap) ({ \
|
||||
Type* arr = calloc(initial_cap, sizeof(Type)); \
|
||||
if (!arr) \
|
||||
exit(1); \
|
||||
(__typeof__(Type*)) { arr }; \
|
||||
})
|
||||
|
||||
#define SLICE_RESIZE(slice, Type, new_cap) ({ \
|
||||
uint32_t cap = (new_cap); \
|
||||
Type* new_arr = realloc((slice)->arr, cap * sizeof(Type)); \
|
||||
if (!new_arr) \
|
||||
exit(1); \
|
||||
(slice)->arr = new_arr; \
|
||||
(slice)->cap = cap; \
|
||||
})
|
||||
|
||||
#define SLICE_ENSURE_CAPACITY(slice, Type, additional) ({ \
|
||||
if ((slice)->len + (additional) > (slice)->cap) { \
|
||||
SLICE_RESIZE(slice, Type, ((slice)->cap * 2 > (slice)->len + (additional)) ? (slice)->cap * 2 : (slice)->len + (additional)); \
|
||||
} \
|
||||
})
|
||||
|
||||
#endif
|
||||
6
parser.c
6
parser.c
@@ -3,12 +3,6 @@
|
||||
|
||||
#include "parser.h"
|
||||
|
||||
typedef struct {
|
||||
uint32_t len;
|
||||
AstNodeIndex lhs, rhs;
|
||||
bool trailing;
|
||||
} Members;
|
||||
|
||||
typedef struct {
|
||||
enum {
|
||||
FIELD_STATE_NONE,
|
||||
|
||||
18
parser.h
18
parser.h
@@ -1,11 +1,12 @@
|
||||
// parser.h
|
||||
#ifndef _ZIG1_PARSE_H__
|
||||
#define _ZIG1_PARSE_H__
|
||||
|
||||
#include "ast.h"
|
||||
#include <stdbool.h>
|
||||
#include <stdint.h>
|
||||
|
||||
#include "ast.h"
|
||||
|
||||
// Standard slice
|
||||
typedef struct {
|
||||
uint32_t len;
|
||||
uint32_t cap;
|
||||
@@ -13,8 +14,15 @@ typedef struct {
|
||||
} ParserNodeIndexSlice;
|
||||
|
||||
typedef struct {
|
||||
uint32_t len;
|
||||
AstNodeIndex lhs;
|
||||
AstNodeIndex rhs;
|
||||
bool trailing;
|
||||
} Members;
|
||||
|
||||
typedef struct Parser {
|
||||
const char* source;
|
||||
const uint32_t source_len;
|
||||
uint32_t source_len;
|
||||
|
||||
TokenizerTag* token_tags;
|
||||
AstIndex* token_starts;
|
||||
@@ -27,6 +35,8 @@ typedef struct {
|
||||
ParserNodeIndexSlice scratch;
|
||||
} Parser;
|
||||
|
||||
int parseRoot(Parser*);
|
||||
Parser* parserInit(const char* source, uint32_t len);
|
||||
void parserDeinit(Parser* parser);
|
||||
int parseRoot(Parser* parser);
|
||||
|
||||
#endif
|
||||
|
||||
246
tokenizer.h
246
tokenizer.h
@@ -4,129 +4,129 @@
|
||||
#include <stdbool.h>
|
||||
#include <stdint.h>
|
||||
|
||||
#define FOREACH_TOKENIZER_TAG_ENUM(TAG) \
|
||||
TAG(TOKENIZER_TAG_INVALID) \
|
||||
TAG(TOKENIZER_TAG_INVALID_PERIODASTERISKS) \
|
||||
TAG(TOKENIZER_TAG_IDENTIFIER) \
|
||||
TAG(TOKENIZER_TAG_STRING_LITERAL) \
|
||||
TAG(TOKENIZER_TAG_MULTILINE_STRING_LITERAL_LINE) \
|
||||
TAG(TOKENIZER_TAG_CHAR_LITERAL) \
|
||||
TAG(TOKENIZER_TAG_EOF) \
|
||||
TAG(TOKENIZER_TAG_BUILTIN) \
|
||||
TAG(TOKENIZER_TAG_BANG) \
|
||||
TAG(TOKENIZER_TAG_PIPE) \
|
||||
TAG(TOKENIZER_TAG_PIPE_PIPE) \
|
||||
TAG(TOKENIZER_TAG_PIPE_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_EQUAL_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_EQUAL_ANGLE_BRACKET_RIGHT) \
|
||||
TAG(TOKENIZER_TAG_BANG_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_L_PAREN) \
|
||||
TAG(TOKENIZER_TAG_R_PAREN) \
|
||||
TAG(TOKENIZER_TAG_SEMICOLON) \
|
||||
TAG(TOKENIZER_TAG_PERCENT) \
|
||||
TAG(TOKENIZER_TAG_PERCENT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_L_BRACE) \
|
||||
TAG(TOKENIZER_TAG_R_BRACE) \
|
||||
TAG(TOKENIZER_TAG_L_BRACKET) \
|
||||
TAG(TOKENIZER_TAG_R_BRACKET) \
|
||||
TAG(TOKENIZER_TAG_PERIOD) \
|
||||
TAG(TOKENIZER_TAG_PERIOD_ASTERISK) \
|
||||
TAG(TOKENIZER_TAG_ELLIPSIS2) \
|
||||
TAG(TOKENIZER_TAG_ELLIPSIS3) \
|
||||
TAG(TOKENIZER_TAG_CARET) \
|
||||
TAG(TOKENIZER_TAG_CARET_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_PLUS) \
|
||||
TAG(TOKENIZER_TAG_PLUS_PLUS) \
|
||||
TAG(TOKENIZER_TAG_PLUS_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_PLUS_PERCENT) \
|
||||
TAG(TOKENIZER_TAG_PLUS_PERCENT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_PLUS_PIPE) \
|
||||
TAG(TOKENIZER_TAG_PLUS_PIPE_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_MINUS) \
|
||||
TAG(TOKENIZER_TAG_MINUS_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_MINUS_PERCENT) \
|
||||
TAG(TOKENIZER_TAG_MINUS_PERCENT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_MINUS_PIPE) \
|
||||
TAG(TOKENIZER_TAG_MINUS_PIPE_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_ASTERISK) \
|
||||
TAG(TOKENIZER_TAG_ASTERISK_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_ASTERISK_ASTERISK) \
|
||||
TAG(TOKENIZER_TAG_ASTERISK_PERCENT) \
|
||||
TAG(TOKENIZER_TAG_ASTERISK_PERCENT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_ASTERISK_PIPE) \
|
||||
TAG(TOKENIZER_TAG_ASTERISK_PIPE_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_ARROW) \
|
||||
TAG(TOKENIZER_TAG_COLON) \
|
||||
TAG(TOKENIZER_TAG_SLASH) \
|
||||
TAG(TOKENIZER_TAG_SLASH_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_COMMA) \
|
||||
TAG(TOKENIZER_TAG_AMPERSAND) \
|
||||
TAG(TOKENIZER_TAG_AMPERSAND_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_QUESTION_MARK) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_LEFT) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_LEFT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_ANGLE_BRACKET_LEFT) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_ANGLE_BRACKET_LEFT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_ANGLE_BRACKET_LEFT_PIPE) \
|
||||
#define FOREACH_TOKENIZER_TAG_ENUM(TAG) \
|
||||
TAG(TOKENIZER_TAG_INVALID) \
|
||||
TAG(TOKENIZER_TAG_INVALID_PERIODASTERISKS) \
|
||||
TAG(TOKENIZER_TAG_IDENTIFIER) \
|
||||
TAG(TOKENIZER_TAG_STRING_LITERAL) \
|
||||
TAG(TOKENIZER_TAG_MULTILINE_STRING_LITERAL_LINE) \
|
||||
TAG(TOKENIZER_TAG_CHAR_LITERAL) \
|
||||
TAG(TOKENIZER_TAG_EOF) \
|
||||
TAG(TOKENIZER_TAG_BUILTIN) \
|
||||
TAG(TOKENIZER_TAG_BANG) \
|
||||
TAG(TOKENIZER_TAG_PIPE) \
|
||||
TAG(TOKENIZER_TAG_PIPE_PIPE) \
|
||||
TAG(TOKENIZER_TAG_PIPE_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_EQUAL_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_EQUAL_ANGLE_BRACKET_RIGHT) \
|
||||
TAG(TOKENIZER_TAG_BANG_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_L_PAREN) \
|
||||
TAG(TOKENIZER_TAG_R_PAREN) \
|
||||
TAG(TOKENIZER_TAG_SEMICOLON) \
|
||||
TAG(TOKENIZER_TAG_PERCENT) \
|
||||
TAG(TOKENIZER_TAG_PERCENT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_L_BRACE) \
|
||||
TAG(TOKENIZER_TAG_R_BRACE) \
|
||||
TAG(TOKENIZER_TAG_L_BRACKET) \
|
||||
TAG(TOKENIZER_TAG_R_BRACKET) \
|
||||
TAG(TOKENIZER_TAG_PERIOD) \
|
||||
TAG(TOKENIZER_TAG_PERIOD_ASTERISK) \
|
||||
TAG(TOKENIZER_TAG_ELLIPSIS2) \
|
||||
TAG(TOKENIZER_TAG_ELLIPSIS3) \
|
||||
TAG(TOKENIZER_TAG_CARET) \
|
||||
TAG(TOKENIZER_TAG_CARET_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_PLUS) \
|
||||
TAG(TOKENIZER_TAG_PLUS_PLUS) \
|
||||
TAG(TOKENIZER_TAG_PLUS_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_PLUS_PERCENT) \
|
||||
TAG(TOKENIZER_TAG_PLUS_PERCENT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_PLUS_PIPE) \
|
||||
TAG(TOKENIZER_TAG_PLUS_PIPE_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_MINUS) \
|
||||
TAG(TOKENIZER_TAG_MINUS_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_MINUS_PERCENT) \
|
||||
TAG(TOKENIZER_TAG_MINUS_PERCENT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_MINUS_PIPE) \
|
||||
TAG(TOKENIZER_TAG_MINUS_PIPE_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_ASTERISK) \
|
||||
TAG(TOKENIZER_TAG_ASTERISK_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_ASTERISK_ASTERISK) \
|
||||
TAG(TOKENIZER_TAG_ASTERISK_PERCENT) \
|
||||
TAG(TOKENIZER_TAG_ASTERISK_PERCENT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_ASTERISK_PIPE) \
|
||||
TAG(TOKENIZER_TAG_ASTERISK_PIPE_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_ARROW) \
|
||||
TAG(TOKENIZER_TAG_COLON) \
|
||||
TAG(TOKENIZER_TAG_SLASH) \
|
||||
TAG(TOKENIZER_TAG_SLASH_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_COMMA) \
|
||||
TAG(TOKENIZER_TAG_AMPERSAND) \
|
||||
TAG(TOKENIZER_TAG_AMPERSAND_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_QUESTION_MARK) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_LEFT) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_LEFT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_ANGLE_BRACKET_LEFT) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_ANGLE_BRACKET_LEFT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_ANGLE_BRACKET_LEFT_PIPE) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_ANGLE_BRACKET_LEFT_PIPE_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_RIGHT) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_RIGHT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_ANGLE_BRACKET_RIGHT) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_ANGLE_BRACKET_RIGHT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_TILDE) \
|
||||
TAG(TOKENIZER_TAG_NUMBER_LITERAL) \
|
||||
TAG(TOKENIZER_TAG_DOC_COMMENT) \
|
||||
TAG(TOKENIZER_TAG_CONTAINER_DOC_COMMENT) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ADDRSPACE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ALIGN) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ALLOWZERO) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_AND) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ANYFRAME) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ANYTYPE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ASM) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ASYNC) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_AWAIT) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_BREAK) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_CALLCONV) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_CATCH) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_COMPTIME) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_CONST) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_CONTINUE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_DEFER) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ELSE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ENUM) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ERRDEFER) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ERROR) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_EXPORT) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_EXTERN) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_FN) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_FOR) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_IF) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_INLINE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_NOALIAS) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_NOINLINE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_NOSUSPEND) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_OPAQUE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_OR) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ORELSE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_PACKED) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_PUB) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_RESUME) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_RETURN) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_LINKSECTION) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_STRUCT) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_SUSPEND) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_SWITCH) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_TEST) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_THREADLOCAL) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_TRY) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_UNION) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_UNREACHABLE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_USINGNAMESPACE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_VAR) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_VOLATILE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_WHILE) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_RIGHT) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_RIGHT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_ANGLE_BRACKET_RIGHT) \
|
||||
TAG(TOKENIZER_TAG_ANGLE_BRACKET_ANGLE_BRACKET_RIGHT_EQUAL) \
|
||||
TAG(TOKENIZER_TAG_TILDE) \
|
||||
TAG(TOKENIZER_TAG_NUMBER_LITERAL) \
|
||||
TAG(TOKENIZER_TAG_DOC_COMMENT) \
|
||||
TAG(TOKENIZER_TAG_CONTAINER_DOC_COMMENT) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ADDRSPACE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ALIGN) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ALLOWZERO) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_AND) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ANYFRAME) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ANYTYPE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ASM) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ASYNC) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_AWAIT) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_BREAK) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_CALLCONV) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_CATCH) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_COMPTIME) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_CONST) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_CONTINUE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_DEFER) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ELSE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ENUM) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ERRDEFER) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ERROR) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_EXPORT) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_EXTERN) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_FN) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_FOR) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_IF) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_INLINE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_NOALIAS) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_NOINLINE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_NOSUSPEND) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_OPAQUE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_OR) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_ORELSE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_PACKED) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_PUB) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_RESUME) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_RETURN) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_LINKSECTION) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_STRUCT) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_SUSPEND) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_SWITCH) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_TEST) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_THREADLOCAL) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_TRY) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_UNION) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_UNREACHABLE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_USINGNAMESPACE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_VAR) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_VOLATILE) \
|
||||
TAG(TOKENIZER_TAG_KEYWORD_WHILE)
|
||||
|
||||
#define GENERATE_ENUM(ENUM) ENUM,
|
||||
#define GENERATE_STRING(STRING) #STRING,
|
||||
@@ -135,7 +135,7 @@ typedef enum {
|
||||
FOREACH_TOKENIZER_TAG_ENUM(GENERATE_ENUM)
|
||||
} TokenizerTag;
|
||||
|
||||
static const char *tokenizerTagString[] = {
|
||||
static const char* tokenizerTagString[] = {
|
||||
FOREACH_TOKENIZER_TAG_ENUM(GENERATE_STRING)
|
||||
};
|
||||
|
||||
|
||||
Reference in New Issue
Block a user